Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> สมาร์ทโฟน >> Android

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ

เผยแพร่เมื่อวันที่ 16 เมษายน 2026 เวลา 15:00 น. EDT

Oluwademilade เป็นผู้ชื่นชอบเทคโนโลยีและมีประสบการณ์ในการเขียนมากกว่าห้าปี เขาเข้าร่วมทีม MUO ในปี 2022 และครอบคลุมหัวข้อต่างๆ รวมถึงเทคโนโลยีสำหรับผู้บริโภค, iOS, Android, ปัญญาประดิษฐ์, ฮาร์ดแวร์, ซอฟต์แวร์ และความปลอดภัยทางไซเบอร์ นอกจากงานเขียนที่ MUO แล้ว งานของเขายังปรากฏใน HowtoGeek, Cryptoknowmics, TechNerdiness และ SlashGear

Oluwademilade เข้าเรียนที่มหาวิทยาลัย Ibadan ในประเทศไนจีเรีย โดยได้รับปริญญาทางการแพทย์จากวิทยาลัยแพทยศาสตร์ Oluwademilade เป็นเลิศในด้านการบริการสาธารณะ ได้รับเกียรติจากตำแหน่ง Global Action Ambassador จากองค์กรนักศึกษาในเครือสหประชาชาติ เขาได้รับตำแหน่งนี้ในกรุงกัวลาลัมเปอร์ ประเทศมาเลเซีย เพื่อเป็นการยกย่องความพยายามของเขาในการสร้างผลกระทบเชิงบวกระดับโลกในปี 2020
 

ในเวลาว่าง Oluwademilade สนุกกับการทดสอบแอปและฟีเจอร์ AI ใหม่ แก้ไขปัญหาเทคโนโลยีสำหรับครอบครัวและเพื่อนฝูง การเรียนรู้ภาษาการเขียนโค้ดใหม่ๆ และการเดินทางไปยังสถานที่ใหม่ๆ ทุกครั้งที่เป็นไปได้

ทุกครั้งที่คุณส่งข้อความแจ้งเตือนไปยัง ChatGPT, Gemini และรายการอื่น ๆ ข้อความดังกล่าวจะเดินทางผ่านอินเทอร์เน็ต ตกลงบนเซิร์ฟเวอร์ที่ไหนสักแห่ง และกลายเป็นส่วนหนึ่งของระบบที่คุณไม่เคยเห็นมาก่อน การแลกเปลี่ยนนั้นมักจะคุ้มค่าเนื่องจากโมเดลระบบคลาวด์ทำงานเร็วขึ้น ชาญฉลาดขึ้น และใช้งานง่ายขึ้น

แต่การใช้โมเดลภาษาเล็กๆ บนโทรศัพท์ของฉันได้เปลี่ยนสิ่งที่ฉันใช้ AI ไป ประสบการณ์นี้มีความเป็นส่วนตัวมากกว่า และบางครั้งก็ใช้งานได้จริงมากกว่าที่ฉันคาดไว้ มันไม่ได้ทรงพลังเท่ากับ AI บนคลาวด์ แต่สำหรับบางสิ่ง มันเป็นเครื่องมือที่ดีกว่าจริงๆ

นี่เป็นวิธีที่มีประโยชน์ที่สุดที่ฉันลงเอยด้วยการใช้ LLM ท้องถิ่นบนโทรศัพท์ของฉัน

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ ที่เกี่ยวข้อง

ฉันใช้มันเป็นคู่คิด

สำหรับคำถาม ฉันไม่ต้องการออกจากโทรศัพท์

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ เครดิต:Oluwademilade Afolabi / MakeUseOf

มีคำถามบางประเภทที่ให้คุณหยุดก่อนที่จะพิมพ์ลงใน ChatGPT หรือแม้แต่ Google ไม่ใช่เพราะมันไม่เหมาะสม แต่เพราะมันเป็นเรื่องส่วนตัวมากจนทำให้การส่งมันไปยังเซิร์ฟเวอร์ที่เชื่อมโยงกับบัญชีของคุณนั้นรู้สึกไม่ดีนัก สิ่งที่ถือเป็น "ส่วนตัวเกินไป" จะแตกต่างกันไปในแต่ละคน แต่ดูเหมือนว่าทุกคนจะมีเส้นแบ่งที่มองไม่เห็น

นี่คือคำถามที่ฉันเริ่มใช้กับโมเดลท้องถิ่นแทน การสนทนายังคงอยู่บนฮาร์ดแวร์ของฉัน และหากฉันต้องการระมัดระวังเป็นพิเศษ ฉันสามารถพลิกโทรศัพท์ของฉันเป็นโหมดเครื่องบินและสนทนาแบบมีช่องว่างอากาศได้อย่างแท้จริง ณ จุดนั้น จริงๆ แล้วมีเพียงคุณและนางแบบเท่านั้น โดยไม่เชื่อมต่อกับโลกภายนอก

สิ่งนี้เปลี่ยนวิธีที่ฉันใช้ AI ฉันเต็มใจที่จะคิดออกมาดังๆ ทดสอบความคิดแบบครึ่งๆกลางๆ หรือถามคำถามที่ฉันมักจะเก็บไว้กับตัวเองมากกว่า

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ

MNN

ฉันทิ้งข้อความยุ่งๆ ลงไป

และนำโครงสร้างบางส่วนกลับมา

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ เครดิต:Oluwademilade Afolabi / MakeUseOf

ฉันจดบันทึกมากมาย และจริงๆ แล้วส่วนใหญ่ไม่เป็นระเบียบ ประกอบด้วยการถอดเสียงพูดเป็นข้อความที่วนกลับมาที่ตัวมันเอง สัญลักษณ์แสดงหัวข้อย่อยโดยไม่มีบริบท ความคิดที่จบไปเพียงครึ่งเดียวซึ่งสมเหตุสมผลในขณะนั้นและไม่มีเลยในภายหลัง ขั้นตอนการทำงานเก่าของฉันเกี่ยวข้องกับการจ้องมอง การสลับบรรทัด และค่อยๆ พยายามสร้างสิ่งที่ฉันหมายถึงขึ้นมาใหม่

ตอนนี้ฉันวางกองสมองเหล่านั้นลงในโมเดลท้องถิ่นโดยตรง และขอให้มันจัดระเบียบพวกมัน มันสามารถดึงด้ายออกมา ดูว่าฉันกำลังวนอะไรอยู่ และนำสิ่งที่สะอาดกว่ามาสร้างกลับมา ไม่ได้ขัดเกลาทั้งหมด แต่สอดคล้องกันเพียงพอที่จะก้าวไปข้างหน้า

วิธีนี้ใช้ได้ผลดีกับโน้ตที่รู้สึกว่าดิบเกินกว่าจะส่งไปที่ไหนก็ได้ เนื่องจากทุกอย่างยังคงอยู่ในอุปกรณ์ ฉันจึงไม่ลังเลที่จะวางเนื้อหาที่มีชื่อจริง ตัวเลข หรือบริบทส่วนบุคคลลงในสื่อ ดังที่ฉันได้กล่าวไว้ก่อนหน้านี้ ไม่มีการหยุดชั่วคราวเกี่ยวกับว่าข้อความจะไปที่ใด เนื่องจากข้อความไม่เคยออกจากเครื่องเลย นั่นคือสาเหตุที่ฉันเปลี่ยนทุกอย่างเป็น AI ในพื้นที่และหยุดส่งเอกสารไปยังคลาวด์

ฉันดำเนินการตรวจสอบโค้ดอย่างรวดเร็ว

เมื่อฉันต้องการตรวจสอบตรรกะ

ตรรกะที่เป็นกรรมสิทธิ์ เครื่องมือภายใน การกำหนดค่าเฉพาะไคลเอนต์ สิ่งเหล่านี้คือสถานการณ์มากมายที่การวางโค้ดลงในโมเดลคลาวด์ถือเป็นแนวคิดที่ไม่ดี โดยไม่คำนึงถึงเงื่อนไขการให้บริการ LLM ในพื้นที่ที่ทำงานบนโทรศัพท์ของฉันกลายเป็นทางเลือกเล็กๆ น้อยๆ เมื่อฉันไม่ได้อยู่ที่แล็ปท็อป เช่นเดียวกับที่มีวิธีที่น่าสนใจหลายวิธีในการใช้ LLM ในพื้นที่ด้วยเครื่องมือ MCP บนเดสก์ท็อป ฉันสามารถอธิบายข้อผิดพลาด วางฟังก์ชันเล็กๆ หรือเพียงแค่ขอคำอธิบายเป็นภาษาอังกฤษธรรมดาว่าตรรกะก้อนใหญ่กำลังทำอะไรโดยตรงจากโทรศัพท์ของฉัน

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ ที่เกี่ยวข้อง

มันไม่ใช่การแทนที่ IDE ที่เหมาะสม แม้จะไม่ได้ปิดสนิท แต่ก็ช่วยเติมเต็มช่องว่าง วิธีนี้ใช้ได้ผลดีที่สุดกับตัวอย่างข้อมูลขนาดเล็ก เช่น ไม่เกินสองสามร้อยบรรทัด ภายในช่วงดังกล่าว แม้แต่รุ่นเล็กๆ ในอุปกรณ์ก็สามารถอธิบายตรรกะ ระบุข้อผิดพลาดที่ชัดเจน หรือแนะนำแนวทางที่สะอาดกว่าได้

ฉันใช้มันเป็นครูสอนภาษาแบบไม่มีแรงกดดัน

ฝึกฝนโดยไม่มีลายเส้น คะแนน หรือความกดดัน

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ เครดิต:Oluwademilade Afolabi / MakeUseOf

แอปภาษาบนคลาวด์มักจะรู้สึกเหมือนเกมบนมือถือมากกว่าเครื่องมือการเรียนรู้ พวกเขาติดตามการต่อเนื่อง สะกิดคุณด้วยการแจ้งเตือน และโปรยโฆษณาเพื่อให้คุณมีส่วนร่วม LLM ท้องถิ่นไม่ดำเนินการใดๆ ทั้งสิ้น

ฉันใช้มันเพื่อฝึกฝนภาษาฝรั่งเศสและสเปนในรูปแบบที่อิสระมากขึ้น ด้วยแรงบันดาลใจจากเคล็ดลับในการใช้ Kindle และ ChatGPT เป็นทางลัดในการเรียนรู้ภาษาใหม่ ฉันสามารถถามคำถามไวยากรณ์ที่น่าอึดอัด ขอสถานการณ์สวมบทบาท หรือเพียงแค่สนทนาแบบสบายๆ โดยไม่ต้องกังวลกับข้อผิดพลาด ไม่มีระบบการให้คะแนนและไม่มีความรู้สึกถูกประเมิน

เนื่องจากทำงานภายในเครื่อง จึงทำงานแบบออฟไลน์ได้ด้วย ฉันสามารถฝึกซ้อมระหว่างเที่ยวบิน ผ่าน Wi-Fi ในโรงแรมที่ขาดการเชื่อมต่อ หรือทุกที่ที่การเชื่อมต่อของฉันไม่สามารถเชื่อถือได้ ซึ่งทำให้ง่ายต่อการบีบเซสชันสั้นๆ โดยไม่ต้องวางแผนเรื่องการเชื่อมต่อ

ฉันหันกล้องไปที่สิ่งต่างๆ แล้วถาม...

นั่นคืออะไร?

5 การใช้งานอันทรงพลังสำหรับ LLM ท้องถิ่นบนโทรศัพท์ของคุณ เครดิต:Raghav Sethi/MakeUseOf

โมเดลท้องถิ่นบางรุ่นสามารถจัดการรูปภาพและข้อความได้ (จริงๆ แล้วเรียกว่าโมเดลหลายรูปแบบ) ซึ่งเปิดชุดการใช้งานที่ใช้งานได้จริง ฉันมักจะใช้เพื่อสรุปกระดานไวท์บอร์ด ตีความบันทึกย่อที่เขียนด้วยลายมือ และแยกประเด็นสำคัญจากภาพถ่ายสั้นๆ

นอกจากนี้ยังเป็นประโยชน์สำหรับสถานการณ์ในชีวิตประจำวันอีกด้วย ฉันได้ติดฉลากส่วนผสมเพื่อตรวจสอบสารก่อภูมิแพ้อีกครั้ง ถ่ายภาพบรรจุภัณฑ์ของผลิตภัณฑ์เพื่อทำความเข้าใจคำศัพท์ที่ไม่คุ้นเคย และถ่ายรูปพืชเพื่อระบุตัวตนคร่าวๆ การดำเนินการนี้ไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ตเมื่อโมเดลทำงานบนอุปกรณ์โดยสมบูรณ์

ผลลัพธ์ไม่ได้สมบูรณ์แบบเสมอไป โมเดลขนาดเล็กอาจทำให้เกิดภาพหลอนในรายละเอียด โดยเฉพาะอย่างยิ่งเมื่อภาพเบลอหรือเกะกะ ถึงกระนั้น ก็มักจะดีพอสำหรับบริบทสั้นๆ หรือความคิดเห็นที่สอง ซึ่งโดยปกติคือสิ่งเดียวที่ฉันต้องการ

โมเดลที่เล็กกว่า แต่มีประโยชน์ต่างกัน

MNN Chat ซึ่งพัฒนาโดย Alibaba ในรูปแบบโครงการโอเพ่นซอร์ส กลายเป็นสิ่งที่ฉันชอบสำหรับงานประเภทนี้ เพราะมันบีบประสิทธิภาพจากฮาร์ดแวร์มือถือได้ดีแค่ไหน มันพิสูจน์ได้เพียงลำพังว่าคุณสามารถ (และควร) ใช้งาน LLM เล็กๆ บนโทรศัพท์ Android ของคุณได้

อย่างไรก็ตาม การใช้ LLM ในพื้นที่บนโทรศัพท์ของคุณไม่สามารถทดแทน Cloud AI ได้ โมเดลที่ใหญ่กว่ายังคงได้เปรียบในเรื่องของการยกของหนัก การใช้เหตุผลที่ซับซ้อน การเขียนโค้ด การค้นคว้าเชิงลึก ทั้งหมดนี้ แต่นั่นไม่ใช่ประเด็นจริงๆ โมเดลท้องถิ่นจะมีบทบาทที่แตกต่างออกไป เป็นส่วนตัว เข้าถึงได้ตลอดเวลา และค่อนข้างมีประโยชน์สำหรับงานเล็กๆ ในชีวิตประจำวัน