ไม่นานมานี้ เมื่อ Hugging Face เปิดตัว Llama Windows ซึ่งเป็น AI Open-source ที่เปิดให้ใช้งานฟรี โดยเป็นการนำเอนจินยอดนิยมอย่าง llama.cpp มาไว้บนถาดระบบของเครื่องโดยตรง ช่วยให้ผู้ใช้งานสามารถดาวน์โหลดโมเดล เปิดใช้งาน และเริ่มแช็ตสั่งงาน AI ได้ทันทีโดยไม่ต้องแตะหน้าต่างพิมพ์คำสั่งแม้แต่นิดเดียว
ในอดีตการจะรันโมเดล AI แบบเปิดบนคอมพิวเตอร์สักเครื่อง ผู้ใช้ต้องเจอกับขั้นตอนที่ชวนปวดหัวมากมาย ซึ่งไอการที่ต้องมานั่ง Setting อาจทำให้ยอมแพ้ไปก่อน ไม่ว่าจะเป็นการตามหาไฟล์ระบบที่เข้ากันได้ การเลือกโมเดลที่บีบอัดขนาดมาแล้ว ไปจนถึงการตั้งค่าเซิร์ฟเวอร์ด้วยตัวเอง
แต่ Llama Windows ได้ลดขั้นตอนให้เหลือเพียงไม่กี่คลิก ตัวแอปฯ มีหน้าต่าง Recommended Models ที่รวบรวมโมเดลยอดนิยมจาก Hugging Face Hub มาให้เลือกใช้งาน พร้อมบอกข้อมูลสำคัญอย่างจำนวนพารามิเตอร์ ขนาดไฟล์ที่ต้องดาวน์โหลด และความสามารถด้านการประมวลผลภาพอย่างชัดเจนครับ
เมื่อดาวน์โหลดเสร็จ โมเดลจะไปปรากฏอยู่ในหน้าต่าง Available ให้เรากดโหลดเข้าสู่ระบบหรือปิดการทำงานได้ตามต้องการ ตัวแอปฯ ออกแบบด้วยระบบ WinUI 3 ที่กลมกลืนไปกับหน้าตาของ Windows และทำงานอยู่ตรงมุมขวาล่างของหน้าจอ ที่สำคัญคือผู้ใช้สามารถกดปุ่มลัด Alt + Space เพื่อเรียกหน้าต่างแช็ตขึ้นมาคุยกับ AI ได้ทันทีจากทุกหน้าจอ
พอเป็น AI Local ข้อมูลก็ปลอดภัย 100%
การประมวลผลทั้งหมดของระบบนี้ เกิดขึ้นภายในคอมพิวเตอร์ของเราโดยตรง ชุดคำสั่ง Prompt และข้อมูลต่าง ๆ จะไม่ถูกส่งออกไปหาเซิร์ฟเวอร์ภายนอกเลย และเมื่อดาวน์โหลดโมเดลมาเก็บไว้ในเครื่องแล้ว เราสามารถใช้งาน AI ได้แบบออฟไลน์โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต
สำหรับสายพัฒนาซอฟต์แวร์ ตัวแอปฯ ยังช่วยจัดการระบบเบื้องหลังของ llama.cpp ให้โดยอัตโนมัติ ไม่ว่าจะเชื่อมต่อกับเซิร์ฟเวอร์เดิมที่มีอยู่ หรือติดตั้งระบบใหม่ที่จำเป็นโดยไม่ต้องใช้สิทธิ์ผู้ดูแลระบบ นอกจากนี้ยังเปิดพอร์ตเชื่อมต่อผ่านเซิร์ฟเวอร์ภายในที่ http://localhost:9931 ซึ่งรองรับ API มาตรฐานเดียวกับ OpenAI ทำให้สามารถนำแอปฯ อื่น ๆ หรือเขียนสคริปต์มาดึงพลังของโมเดล AI ในเครื่องไปใช้งานต่อได้อย่างยืดหยุ่นครับ
ระบบยังรองรับชิปเซ็ต Arm และเทคโนโลยี NVIDIA RTX Spark
ตัวแอปฯ เปิดตัวมาพร้อมกับการรองรับระบบ Windows on Arm อย่างเต็มรูปแบบ และทำงานร่วมกับเทคโนโลยี NVIDIA RTX Spark ได้ตั้งแต่แรกเริ่ม ซึ่งทาง Hugging Face ระบุว่าได้ร่วมมือกับ NVIDIA เพื่อปรับแต่งให้แอปฯ ดึงศักยภาพของการ์ดจอออกมาใช้ได้อย่างเต็มประสิทธิภาพ นอกจากนี้ ระบบยังใช้พื้นที่เก็บไฟล์แคชร่วมกับมาตรฐานของ Hugging Face ทำให้ไม่ต้องดาวน์โหลดโมเดลซ้ำซ้อนหากคุณใช้เครื่องมืออื่น ๆ ในเครือเดียวกันอยู่แล้ว
หากใครสนใจ ลองไปโหลดเล่นได้ที่เว็บไซต์ llama.app เมื่อติดตั้งเสร็จ เพียงคลิกที่ไอคอนรูปตัวลามะตรงมุมขวาล่างของจอ เลือกโมเดลที่แนะนำ กดดาวน์โหลด แล้วเริ่มแช็ตได้เลย ส่วนใครที่เป็นนักพัฒนาและอยากเข้าไปดูซอร์สโค้ด แจ้งปัญหา หรือร่วมพัฒนาฟีเจอร์ใหม่ ๆ ก็สามารถเข้าไปดูได้ที่ GitHub ครับ
ที่มา : windowsreport
