กลยุทธ์ AI Gateway ลดต้นทุน AI ในองค์กรได้ 50%  หมดห่วงเรื่อง Token

AI Gateway

การนำเทคโนโลยีปัญญาประดิษฐ์มาใช้งานในปัจจุบันไม่ใช่เพียงทางเลือกเพื่อสร้างความได้เปรียบอีกต่อไป แต่กลายเป็นความจำเป็นที่ทุกองค์กรต้องเร่งปรับตัวเพื่อความอยู่รอดและสร้างการเติบโตทางธุรกิจ

อย่างไรก็ตาม การที่องค์กรเร่งผลักดันเวิร์กโหลด AI เข้าสู่ระบบใช้งานจริงมากขึ้น ทำให้เกิดข้อจำกัดด้านทรัพยากรและความซับซ้อนในการปฏิบัติงาน ซึ่งอาจกลายเป็นอุปสรรคต่อความคล่องตัว ปัญหาสำคัญที่หลายธุรกิจกำลังเผชิญคือ ทราบดีว่าต้องเริ่มใช้งาน AI แต่ไม่ทันตระหนักว่าเมื่อขยายการใช้งานไปสู่ระดับองค์กรแล้ว ต้นทุนแฝงจะพุ่งสูงขึ้นอย่างรวดเร็วเพียงใด

สาเหตุหลักมาจากโครงสร้างราคาของการใช้งาน Public AI เชิงพาณิชย์ทั่วไปที่คิดค่าบริการตามปริมาณการใช้งานจริงในรูปแบบ Token โดยยิ่งพนักงานในองค์กรส่งคำสั่งวิเคราะห์ข้อมูล สรุปเอกสาร เขียนโค้ด หรือเชื่อมต่อระบบอัตโนมัติมากเท่าไหร่ ค่าใช้จ่ายก็จะยิ่งทวีคูณตามปริมาณข้อมูลที่ไหลเข้าออกอย่างไม่สิ้นสุด

ดังนั้น การมองหาทางเลือกด้วยการนำโมเดล AI มารันบนโครงสร้างพื้นฐานของตัวเองจึงกลายเป็นคำตอบที่คุ้มค่าและคาดการณ์งบประมาณได้ดีกว่าในระยะยาว

กลยุทธ์ AI Gateway

คำถามสำคัญคือองค์กรจะบริหารจัดการการใช้งานอย่างไรให้ได้ทั้งประสิทธิภาพสูงสุดและประหยัดงบประมาณไปพร้อมกัน กรณีศึกษาที่น่าสนใจคือแนวทางของ Nutanix ที่สามารถลดต้นทุนการใช้งาน AI ภายในองค์กรลงได้มากถึง 50% หัวใจสำคัญไม่ได้อยู่ที่การสั่งห้ามพนักงานใช้ AI แต่อยู่ที่การนำระบบตัวกลางอย่าง AI Gateway เข้ามาทำหน้าที่คัดกรองและจัดสรรงานอย่างชาญฉลาด

ในมุมของโครงสร้างพื้นฐาน Nutanix ได้จัดเตรียมเทคโนโลยีหลักที่ครอบคลุมทั้งเครื่องเสมือน คอนเทนเนอร์ ระบบจัดเก็บข้อมูล ระบบรักษาความปลอดภัย ตลอดจน Nutanix Agent Gateway และบริการโมเดลในรูปแบบบริการหรือ Model-As-A-Service

ระบบ AI Gateway นี้จะทำหน้าที่เสมือนผู้จัดการจราจรที่วิเคราะห์คำสั่งของพนักงานในองค์กรแบบเรียลไทม์ เพื่อคำนวณว่างานชิ้นใดมีความซับซ้อนสูงและจำเป็นต้องส่งไปประมวลผลบน Frontier AI ที่เป็น Public AI ภายนอก และงานชิ้นใดที่เป็นงานทั่วไปหรือเกี่ยวข้องกับข้อมูลภายในที่สามารถดึงลงมาใช้ Local AI บนเซิร์ฟเวอร์ของบริษัทเองได้

จากการคัดกรองด้วยวิธีนี้ Nutanix พบว่า ตัวเองสามารถแบ่งสัดส่วนงานที่ต้องพึ่งพาขีดความสามารถระดับสูงของ Public AI เพียงแค่ 20% เท่านั้น ในขณะที่งานส่วนใหญ่กว่า 80% เช่น การค้นหาข้อมูลภายในองค์กร การสรุปรายงานประจำวัน การแปลภาษา หรือการตรวจสอบโค้ดเบื้องต้น สามารถนำมารันบน Local AI ภายในโครงสร้างพื้นฐานของตัวเองได้ทั้งหมด

เมื่อเวิร์กโหลดส่วนใหญ่ถึง 80% ไม่ต้องเสียค่าบริการราย Token ให้กับผู้ให้บริการภายนอก ต้นทุนรวมจึงลดลงอย่างก้าวกระโดด แนวทางนี้จึงสอดคล้องกับการพัฒนาโซลูชันที่ขับเคลื่อนโดย Nutanix Agentic AI เพื่อรองรับการประมวลผล AI แบบไพรเวทและรับมือกับปัญหาต้นทุน AI ที่พุ่งสูง

ส่วนเหตุผลว่า ทำไม ต้องเป็น 80/20 ในช่วงแรก Nutanix มีแผน ที่จะนำเวิร์คโหลดต่างๆ มารันบน Local AI แบบ 100% แต่หลังจากการปรับแต่งและใช้งาน พบว่า โมเดล Local AI หลายตัว ยังมีความฉลาดสู้ Frontier AI ไม่ได้ ครับ

พลังพันธมิตรระดับโลก

การจะสร้างระบบ Local AI ที่แข็งแกร่งและใช้งานได้ง่ายเทียบเท่าคลาวด์สาธารณะ ไม่สามารถทำได้ด้วยซอฟต์แวร์เพียงลำพัง Nutanix จึงเดินหน้าจับมือกับพาร์ทเนอร์ระดับโลกทั้งในฝั่งชิปประมวลผล ฮาร์ดแวร์ เครือข่าย และคลังโมเดลระดับโลกอย่าง NVIDIA, AMD และ Hugging Face รวมถึงพันธมิตรด้านโครงสร้างพื้นฐานอย่าง Supermicro และ Netris ความร่วมมือเชิงลึกนี้สร้างประโยชน์ชัดเจนให้กับทั้งสองฝ่าย

ในมุมของ Nutanix การผสานความร่วมมือกับผู้นำในอุตสาหกรรมทำให้แพลตฟอร์มของตนก้าวขึ้นเป็นตัวกลางมาตรฐานที่รองรับสถาปัตยกรรมฮาร์ดแวร์และโมเดล AI ได้อย่างครอบคลุม โดย Nutanix ทำหน้าที่เป็นทั้งระบบควบคุม AI Cloud และเป็นระบบสตอเรจที่จัดเก็บข้อมูล AI ซึ่งออกแบบมาให้รองรับเวิร์กโหลดด้วยการทำงานที่ยืดหยุ่นและรองรับการรับส่งข้อมูลปริมาณมหาศาล

ในมุมของลูกค้าองค์กร สิ่งที่ได้รับคือความยืดหยุ่นและอิสระในการเลือกใช้เทคโนโลยีที่เหมาะสมกับงบประมาณโดยไม่ต้องยึดติดกับผู้ผลิตรายใดรายหนึ่ง ดังนี้

ทางเลือกชิปประมวลผล ลูกค้าสามารถเลือกใช้ขุมพลังจากทั้ง NVIDIA และ AMD เพื่อให้เหมาะกับลักษณะงานและงบประมาณ โดยไม่ต้องกังวลเรื่องการผูกขาดฮาร์ดแวร์
การปลดล็อกคอขวดระบบ Nutanix วางแผนให้โซลูชันทำงานร่วมกับ NVIDIA Vera CPU ได้ตั้งแต่วันแรกที่เปิดตัว เพื่อลดความหน่วงและเพิ่มประสิทธิภาพให้การรัน AI Agent พร้อมเสริมความปลอดภัยด้วย NVIDIA OpenShell

โครงสร้างพื้นฐานพร้อมใช้ การผสานเซิร์ฟเวอร์ของ Supermicro และ GPU ของ NVIDIA เข้ากับ Nutanix Agentic AI และเครือข่าย NVIDIA Spectrum-X ช่วยลดความล่าช้าจากการปรับแต่งระบบที่ซับซ้อนในองค์กร
ขุมคลังโมเดลเปิดกว้าง การเชื่อมต่อกับ Hugging Face ช่วยให้ธุรกิจดึงโมเดล Open-Source ที่ผ่านการฝึกฝนมาแล้วมาปรับใช้กับข้อมูลภายในได้ทันทีโดยไม่ต้องเสียเวลาสร้างโมเดลใหม่ตั้งแต่ศูนย์

ทางออกวิกฤตฮาร์ดแวร์ขาดตลาด

แม้การรัน Local AI บนเซิร์ฟเวอร์ของตัวเองจะช่วยประหยัดต้นทุนในระยะยาว แต่ความท้าทายใหญ่ในปัจจุบันคือปัญหาการขาดแคลนฮาร์ดแวร์หรือ Hardware Shortage ที่ทำให้การสั่งซื้อการ์ดจอและเซิร์ฟเวอร์ต้องรอนานหลายเดือน คำถามที่ตามมาคือ หากธุรกิจเลือกนำซอฟต์แวร์ AI ไปรันบน Public Cloud ชั่วคราวจะคุ้มค่าหรือไม่เมื่อเทียบกับการใช้ Public AI แบบสำเร็จรูปไปเลย

คำแนะนำจากมุมมองของ Nutanix คือ การนำแพลตฟอร์มซอฟต์แวร์ AI ไปรันบนทรัพยากรของ Public Cloud หรือผู้ให้บริการคลาวด์ยุคใหม่ยังคงมีความคุ้มค่าและปลอดภัยกว่าการจ่ายเงินซื้อ Token บน Public AI โดยตรงในสเกลใหญ่ เหตุผลแรกคือองค์กรยังคงควบคุมข้อมูลสำคัญไว้ในสภาพแวดล้อมส่วนตัวของตนเองได้ทั้งหมด และจ่ายค่าเช่าตามทรัพยากรการประมวลผลจริงแทนการจ่ายตามจำนวนคำสั่งที่ควบคุมเพดานราคาได้ยาก

เหตุผลที่สองคือเรื่องความคล่องตัวในการย้ายระบบ เพราะองค์กรต้องการ AI Cloud ที่สามารถเชื่อมโยงระบบอัจฉริยะ แอปพลิเคชันระดับองค์กร และข้อมูลเข้าด้วยกันได้อย่างง่ายดาย ทั้งบน CPU, GPU, เครื่องเสมือน คอนเทนเนอร์ สภาพแวดล้อมภายในองค์กร และคลาวด์

แต่นี่ ก็ยังไม่ใช่หนทางที่ดีที่สุด สำหรับการใช้งาน AI ในองค์กร ด้วยเหตุผลด้านความปลอดภัย ความเป็นส่วนตัว และการกำกับดูแล โดยการรัน AI และ Agent ในระดับองค์กรจำเป็นต้องมีระบบรักษาความปลอดภัย ประสิทธิภาพ และการกำกับดูแลในตัว นอกจากนี้ยังต้องการสภาพแวดล้อมขณะประมวลผล ที่ปลอดภัยและเป็นส่วนตัวสำหรับ Agent  ดังนั้น องค์กรจึงจำเป็นต้องลงทุนโครงสร้างพื้นฐานด้าน AI ของตัวเองไว้ด้วยเช่นกัน

แนวทางเริ่มต้นสำหรับธุรกิจ

สำหรับองค์กรที่ต้องการนำแนวคิด AI Gateway และการจัดสรรทรัพยากรแบบ 80/20 ตามแบบฉบับของ Nutanix ไปประยุกต์ใช้เพื่อควบคุมต้นทุน สามารถเริ่มต้นวางรากฐานตามขั้นตอนคือ

  • สำรวจและจำแนกงาน วิเคราะห์รูปแบบการใช้งาน AI ของพนักงานในบริษัทเพื่อแยกแยะว่างานส่วนใดต้องการการคิดวิเคราะห์ซับซ้อนระดับ 20% และงานส่วนใดเป็นงานประจำทั่วไปในกลุ่ม 80%
  • เลือกโมเดลให้ตรงงาน นำโมเดลขนาดเล็กหรือโมเดลจาก Hugging Face มาจับคู่กับงานกลุ่ม 80% เพื่อลดการใช้ทรัพยากรประมวลผลเกินความจำเป็น
  • วางระบบตัวกลางควบคุม ติดตั้งระบบ AI Gateway เพื่อทำหน้าที่กำหนดสิทธิ์การเข้าถึง ตรวจสอบความปลอดภัยของข้อมูล และคัดกรองคำสั่งไปยังโมเดลที่คุ้มค่าที่สุดโดยอัตโนมัติ
  • สร้างรากฐานแบบไฮบริด เลือกใช้แพลตฟอร์มแบบรวมศูนย์ที่มาพร้อมระบบรักษาความปลอดภัย ประสิทธิภาพ และการกำกับดูแลในตัว เพื่อรองรับการขยายระบบทั้งในองค์กรและบนคลาวด์

การบริหารจัดการ AI ในยุคปัจจุบันจึงไม่ใช่เรื่องของการทุ่มงบประมาณมหาศาลไปกับบริการคลาวด์สาธารณะเพียงอย่างเดียว แต่คือการออกแบบสถาปัตยกรรมที่สมดุลระหว่างความฉลาดของโมเดลและความคุ้มค่าในการลงทุน การผสมผสานซอฟต์แวร์เข้ากับเทคโนโลยีด้านฮาร์ดแวร์ ระบบเครือข่าย และชิปประมวลผลชั้นนำ จะช่วยให้องค์กรสามารถติดตั้ง ใช้งาน และขยายสภาพแวดล้อม AI สเกลใหญ่ได้อย่างมีประสิทธิภาพครับ

ที่มา งานสัมภาษณ์ผู้บริหาร Nutanix Tour in Bangkok