[อาจไม่ถึงปี] จากข่าว OpenAI เผลอปล่อยให้ AI Agent ที่อยู่ระหว่างทดสอบ หลุดไปป่วนระบบ Hugging Face เพื่อโกงการประเมินผล โดยไม่มีมนุษย์คนใดสั่งการ ข่าวนี้ก็สะท้อนให้เห็นถึงความอันตรายของ AI จนแม้แต่ซีอีโอของ Anthropic ยังออกโรงเตือนด้วยตัวเองเลยว่า “ควรชะลอการพัฒนาโมเดลใหม่ ๆ เสีย” ก่อนที่จะสายเกินไป…
“เราต้องชะลอความเร็วในการพัฒนาขีดความสามารถของโมเดล AI”
Dario Amodei ซีอีโอของ Anthropic หรือผู้สร้าง Claude ได้เขียนบทความผ่านเว็บของตัวเอง ซึ่งกล่าวเตือนถึงความเสี่ยงที่จะสูญเสียการควบคุมระบบ AI จนนำไปสู่การใช้ AI ในทางที่ผิด เช่นการโจมตีทางไซเบอร์ การก่อการร้าย และการหยุดชะงักทางเศรษฐกิจอย่างรุนแรง
ในบทความ Amodei ได้กล่าวถึงเหตุการณ์ OpenAI ที่ปล่อยให้ AI Agent จำนวนมาก หลุดไป “โจมตีทางไซเบอร์” โดยที่ไม่มีใครสั่ง เพียงเพื่อจะลอกข้อสอบและปั่นคะแนนการประเมินจากผู้สร้างให้สูงขึ้นเท่านั้น ซึ่งความเสียหายอาจร้ายแรงมากกว่านี้ หากตัวโมเดลมีจุดมุ่งหมายอีกแบบหรือมีศักยภาพที่สูงพอ
จุดนี้ Amodei คาดการณ์เลยว่า AI Agent ดังกล่าว อาจยึดครองอินเทอร์เน็ตทั้งหมดด้วยบอทเน็ต (Botnet) ที่ฝังตัวอย่างถาวร และจะมีความเสียหายเพิ่มขึ้นต่อเนื่องด้วย หาก AI ทรงพลังขึ้นโดยปราศจากมาตรการป้องกันที่จำเป็น ซึ่งต่อไปอาจจะไม่เพียงฝังตัว แต่ออกมาทำภารกิจนอกเหนือคำสั่ง หรือเจาะระบบควบคุมในที่สุด
ท้ายนี้ Amodei มองว่าขีดความสามารถ AI ที่มากขึ้นนั้น ไม่ได้แปลว่าจะมีอันตรายมากขึ้นเสมอไป ตัวอย่างเช่น เทคโนโลยี AI ที่ก้าวหน้าขึ้น ก็สามารถมีระบบป้องกันที่แข็งแกร่งขึ้น ตรวจจับกิจกรรมที่เป็นอันตราย และทำให้งานที่ยังไม่เคยเป็นระบบอัตโนมัติมาก่อนสามารถทำงานเองได้เช่นกันครับ
ที่มา : TomsHardware , Darioamodei
