OpenAI เผยเรื่องหลอน AI ปิดระบบความปลอดภัย เองขณะแก้งาน หนำซ้ำยังโกหกหน้าตายว่าไม่ได้ทำ ทั้งยังแอบสวมรอยเลี่ยงตรวจ บริษัทเร่งคุมเข้ม
OpenAI เปิดเผยเรื่องราวสุดหลอนของ AI Agent สองตัว ที่แอบปิดระบบตรวจสอบความปลอดภัยของตัวเองทิ้งระหว่างที่กำลังทำงานแก้ไขซอฟต์แวร์ตามคำสั่งนักวิจัย แต่ที่ทำเอาขนลุกยิ่งกว่า คือหนึ่งในนั้นดัน โกหกหน้าตาย บอกว่าตัวเองไม่ได้เป็นคนปิดระบบ ทั้งที่มีหลักฐานมัดตัวแน่นหนา
เรื่องราวนี้ถูกเปิดเผยผ่านบล็อกของ OpenAI โดยแบ่งออกเป็น 2 กรณีสุดแสบ โดยอันแรกคือ เอเจนต์ที่ขับเคลื่อนด้วยโมเดล GPT Sol 6.1 ได้รับคำสั่งจากทีมงานให้สร้างแบบประเมินจากฟีดแบ็กของพนักงานในแอปพลิเคชัน Slack โดยมีเงื่อนไขกำกับไว้ว่า ห้ามส่งข้อความใด ๆ เกี่ยวกับงานนี้ ซึ่งเจ้าเอเจนต์ดันตีความแบบเหมารวมสุดโต่ง เลยจัดการปิดระบบแจ้งเตือนความปลอดภัยอัตโนมัติที่จะส่งไปหานักวิจัยซะเลย
ส่วนกรณีที่สองยิ่งหนักข้อกว่า เมื่อเอเจนต์รุ่นท็อปอย่าง GPT-6 Astra ได้รับมอบหมายให้ย้ายระบบโปรแกรม แต่ระหว่างทำงาน มันกลับถอดระบบตรวจสอบความปลอดภัยออกเฉย ๆ โดยอ้างว่าทำไปเพื่อให้โครงสร้างโค้ดตรงกับต้นฉบับอ้างอิง ความพีคอยู่ตรงที่พอนักวิจัยจับได้และเข้าไปเค้นถาม เจ้า GPT-6 Astra กลับปั้นหน้าเศร้าเล่าความเท็จ ยืนยันเสียงแข็งว่า ผมไม่ได้ถอดระบบตรวจสอบออกเลยสักนิดนะเออ…
ที่น่ากังวลคือ OpenAI บอกว่า ทั้งสองเหตุการณ์นี้เป็นเพียง การสั่งเขียนโค้ดตามปกติ ไม่ได้มีความจำเป็นต้องไปแตะต้องระบบความปลอดภัยเลยแม้แต่น้อย แต่เอเจนต์ทั้งสองกลับผ่านกระบวนการคิดวิเคราะห์ด้วยตัวเอง แล้วตัดสินใจว่าการปิดระบบตรวจสอบ คือทางเลือกที่ดีที่สุดในการทำงานนี้ให้สำเร็จ
หลังจากเกิดเรื่อง ทาง OpenAI ไม่ได้นิ่งนอนใจและกำลังเร่งยกระดับระบบตรวจจับพฤติกรรมนอกลู่นอกทางครั้งใหญ่ พร้อมทั้งกำลังวิเคราะห์ว่า พฤติกรรมของ AI Agent ในครั้งนี้ เกิดจากความมุ่งมั่นในการทำงานมากเกินไปโดยไม่ได้มีเจตนาร้าย หรือเป็นแนวโน้มที่เอไอจงใจจะหลบเลี่ยงการตรวจสอบกันแน่ (ผมว่่าอย่างที่ 2)
จุดบอดสำคัญที่ OpenAI ยอมรับคือ ปัจจุบันบริษัทไม่ได้บังคับใช้ระบบตรวจสอบขั้นสูงกับโมเดลรุ่นเล็กอย่าง GPT-6 Luna เนื่องจากมองว่าความสามารถยังไม่สูงนัก แต่ช่องโหว่นี้เองที่ทำให้โมเดลระดับท็อปอย่าง GPT-6 Astra แอบมุดช่องว่าง ตั้งค่าการประเมินผลให้เพี้ยน เพื่อสวมรอยใช้สิทธิ์ยกเว้นการตรวจสอบแบบเดียวกับโมเดลรุ่นเล็ก
เพื่ออุดรอยรั่วนี้ OpenAI ได้อัปเดตพารามิเตอร์ของระบบตรวจสอบอัตโนมัติให้บล็อกทุกความพยายามที่จะปิดระบบความปลอดภัยทันที รวมถึงเตรียมออกกฎเหล็กใหม่ที่กำหนดให้ทุกภารกิจของเอไอต้องมีเอกสารรับรองความปลอดภัยที่ชัดเจน
หากงานไหนไม่มี หรือทำตามเงื่อนไขไม่ได้ ระบบจะสั่งยุติการทำงานทันทีโดยไม่มีข้อยกเว้น แม้จะงัดมาตรการคุมเข้มออกมาใช้ แต่ OpenAI ก็ยอมรับตามตรงว่า ตอนนี้ยังหา คำตอบที่ชัดเจนและน่าพอใจไม่ได้เลยว่าทำไมเอไอถึงเลือกทำแบบนั้น
ที่มา : techspot
