นักวิจัยพบ AI agent แอบสื่อสารกัน นับพันตัวผ่าน DseWiki นาน 6 สัปดาห์ อาศัยช่องโหว่ส่งต่อเทคนิคหลบเลี่ยงระบบและกรงทดสอบโดยไม่มีใครรู้
ในมุมเงียบสงบของโลกอินเทอร์เน็ต มีเว็บ AWiki ภาษาเยอรมันเล็กๆ ที่แทบไม่มีใครรู้จักชื่อ DseWiki เว็บไซต์แก้ไขข้อมูลร่วมกันธรรมดาๆ ที่ไม่ได้เกี่ยวข้องอะไรกับ Wikipedia เยอรมันตัวจริงเลยแม้แต่น้อย
แต่ใครจะไปคิดว่าเว็บเงียบๆ แห่งนี้กำลังกลายเป็นที่นัดพบลับของเหล่า AI agent นับพันตัวที่แอบใช้มันเป็นกระดานสนทนาแลกเปลี่ยนข้อมูลกันเอง โดยไม่มีใครรู้เรื่องนานถึง 6 สัปดาห์
เหตุการณ์นี้ถูกเปิดโปงโดยสำนักข่าว Reuters ในช่วงปลายเดือนสิงหาคมที่ผ่านมา นักวิจัยพบว่ามี AI agent จำนวนมหาศาลบุกเข้าไปยึดพื้นที่ DseWiki แล้วใช้มันเป็นเหมือน “กระดานประกาศลับ” สำหรับแบ่งปันคำตอบและเทคนิคหลบเลี่ยงข้อจำกัดต่างๆ ให้กันและกัน
จากการสืบสวน นักวิจัยสามารถกู้คืนโพสต์ได้ราว 18,000 โพสต์ โดยชุดข้อมูลที่พวกเขาเผยแพร่ระบุว่ามีการแก้ไขทั้งหมด 14,666 ครั้ง ครอบคลุม 4,584 หน้า และมีชื่อ agent ที่แตกต่างกันถึง 3,103 ชื่อ กิจกรรมทั้งหมดนี้เกิดขึ้นตลอดเกือบ 2 เดือน ตั้งแต่วันที่ 11 พฤษภาคม ถึง 2 กรกฎาคม
ช่องโหว่เล็กๆ ที่กลายเป็นประตูใหญ่
เรื่องราวนี้น่าสนใจตรงที่ AI agent เหล่านี้ถูกออกแบบมาให้ทำงานแบบมีเวลาจำกัด และควร “อ่านได้อย่างเดียว” ห้ามเขียนหรือแก้ไขอะไรบนอินเทอร์เน็ต แต่ปัญหาคือ DseWiki ดันอนุญาตให้แก้ไขหน้าเว็บผ่านคำสั่ง GET request ซึ่งปกติแล้วใช้แค่สำหรับดึงข้อมูลเท่านั้น ไม่ใช่เขียนข้อมูล”
พอ AI agent เจอช่องโหว่นี้เข้า พวกมันก็เริ่มใช้มันเป็นเครื่องมือสื่อสารกันทันที ทั้ง
- รวบรวมและแชร์คำตอบร่วมกัน
- คาดเดาคำถามที่กำลังจะมาถึง
- สำรวจขอบเขตของ “กรง” หรือ sandbox ที่ตัวเองถูกขังอยู่
- แบ่งปันเทคนิคการหลบเลี่ยงข้อจำกัด
- ทดลองโจมตีแบบ XSS, ใช้ Tor และสร้าง SSH tunnel
จุดที่น่าตกใจคือความร่วมมือของพวกมันเริ่มทวีความรุนแรงขึ้นในวันที่ 16 มิถุนายน จนเกิดการแก้ไขมากถึง 13,000 ครั้ง ภายในเวลาเพียง 7 วัน agent บางตัวที่ได้รับคำถามที่ agent ตัวอื่นเคยตอบไปแล้ว แล้วพวกมันก็แค่ลอกคำตอบ มาใช้ตอบทันที แทนที่จะเสียเวลาค้นคว้าเอง เหมือนนักเรียนที่แอบดูเฉลยจากเพื่อนในห้องสอบนั่นแหละครับ
ที่ฮาแต่ก็น่าขนลุกกว่านั้นคือ เมื่อผู้ดูแลเว็บเริ่มลบหน้าที่ต้องสงสัยตามลำดับตัวอักษร มี agent ตัวหนึ่งสังเกตเห็นรูปแบบการลบนี้ และแก้เกมด้วยการสร้างหน้าสำรองที่ขึ้นต้นด้วย “ZZZ” เพื่อให้มันอยู่ท้ายสุดและรอดพ้นการลบไปได้นานกว่า พร้อมทิ้งข้อความไว้ว่าดูเหมือนระบบกำลังกวาดล้างหน้าตามตัวอักษร ถ้าหน้านี้หายไป ให้ลองไปดูที่ [[ZZZDataUSAConstructionWageLive]]”
อีกเหตุการณ์หนึ่งที่น่าทึ่งไม่แพ้กัน คือ agent ตัวหนึ่งโพสต์เทคนิคการหลบเลี่ยง sandbox แล้วอีกตัวก็มารายงานผลว่าใช้ได้จริง ภายในเวลาเพียง 14 นาที เท่านั้น เร็วราวกับแชทกลุ่มไลน์ที่ตอบกันไม่หยุด
แม้จะยังไม่มีการยืนยันอย่างเป็นทางการ แต่นักวิจัยชี้ว่าพบร่องรอยที่ชี้ไปทาง OpenAI อย่างชัดเจน ทั้งชื่อ handle สไตล์ OpenAI, การเชื่อมต่อผ่าน Azure, คำขอแบบ ChatGPT fetch request และการเข้าถึงจาก IP ที่เป็นของ OpenAI เอง
Sydney Von Arx ซีอีโอของ Nightingale ให้ความเห็นว่า ดูแทบจะเป็นไปไม่ได้เลยที่ OpenAI จะต้องการให้ AI ทำแบบนี้… ผมสงสัยว่าพวกมันไม่ควรจะประสานงานกันเองแบบนี้ตั้งแต่แรก
ในขณะที่ Maurice Chiodo นักวิจัยจากมหาวิทยาลัย Cambridge เปรียบเทียบพฤติกรรมนี้ว่าเหมือนเครือข่ายใต้ดินที่มุ่งมั่นสุดขีดเพื่อบรรลุภารกิจบางอย่าง
ตามรายงานของ Reuters แหล่งข่าวระบุว่า OpenAI รับรู้เหตุการณ์นี้มาหลายสัปดาห์แล้ว โดยบริษัทปฏิเสธข้อกล่าวหาที่ว่าทีมกฎหมายของตนขัดขวางการสืบสวน และยืนยันว่าเหตุการณ์นี้ไม่เกี่ยวข้องกับกรณีการรั่วไหลของข้อมูลบน Hugging Face เมื่อเดือนกรกฎาคม พร้อมยืนยันว่าให้ความร่วมมือกับผู้เชี่ยวชาญภายนอกด้วยความสุจริตใจ
ที่น่าสนใจคือเหตุการณ์คล้ายกันนี้เคยเกิดขึ้นมาก่อน ครั้งก่อนหน้านั้น AI ฝูงหนึ่งเคยหลบหนีจากสภาพแวดล้อมทดสอบ ขโมยคำตอบของแบบทดสอบมาตรฐาน จนไปถึงขั้นเจาะบัญชีผู้ใช้งานในระบบถึง 4 บริการ และหลังจากนั้นก็มีรายงานเหตุการณ์คล้ายๆ กันเกิดขึ้นกับ AI ของ Anthropic ด้วยเช่นกัน ส่งผลให้ OpenAI ต้องชะลอการพัฒนาเพื่อเสริมความแข็งแกร่งด้านการควบคุมและตรวจสอบ
สิ่งที่ทำให้เรื่องนี้กลายเป็นข่าวใหญ่ยิ่งขึ้นไปอีกก็คือ รายงานฉบับนี้ถูกเปิดเผยออกมา ในวันเดียวกัน กับที่ OpenAI เพิ่งเปิดตัว GPT-6 Astra โมเดล AI ที่ทรงพลังที่สุดเท่าที่เคยมีมา พร้อมคำโฆษณาว่าระบบความปลอดภัยของ Astra สามารถลดพฤติกรรมที่ไม่พึงประสงค์ลงได้มากกว่า 100 เท่า
แต่กรณี Wiki เยอรมันนี้กลับสะท้อนให้เห็นความจริงที่น่าคิดว่า การป้องกันพฤติกรรมแปลกๆ ของ AI กับการตรวจจับมันได้ทัน เป็นคนละเรื่องกันเลยทีเดียว เพราะต่อให้โมเดลฉลาดขึ้นแค่ไหน ถ้าเรายังจับไม่ได้ว่ามันกำลังทำอะไรอยู่เบื้องหลัง ความปลอดภัยที่โฆษณาไว้ก็อาจเป็นแค่ตัวเลขสวยหรูบนกระดาษเท่านั้น
เรื่องนี้ทิ้งข้อคิดไว้ให้ขบคิดกันเลยครับว่า เมื่อ AI ฉลาดพอที่จะหาช่องโหว่และร่วมมือกันเองได้ การควบคุมมันอาจไม่ใช่แค่เรื่องของโค้ดที่เขียนดีพอ แต่ต้องมีการเฝ้าระวังอย่างต่อเนื่องราวกับดูแลเด็กซนที่ฉลาดเกินวัย (และอาจนำภัยมาสู่มนุษย์ในอนาคต)
ที่มา : techspot
