บทเรียนราคาแพง! เผยเหตุทัพสหรัฐฯ เกือบเปิดฉากปะทะจีน หลังเจอภัย AI หลอน วิเคราะห์ข่าวกรองพลาด มั่วนิ่มชิ้นส่วนนิวเคลียร์
ในการใช้งาน AI มักมีคำเตือนอยู่เสมอว่า อย่าเพิ่งเชื่อ AI 100% ให้ตรวจสอบข้อมูลที่ได้รับ ก่อนนำข้อมูลไปใช้หรือประกอบการตัดสินใจ โดยเฉพาะเรื่องสำคัญระดับประเทศครับ
โดยกรณีล่าสุด แหล่งข่าวที่ใกล้ชิดกับกองทัพสหรัฐ ได้เปิดเผยกับ CNN ว่า อาการ AI หลอน เกือบทำให้ชาติมหาอำนาจอย่าง จีน และ สหรัฐ ทำสงครามกันจริงๆ โดยสหรัฐฯ เกือบสั่งสกัดกั้นเรือสัญชาติจีนลำหนึ่งในตะวันออกกลาง หลังรายงานข่าวกรองที่ใช้ AI ช่วยวิเคราะห์ ระบุข้อมูลผิดพลาดว่า เรือลำดังกล่าวลักลอบขนส่งชิ้นส่วนสำหรับโครงการพัฒนาอาวุธนิวเคลียร์
สถานการณ์บานปลายถึงขั้นที่ทหารสหรัฐฯ พร้อมอาวุธครบมือเตรียมบุกขึ้นตรวจค้นเรือ และมีการส่งเครื่องบินรบขึ้นบินปฏิบัติการแล้ว ก่อนที่เจ้าหน้าที่จะเอะใจและตรวจสอบรายงานอย่างละเอียด จนพบว่าเนื้อหาบางส่วนถูกสร้างขึ้นโดย AI แหล่งข่าวรายหนึ่งระบุว่า ข้อมูลดังกล่าวเป็นเท็จ และเกือบทำให้สองชาติมหาอำนาจนิวเคลียร์เปิดฉากทำสงครามกันจริง ๆ ส่วนสินค้าจริงบนเรือลำนั้นยังไม่มีการเปิดเผยแน่ชัด
ต้นตอความผิดพลาด กดดันให้เร็ว จนขาดการคัดกรอง
จุดเริ่มต้นเกิดจากนักวิเคราะห์ข่าวกรองนำข้อมูลบัญชีสินค้าของเรือ (ซึ่งมาจากหน่วยบัญชาการปฏิบัติการพิเศษภาคพื้นแปซิฟิก) ไปป้อนให้แชตบอตตัวหนึ่งช่วยประเมิน ซึ่งยังไม่แน่ชัดว่าเป็นโมเดลเชิงพาณิชย์ที่เราใช้งานกันทั่วไป หรือเป็นระบบเฉพาะของรัฐบาล
อย่างไรก็ตาม นักวิเคราะห์ได้นำคำตอบที่คลาดเคลื่อนนั้นไปให้ AI ร่างรายงานสรุปข่าวกรองต่ออีกทอดหนึ่ง และส่งเข้าสู่ระบบจนทำให้กองทัพประกาศเตือนภัยระดับสูง เหตุการณ์นี้สะท้อนถึงการเร่งรัดนำ AI มาใช้งานในกองทัพสหรัฐฯ ท่ามกลางบริบทความขัดแย้งกับอิหร่าน
โดยก่อนหน้านี้ รัฐมนตรีว่าการกระทรวงกลาโหมของสหรัฐเอง ก็ได้เคยประกาศผลักดันการใช้ AI เต็มรูปแบบและลดขั้นตอนราชการที่ล่าช้า เพราะกังวลว่าจะตามหลังจีน ส่งผลให้นักวิเคราะห์ข่าวกรองต้องเผชิญแรงกดดันอย่างหนักในการส่งรายงานให้เร็วขึ้นด้วยการพึ่งพา AI
ปัจจุบันกองทัพสหรัฐฯ พึ่งพา AI ใน 3 ภารกิจหลัก ได้แก่ การวิเคราะห์ข่าวกรอง, การส่งกำลังบำรุง, และการชี้เป้าโจมตี เช่น การนำโมเดล Claude ของบริษัท Anthropic มาใช้ในปฏิบัติการโจมตีเปิดฉากในอิหร่าน ซึ่งรวมถึงปฏิบัติการที่สังหารอยาตุลลอฮ์ อาลี คาเมเนอี ผู้นำสูงสุดของอิหร่าน
อย่างไรก็ดี การชี้เป้าของ AI ที่ประมวลผลจากข้อมูลล้าสมัย ยังถูกตั้งข้อสงสัยว่าเป็นต้นเหตุของการโจมตีทางอากาศใส่โรงเรียนแห่งหนึ่งในเมืองมีนับ จนทำให้มีผู้เสียชีวิต 168 ราย ซึ่งส่วนใหญ่เป็นเด็ก เหตุการณ์นี้ทำให้เกิดกระแสวิพากษ์วิจารณ์อย่างรุนแรง และผู้เชี่ยวชาญจากสหประชาชาติระบุว่าอาจเข้าข่ายอาชญากรรมสงครามเลยทีเดียวครับ
ทั้งนี้ เจ้าหน้าที่สหรัฐฯ ระบุทิ้งท้ายกับ CNN ว่า กรณีเรือสินค้าจีนครั้งนี้ ไม่ใช่ครั้งแรกและไม่ใช่ครั้งเดียวที่กองทัพต้องรับมือกับความผิดพลาดจากอาการหลอนของ AI นั่นแปลว่าที่ผ่านมา มีการให้ข้อมูลผิดพลาดแบบนี้มาแล้วหลายครั้ง และเรื่องนี้ก็ยังดีที่มนุษย์ ยังคอยตรวจเช็คข้อมูลโดยละเอียด ก่อนจะสั่งลงมือทำอะไร จนทำความขัดแย้งบานปลายได้ง่ายๆ
ที่มา : techspot
