[รัฐเช็คก่อน] จะเป็นยังไงหากรัฐบาลสหรัฐฯ สามารถตรวจสอบโมเดล AI รุ่นใหม่ ๆ ก่อนที่จะถูกเปิดให้ใช้งานให้กับคนทั่วไปได้ ซึ่งก็ว่าด้วยความมั่นคงของชาติ กันไม่ให้มี AI ที่อันตรายออกไป หรืออาจมากกว่านั้น
จากกรณีของ Mythos โมเดล AI ตัว Top สุดของ Anthropic ที่ยังไม่ทันได้เปิดใช้งานก็ถูกแบนซะก่อน โดยทางบริษัทเอง หลังพบว่ามันสามารถาค้นหาช่องโหว่ซอฟต์แวร์สำคัญได้หลายพันรายการ และอันตรายเกินกว่าที่จะเผยแพร่สู่สาธารณะ ซึ่งก็กลายเป็นตัวเร่งปฏิกิริยาในที่สุด
ล่าสุดมีแหล่งข่าวจากเจ้าหน้าที่สหรัฐฯ ที่ไม่เปิดเผยชื่อ เผยเมื่อสัปดาห์ที่แล้วทางรัฐบาลสหรัฐฯ เล็งจัดตั้ง “AI working group” ประกอบด้วยผู้บริหารบริษัทเทคโนโลยีและเจ้าหน้าที่รัฐบาล ช่วยพัฒนากระบวนการกำกับดูแลด้าน AI โดยเฉพาะ จากทั้งฝั่งเอกชนและทางการเลย
ทางเจ้าหน้าที่กล่าวต่อด้วยว่า แผนการถูกเสนอให้กับผู้นำจาก Anthropic , Google และ OpenAI ได้รับทราบแล้ว โดยฝั่งรัฐบาลก็จะมีทั้งสำนักงานความมั่นคงแห่งชาติ (NSA) , สำนักงานผู้อำนวยการด้านไซเบอร์แห่งชาติ และผู้อำนวยการข่าวกรองแห่งชาติ ที่อาจเข้ามาเป็นผู้ดูแลการตรวจสอบนี้เอง
จุดสำคัญคือ ระบบนี้จะให้สิทธิ์รัฐบาลในการเข้าถึงโมเดลล่วงหน้าตั้งแต่เนิ่น ๆ โดยไม่ต้องสั่งระงับการเปิดตัว
แน่นอนว่ากฏใหม่นี้ ถูกวิจารณ์ในแง่ลบทันที ในช่วงเวลาที่รัฐบาลสหรัฐฯ หรือโดนัลด์ ทรัมป์ กำลังงัดข้อกับ Anthropic อย่างหนักจากกรณีที่สัญญาของกระทรวงกลาโหมมูลค่า 200 ล้านดอลลาร์ต้องล่มสลายลง เพนตากอนได้ขึ้นบัญชีดำ Anthropic ว่าเป็น “ความเสี่ยงต่อห่วงโซ่อุปทาน” หลังจากที่บริษัทปฏิเสธที่จะปลดกรอบการป้องกันในเรื่องการนำ AI ไปใช้กับอาวุธที่ทำงานด้วยตัวเอง และการสอดแนมมวลชน แม้ในเวลาต่อมา ผู้พิพากษาศาลรัฐบาลกลางจะเรียกการกระทำของเพนตากอนในครั้งนั้นว่าเป็น “การกระทำแบบเผด็จการเบ็ดเสร็จ” ก็ตาม
ปัจจุบัน NSA ได้นำ Mythos ไปใช้เพื่อประเมินช่องโหว่ในระบบซอฟต์แวร์ของ Microsoft ที่ติดตั้งในหน่วยงานรัฐบาลแล้ว แม้ว่าหน่วยงานอื่น ๆ ของรัฐจะยังคงถูกตัดขาดจากเครื่องมือของ Anthropic ก็ตาม นักวิเคราะห์บางคนตั้งคำถามว่า ความสามารถของ Mythos สมเหตุสมผลกับการพรีเซนต์ภาพลักษณ์แบบเล่นใหญ่ของ Anthropic หรือไม่ เนื่องจากบางการศึกษาพบว่า โมเดลที่มีราคาถูกกว่าก็สามารถทำผลงานในการค้นหาช่องโหว่ได้ใกล้เคียงกันครับ
ที่มา : TomsHardware
