เจาะลึกบทเรียนราคาแพง! แอฟริกาใต้รื้อ ร่างกฎหมาย AI ใหม่ทั้งฉบับ หลังพบ AI Hallucination อ้างอิงงานวิจัยที่ไม่มีอยู่จริง
Techhub พาไปดูเรื่องตลกร้าย ในวงการเทคโนโลยีระดับโลก เมื่อรัฐบาลแอฟริกาใต้ต้องรีบสั่งถอนร่างนโยบายปัญญาประดิษฐ์แห่งชาติ เป็นการด่วน หลังจากมีการตรวจพบว่าเนื้อหาใน ร่างกฎหมาย AI ฉบับนี้มีข้อมูลลวง หรือ AI Hallucination ปนอยู่เพียบ ที่สำคัญคือมีการอ้างอิงถึงงานวิจัยที่ไม่มีอยู่จริงในโลกถึง 6 ฉบับ
Solly Malatsi รัฐมนตรีกระทรวงการสื่อสารและเทคโนโลยีดิจิทัลของแอฟริกาใต้ ออกมายอมรับแบบตรงไปตรงมาว่า ร่างนโยบายดังกล่าวถูกถอนออกจากการรับฟังความคิดเห็นสาธารณะแล้ว เนื่องจากพบเอกสารอ้างอิงปลอม ในรายชื่อบรรณานุกรม
จากการตรวจสอบพบว่า ในจำนวนงานวิจัยทางวิชาการ 67 ฉบับที่ถูกนำมาอ้างอิง มีอย่างน้อย 6 ฉบับที่เป็นของปลอม ซึ่งรัฐมนตรี Malatsi อธิบายว่าคำอธิบายที่สมเหตุสมผลที่สุดคือ มันถูกสร้างโดย AI และที่แย่ไปกว่านั้นคือข้อมูลเหล่านี้ผ่านออกมาได้โดยไม่มีการตรวจสอบจากมนุษย์ จนทำให้ความน่าเชื่อถือของร่างกฎหมายทั้งฉบับกลายเป็นศูนย์
ในความเป็นจริง เนื้อหาในร่างนโยบายนี้มีเจตนาที่ดีและมีนวัตกรรมหลายอย่าง เช่น
1.การจัดตั้งคณะกรรมาธิการ AI แห่งชาติ
2.การสร้างคณะกรรมการจริยธรรม AI
3.การเสนอมาตรการจูงใจทางภาษีและเงินทุนสนับสนุนเพื่อเร่งการใช้งาน AI อย่างมีความรับผิดชอบในภาคเอกชนและโครงสร้างพื้นฐาน
อย่างไรก็ตาม ความผิดพลาดครั้งนี้ทำให้รัฐมนตรีสั่ง รื้อใหม่ ทั้งฉบับ พร้อมย้ำว่าเหตุการณ์นี้คือบทเรียนราคาแพงที่แสดงให้เห็นว่า การใช้ AI ต้องมีมนุษย์คอยกำกับดูแลเสมอ และชาวแอฟริกาใต้สมควรได้รับนโยบายที่มีคุณภาพมากกว่างานที่ Gen ออกมาจาก AI โดยไม่มีการตรวจสอบ
เหตุการณ์นี้ไม่ใช่ครั้งแรกที่เราเห็นความผิดพลาดจาก AI Hallucination แต่การที่มันเกิดขึ้นกับ ร่างกฎหมายระดับชาติ ที่ตั้งใจจะมาควบคุม AI เองนั้น เป็นเรื่องที่ย้อนแย้งอย่างรุนแรง
บทเรียนนี้บอกเราสองอย่างครับ
1.AI ไม่ใช่ทางลัดของความรับผิดชอบ การใช้ AI ช่วยร่างเอกสารทำได้ แต่ขั้นตอน Verification หรือการตรวจสอบความถูกต้องโดยผู้เชี่ยวชาญคือสิ่งที่ขาดไม่ได้
2.ความน่าเชื่อถือสร้างยากแต่ทำลายง่าย ต่อให้เนื้อหาส่วนใหญ่จะดีแค่ไหน แต่ถ้ามีข้อมูลปลอม หลุดออกมาแม้แต่จุดเดียว ความเชื่อมั่นต่อหน่วยงานนั้นจะพังทลายทันที
ที่มา
