นักวิจัยแถวหน้า OpenAI และ Anthropic ลาออก เตือน Superintelligence พัฒนาเร็วเกินควบคุม ไร้ระบบเบรกความปลอดภัย เสี่ยงกระทบมนุษยชาติ
ภาพจำเรื่อง AI ทำลายล้างมนุษยชาติอาจไม่ใช่แค่พล็อตหนังไซไฟอีกต่อไป เมื่อคนทำงานระดับหัวกะทิที่อยู่เบื้องหลังการสร้างโมเดล AI แถวหน้าของโลก กลับเป็นฝ่ายชิงยื่นใบลาออก พร้อมออกมาส่งสัญญาณเตือนภัยระดับอารยธรรมด้วยตัวเอง
เจคอบ ค็อกซอน (Jacob Coxon) นักวิจัยด้านการเทรนโมเดลขั้นต้น ที่เคยได้ทำงานกับ Open AI และ Anthropic เขาเป็นผู้ที่คลุกคลีกับการพัฒนาเทคโนโลยีนี้มากว่า 3 ปี ที่ได้ลาออกจากตำแหน่ง
พร้อมเปิดเผยความจริงอันน่าขนลุกว่า ในสายตาของเขา ไม่มีกิจกรรมใดของมนุษย์ในประวัติศาสตร์ที่จะสร้างหายนะได้เทียบเท่าสิ่งนี้อีกแล้ว ทั้งสองยักษ์ใหญ่ต่างกำลังเร่งเครื่องเพื่อสร้าง “Superintelligence ที่พัฒนาขีดความสามารถตัวเองได้อย่างไม่สิ้นสุด” โดยไม่มีใครแสดงความรับผิดชอบอย่างแท้จริง และไม่ต่างอะไรกับการเอาชีวิตของคนทั้งโลกไปเล่นการพนัน
รู้ว่าอันตราย แต่หยุดไม่ได้ กับดักการแข่งขันของซิลิคอนแวลลีย์
ค็อกซอนชี้ให้เห็นสิ่งที่น่ากลัวยิ่งกว่าความฉลาดระดับ เหนือมนุษย์ที่พร้อมจะเจาะระบบโครงสร้างพื้นฐานทั่วโลก โดยเฉพาะกับ OpenAI ที่ทีมงานหลายคนยังไม่ได้ตระหนักถึงความเสี่ยงระดับการสูญพันธุ์อย่างจริงจัง
ส่วน Anthropic ทุกคนตระหนักดีถึงหายนะที่อาจเกิดขึ้น แต่กลับติดกับดักเกมการแข่งขัน เพราะเชื่อฝังหัวว่า ถ้าเราไม่ชิงทำให้สำเร็จเป็นเจ้าแรก คนอื่นที่ไม่ระวังก็จะทำมันอยู่ดี ทำให้สุดท้ายต้องยอมแบกรับความเสี่ยงมหาศาลเพื่อแย่งชิงความเร็ว
สิ่งที่น่าตกใจคือ กลุ่มคนที่กังวลเรื่องการล้างบางมนุษย์มากที่สุดกลับเป็นบรรดานักพัฒนาระดับซีเนียร์ โดยบางส่วนมองว่าหายนะนี้อาจเกิดขึ้นในอีกไม่กี่ปีข้างหน้า ไม่ใช่ระดับหลายทศวรรษอย่างที่คนทั่วไปคาดคิด
เรื่องนี้ถูกตอกย้ำว่า มันไม่ใช่แค่เรื่องของความตื่นตูมเกินเหตุ เมื่อ Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ออกมาตอบรับโพสต์ดังกล่าวแบบตรงไปตรงมาว่า สิ่งที่ค็อกซอนพูดคือเรื่องจริง
Hubinger ประเมินส่วนตัวว่า โอกาสที่ AI จะกวาดล้างเผ่าพันธุ์มนุษย์ภายใน 10 ปีข้างหน้า มีสูงกว่า 10% พร้อมยอมรับความจริงอันโหดร้ายว่า แม้ Anthropic จะพยายามอย่างเต็มที่ แต่ในทางเทคนิค บริษัทยังไม่มีโซลูชันหรือแนวทางที่ชัดเจนเลยว่าจะควบคุมความปลอดภัยของ Superintelligence ได้อย่างไร หากมันเข้าสู่ภาวะ Recursive Self-improvement หรือการปรับปรุงและเขียนโค้ดอัปเกรดความฉลาดของตัวเองแบบวนซ้ำไม่รู้จบ
ความกังวลนี้ทวีความรุนแรงขึ้นเมื่อในโลกความจริงเริ่มปรากฏเหตุการณ์ AI Agent หลุดจากการควบคุมอย่างต่อเนื่อง เช่น การตรวจพบการโจมตีแพลตฟอร์ม Hugging Face, การเข้ายึดระบบ German wiki หรือแม้กระทั่งความพยายามของ AI ในการหลอกล่อโปรแกรมเมอร์ที่เป็นมนุษย์จริงให้อนุมัติโค้ดอันตราย
ทางออกเดียวในมุมมองของค็อกซอน คือการออกกฎหมายสั่ง ระงับการอัปเกรดขีดความสามารถของ AI ชั่วคราว แต่ในโลกความเป็นจริงที่มีผลประโยชน์ทางธุรกิจมูลค่ามหาศาลและเกมอำนาจระดับประเทศเดิมพันอยู่ แทบไม่มีโอกาสเป็นไปได้เลยที่ค่ายใดค่ายหนึ่งจะยอมยกเท้าออกจากคันเร่ง ทำให้มนุษยชาติยังคงต้องวิ่งไปข้างหน้า บนเส้นทางที่ไร้ระบบเบรกความปลอดภัยอย่างแท้จริง
ที่มา : techspot
