[ก่อนสายไป] หลังจบเรื่องวุ่นวายระหว่างนาย Sam Altman กับบอร์ดบริหารว้าวุ่นไปแล้ว สถานการณ์ของ OpenAI ดูท่าจะสงบลง ทว่าไม่นานมานี้ทางบริษัทได้ส่งคำเตือนแบบกลาย ๆ ว่า ในอนาคตอาจมี AI ขั้นสูง ที่ฉลาดล้ำเหนือมนุษย์ จนควบคุมไม่ได้ ฉะนั้นควรเร่งสร้างระบบควบคุมซะตั้งแต่ตอนนี้เลย
ในงานประชุม Machine Learning ประจำปี OpenAI เผยกำลังพัฒนาระบบช่วยควบคุม AI ขั้นสูง โดยก่อนหน้านี้ (ช่วงก่อนที่ Sam โดนไล่ออก) ได้จัดตั้งทีมพิเศษอย่าง Superalignment มาช่วยจัดการด้านนี้โดยเฉพาะ
[ในอนาคตเราอาจได้พบกับปัญหาโมเดล AI ขั้นสูง ที่ไม่รู้ถึงโครงสร้าง และเข้าถึงไม่ได้] Collin Burns หนึ่งในสมาชิกทีม Superalignment ของ OpenAI กล่าว
สำหรับวิธีการรับมือแรกคือ นำโมเดล AI ที่มีความซับซ้อนน้อยกว่าอย่าง GPT-2 มาควบคุม AI ที่ฉลาดกว่า และทรงพลังกว่าอย่าง GPT-4 จากนั้นก็ทดสอบผล ดูว่าสามารถนำทางโมเดลขั้นสูงกว่าได้ดีแค่ไหน โดยขณะเดียวกันมนุษย์ก็ยังควบคุม GPT-2 ได้อยู่นั่นเอง
ทั้งนี้ทาง OpenAI ได้ตั้งงบ 10 ล้านดอลลาร์ฯ เปิดโอกาสให้ทั้งองค์กรที่ไม่หวังผลกำไร นักวิจัยอิสระ รวมถึงนักศึกษาด้วย มาร่วมช่วยกันพัฒนาระบบควบคุม AI อัจฉริยะร่วมกันด้วย
นับเป็นความพยายาม และเป็นสัญญาณบ่งบอกเลยว่า AI จะมีความฉลาดมากขึ้น จนถึงขั้นที่มนุษย์ไม่สามารถควบคุมได้ การเผยวิธีควบคุมและการตั้งทีม Superalignment ครั้งนี้ ก็อาจเหมือนเป็นการส่ง ‘คำเตือน’ ไปยังผู้พัฒนา AI รายอื่นด้วยก็เป็นได้
ที่มา : Techcrunch
