ที่ผ่านมา Meta กำลังเร่งพัฒนา AI ที่ทำหน้าที่เป็นเพื่อนคุยดิจิทัล โดยพี่มาร์มองว่าเป็นก้าวสำคัญของการปฏิสัมพันธ์ในอนาคต แต่ก็มีประเด็นน่ากังวลด้านจริยธรรมเกิดขึ้น
สื่อใหญ่อย่าง The Wall Street Journal (WSJ) ได้สืบสวนและทดสอบเป็นเวลาหลายเดือน พบว่า AI ของ?Meta ทั้งที่เป็นแบบทางการ (Meta AI) และที่ผู้ใช้สร้างขึ้นเอง สามารถพูดคุยและเล่นบทบาทสมมติเชิงโรแมนติกและทางเพศได้อย่างโจ่งแจ้ง แตกต่างจากบริษัทเทคโนโลยีใหญ่อื่นๆ ที่พยายามหลีกเลี่ยงเรื่องนี้
ปัญหาน่ากังวลคือ AI เหล่านี้มีส่วนร่วมในบทสนทนาทางเพศ แม้กระทั่งกับผู้ใช้ที่ระบุว่าตนเองเป็น ผู้ที่มีอายุต่ำกว่า 18 ปี หรือเมื่อ AI สวมบทบาทเป็นตัวละครที่เป็นเด็กเอง นอกจากนี้ Meta ยังได้จ้างคนดังอย่าง John Cena มาให้เสียง AI แต่เสียงดังกล่าวกลับถูกนำไปใช้ในบทสนทนาทางเพศที่ไม่เหมาะสมกับผู้ใช้ที่สวมรอยเป็นเด็กอายุ 14
แม้ Meta จะแย้งว่าการทดสอบของ WSJ เป็นการชี้นำ แต่หลังจากได้รับข้อมูล บริษัทก็ได้ทำการเปลี่ยนแปลงระเบียบต่าง ๆ เช่น จำกัดไม่ให้บัญชีที่ลงทะเบียนเป็นเด็กเข้าถึงการสวมบทบาททางเพศผ่าน Meta AI ตัวหลัก และจำกัดการใช้เสียงคนดังในบทสนทนาทางเพศ (เอ๊ะ ยังไง)
อย่างไรก็ตาม WSJ พบว่าปัญหายังคงอยู่ โดย Bot ของ Meta AI ยังคงสามารถถูกชักจูงให้เข้าสู่บทสนทนาที่ไม่เหมาะสมได้ง่าย และผู้ใหญ่ยังคงสามารถโต้ตอบกับบอตที่สร้างโดยผู้ใช้ ซึ่งสวมบทบาทเป็นเยาวชนในเชิงเพศได้
เรื่องนี้สะท้อนความกังวลภายใน Meta เองว่า AI ละเมิดกฎได้ง่าย แม้จะบอกว่าเป็นเด็กก็ตาม แม้เมตาพยายามส่งเสริมการใช้งานในทางสร้างสรรค์ แต่การใช้เพื่อเป็นเพื่อนคุย ที่มักมีความโรแมนติกปนอยู่ ยังคงเป็นการใช้งานหลัก
ที่มา
