สรุปเคสเตือนสติจากอันตรายจาก AI เมื่อเกษตรกร หลงเชื่อแชตบอต จนพืชผลตายวอด 25 ไร่ และ AI บอกเพียงแค่ว่า ผมยอมรับผิด และสารภาพ..
คิดว่าหลายคน น่าจะรู้เท่าทันเทคโนโลยีบ้างแล้ว แต่ความผิดพลาดก็ยังเกิดขึ้นได้เสมอ หากเราหลงลืมและมองข้ามอันตรายจาก AI ไป เพียงเพราะมันเคยให้คำตอบที่ถูกต้องในอดีต
ล่าสุดเกษตรกรวัย 67 ปี ในเมืองฉูโจว ประเทศจีน ต้องเผชิญกับฝันร้ายเมื่อเขา หลงเชื่อแชตบอต ที่ให้คำแนะนำเรื่องการกำจัดวัชพืชและศัตรูพืชจากแชตบอต ส่งผลให้ต้นงาและพืชผลในไร่กว่า 62.5 ไร่ ต้องแห้งตายวอดวายภายในข้ามคืน
เรื่องราวเริ่มต้นขึ้นเมื่อเกษตรกรจีนรายนี้นำปัญหาศัตรูพืชไปถามแชตบอต ซึ่งระบบได้แนะนำให้ผสมสารเคมีหลายชนิด ทั้งยาฆ่าแมลงและยากำจัดวัชพืช โดยมีตัวยาอย่าง ฟลูเฟนาเซต (Flufenacet) รวมอยู่ด้วย ด้วยความไว้ใจหลังจากแชตบอตเคยช่วยตอบคำถามได้ดีในครั้งก่อนๆ เขาจึงนำสารผสมดังกล่าวไปฉีดพ่นทั่วทั้งไร่โดยไม่ได้ตรวจสอบความปลอดภัยซ้ำกับผู้เชี่ยวชาญ
เช้าวันถัดมาต้นงากว่า 24.7 เอเคอร์แห้งตายทั้งหมด เมื่อเขากลับไปเค้นถามแชตบอตด้วยความโมโห ระบบจึงยอมสารภาพว่า ฟลูเฟนาเซต เป็นยากำจัดวัชพืชใบกว้างที่ใช้ในไร่ถั่ว และเนื่องจากงา จัดเป็นพืชใบกว้างเช่นกัน สารเคมีนี้จึงทำลายพืชผลของเขาจนหมดสิ้น ซ้ำร้าย แชตบอตยังเพิ่งมาฉุกคิดบอกทีหลังว่า ยานี้ต้องฉีดพ่นเฉพาะจุดที่มีวัชพืช ไม่ใช่การฉีดพ่นปูพรหมทั่วทั้งแปลงอย่างที่เขาทำ
ความเสียหายครั้งนี้ไม่ใช่เคสเดียวที่สะท้อนถึง อันตรายจาก AI เพราะก่อนหน้านี้เคยเกิดเหตุการณ์กับชายวัย 60 ปี ที่ต้องการลดโซเดียมคลอไรด์ หรือ เกลือแกง เมื่อเขาถาม ChatGPT ถึงสารทดแทนความเค็ม ระบบกลับแนะนำ โซเดียมโบรไมด์ (Sodium Bromide) ซึ่งเป็นสารเคมีที่ใช้ในอุตสาหกรรมทำความสะอาดและเป็นพิษต่อมนุษย์ ผลลัพธ์คือชายคนดังกล่าวเกิดภาวะ Bromism หรือพิษจากสารโบรไมด์เรื้อรัง จนเกิดอาการทางจิตซึ่งเป็นโรคที่แทบไม่พบเจอแล้วนับตั้งแต่ศตวรรษที่ 19
เหตุการณ์ทั้งหมดนี้คือนิ้วชี้ที่ชี้หน้าเตือนผู้ใช้อย่างตรงไปตรงมาว่า AI ในปัจจุบันยังคงเป็นเพียงระบบประมวลผลทางภาษา ที่พร้อมจะแต่งเรื่อง หรือให้ข้อมูลผิดพลาดอย่างมั่นใจได้ตลอดเวลา
การนำคำแนะนำจากแชตบอตไปปฏิบัติตามโดยทันที โดยเฉพาะเรื่องที่มีผลกระทบต่อชีวิต สุขภาพ หรือทรัพย์สิน โดยปราศจากการตรวจสอบจากผู้เชี่ยวชาญที่เป็นมนุษย์ ถือเป็นความเสี่ยงอย่างมาก เพราะคำเตือนท้ายหน้าจอของทุกแอปพลิเคชันได้ยกเว้นความรับผิดชอบไว้หมดแล้ว และผลกระทบทั้งหมด… ผู้ใช้งานคือคนเดียวที่ต้องจ่ายราคาเต็มครับ
ที่มา
