ความฝันของบอร์ดบริหารในยุค AI Boom มักเริ่มต้นด้วยสมการง่ายๆ นั่นคือการใช้ AI แทนคน โดยมองการตัดมนุษย์ออกจากกระบวนการ = ลดต้นทุนทันที
ภาพการถอดพนักงานออกแล้วปล่อยให้ปัญญาประดิษฐ์คุมระบบแบบ 100% กลายเป็นเข็มทิศเชิงกลยุทธ์ที่หลายองค์กรวิ่งเข้าหา
ทว่า เมื่ออัลกอริทึมที่ถูกสวมหมวกวิเศษต้องออกไปเจอโลกความเป็นจริง ที่เต็มไปด้วยความผันผวน กลโกง มนุษย์เจ้าเล่ห์ และบริบทเชิงซ้อน ความฝันสุดแสนหวานกลับกลายเป็นฝันร้ายราคาแพง
ความบกพร่องเชิงโครงสร้างของ AI แบบไร้การควบคุมโดยมนุษย์ ได้สร้างบาดแผลทางบัญชีระดับหลายร้อยล้านดอลลาร์ ทำลายชื่อเสียงองค์กรที่สะสมมานาน และทิ้งบทเรียนอันเจ็บปวดไว้ให้โลกธุรกิจ ในวันที่ตัดสินใจใช้ AI แทนคน
หนึ่งในเหตุการณ์ที่เกิดขึ้นแล้วในประเทศไทย คือธนาคารไร้สาขาอย่าง CLICX ที่ใช้ AI ปล่อยคำนวนเพื่อปล่อยสินเชื่อแทนคน แต่ AI ดันไม่ได้ใช้ข้อมูลเครดิตบูโรในการตรวจสอบเพื่อปล่อยสินเชื่อ เพราะต้องการให้กลุ่มคนที่ไม่ได้ทำงานประจำ สามารถเข้าถึงสินเชื่อได้ง่าย แต่กลับกลายเป็นช่องโหว่ให้กลุ่มนักบิด ที่มีประวัติเสียผิดนัดชำระหนี้ เข้ามากู้และตั้งใจจะไม่จ่าย บทความ Techhub จะพามาดูเคสต่างๆ ทั่วโลก ที่ผู้บริหาร ตั้งใจเอา AI เข้ามาแทนที่คน 100% แต่กลับต้องเจอหายนะ ที่ยากจะแก้ไข
1. หายนะสายการเงิน เมื่อ AI ตาบอดในตลาดที่ผันผวน
กรณีศึกษาที่ตบหน้าความยโสของเทคโนโลยีอย่างแรงที่สุดเกิดขึ้นในอสังหาริมทรัพย์และตลาดหุ้น เมื่อองค์กรปล่อยให้ AI ตัดสินใจเรื่องเงินๆ ทองๆ โดยไม่มีมนุษย์คอยดึงเบรกมือ
– Zillow Offers (ขาดทุน 881 ล้านดอลลาร์ ปลดพนักงาน 25%) Zillow ยักษ์ใหญ่แห่งวงการอสังหาริมทรัพย์สหรัฐฯ มั่นใจในโมเดลประเมินราคาบ้าน Zestimate จนถึงขั้นข้ามขั้นตอนการประเมินหน้างานโดยมนุษย์ แล้วเปลี่ยนมันเป็น ราคาเสนอซื้อจริง ทันที โมเดล AI ทำงานได้ดีในภาวะปกติ แต่เมื่อเจอวิกฤตโควิด-19 ตลาดเกิดสภาวะผันผวนอย่างรุนแรง
สิ่งที่เกิดขึ้นคือมนุษย์เจ้าเล่ห์เริ่มเห็นช่องโหว่ คนที่มีบ้านชำรุดหรืออยู่ในย่านเสื่อมโทรมรีบประเคนขายบ้านให้ Zillow ในราคาประเมินที่ AI ให้ไว้สูงเกินจริง ขณะที่บ้านสภาพดีถูกนำไปขายในตลาดปกติ ผลลัพธ์คือ Zillow กลายเป็นผู้แบกรับสต็อกบ้านราคาแพงเกินจริงไว้เต็มมือจนขายไม่ออก นำไปสู่การขาดทุนยับเยิน 881 ล้านดอลลาร์ และต้องยุบแผนกธุรกิจนี้ทิ้งทันที
2. บริการลูกค้าและคดีความ เมื่อ AI หลอน และไร้ความเห็นอกเห็นใจ
การพยายามลดต้นทุนฝ่ายบริการลูกค้า และงานเอกสารด้วย AI 100% ก่อให้เกิดวิกฤตความเชื่อมั่นชนิดที่เงินกี่ล้านก็ซื้อกลับคืนมาไม่ได้
– Air Canada สายการบินติดตั้งแชตบอต AI ตอบคำถามลูกค้า 100% ทว่าแชตบอตเกิดอาการหลอน โดยการสร้างนโยบายลดหย่อนค่าตั๋ว กรณีเดินทางไปงานศพขึ้นมาเอง และแนะนำให้ลูกค้าซื้อราคาเต็มไปก่อนแล้วค่อยมาขอคืนเงินย้อนหลัง “ทั้งที่ๆ นโยบายจริงทำไม่ได้” เมื่อลูกค้าทำตามและขอคืนเงิน Air Canada ปฏิเสธโดยอ้างว่า แชตบอตเป็นเพียงระบบอัตโนมัติ บริษัทไม่ต้องรับผิดชอบ เรื่องนี้จบลงที่ศาลสั่งให้สายการบินแพ้คดี โดยชี้ชัดว่า องค์กรต้องรับผิดชอบต่อทุกคำพูดที่ออกจาก AI ของตนเอง
– DPD Delivery แชตบอตที่แต่งกลอนด่าบริษัทตัวเอง บริษัทนี้ เป็นบริษัทขนส่งระดับโลกพยายามใช้ AI Chatbot แต่ขาดการตั้งกั้นขอบเขตที่รัดกุม ลูกค้าจึงใช้เทคนิค Prompt Injection ก่อกวน จน AI หลุดควบคุม แต่งบทกวีวิพากษ์วิจารณ์ DPD ว่าเป็นบริษัทขนส่งที่แย่ที่สุดในโลก แถมยังหลุดคำหยาบคายใส่ลูกค้า ภาพหน้าจอถูกแชร์ไปทั่วโลกไซเบอร์จนแบรนด์ป่นปี้
– UnitedHealth & Cigna โดย AI ตัดสิทธิการรักษาพยาบาลใน 1.2 วินาที บริษัทนี้ เป็นบริษัทประกันสุขภาพยักษ์ใหญ่ในสหรัฐฯ มีการนำ AI มาใช้ปฏิเสธการเคลมค่ารักษาผู้สูงอายุเพื่อลดเวลาการตรวจเอกสาร โดย AI อย่าง “PXDX” ใช้เวลาเพียง 1.2 วินาทีต่อเคสในการสั่งปฏิเสธ โดยข้ามขั้นตอนการพิจารณาโดยแพทย์ ผลการตรวจสอบพบว่า AI มีอัตราความผิดพลาดสูงถึง 90% ส่งผลให้ผู้ป่วยจำนวนมากถูกบีบให้ออกจากโรงพยาบาลทั้งที่ยังไม่หายดีจนอาการทรุดหนักหรือเสียชีวิต นำไปสู่การฟ้องร้องแบบกลุ่มครั้งใหญ่ที่สุดครั้งหนึ่งในประวัติศาสตร์การแพทย์
– Mata v. Avianca คดีความจาก AI มโนศาลปลอม โดยทนายความใช้ Generative AI ร่างคำฟ้องส่งศาลโดยไม่ได้ตรวจสอบความถูกต้อง ซึ่ง AI ได้ทำการอ้างอิงบรรทัดฐานคดีความและคำตัดสินของผู้พิพากษาที่ไม่มีอยู่จริงในประวัติศาสตร์ขึ้นมาทั้งหมดอย่างแนบเนียน ผลคือทนายถูกลงโทษปรับหนัก ถูกสอบจริยธรรม และทำให้ศาลทั่วสหรัฐฯ ต้องออกกฎเหล็กว่า เอกสารทางกฎหมายทุกฉบับที่ใช้ AI ต้องมีมนุษย์ลงนามรับรอง 100%
โครงสร้างความล้มเหลว ทำไมการใช้ AI 100% ถึงพังไม่เป็นท่า?
เมื่อวิเคราะห์เจาะลึก จะพบว่าความล้มเหลวไม่ได้เกิดจาก โค้ดบั๊ก เพียงอย่างเดียว แต่เกิดจาก สมมติฐานที่ผิดพลาดของผู้บริหาร ที่มองว่า AI คือมนุษย์จำลอง ทั้งที่ในความเป็นจริง AI มีข้อจำกัด เชิงโครงสร้างที่แก้ไม่ได้ 4 ข้อคือ
– Concept Drift โลกเปลี่ยน แต่โมเดลยังจำภาพเก่า ซึ่ง Machine Learning เรียนรู้จากข้อมูลอดีต แต่เมื่อเกิดวิกฤต โรคระบาด หรือพฤติกรรมคนเปลี่ยน AI จะกลายเป็นสิ่งเก่งกาจที่ไม่รู้ว่าตัวเองไม่รู้อะไร และยังคงส่งคำสั่งผิดพลาดมูลค่ามหาศาลต่อไปเรื่อยๆ อย่างมั่นใจ
– Adversarial Exploitation มนุษย์พร้อมฉวยโอกาส เมื่อไหร่ก็ตามที่มีผลประโยชน์เข้ามาเกี่ยวข้อง มนุษย์จะพยายามหาทางโกงระบบ AI เสมอ ไม่ว่าจะเป็นกลุ่มสายบิดสินเชื่อ หรือเจ้าของบ้านที่ยัดไส้ขายบ้านพังให้ AI ระบบที่ไม่มีมนุษย์คอยประเมินตรรกะเชิงลึก จะตกเป็นเหยื่อเสมอ
– ขาด Causal Reasoning & Empathy รู้จักแต่สถิติ แต่ไม่เข้าใจเหตุผล โดย AI ปัจจุบันเป็นเพียงเครื่องมือค้นหาความสัมพันธ์ทางสถิติ มันไม่เคยเข้าใจเหตุและผล ดั่ง AI ประกันสุขภาพที่สั่งตัดสิทธิคนไข้เพราะตัวเลขเฉลี่ยบอกว่าควรหายแล้ว โดยไม่สนใจสภาพร่างกายจริง เช่นเดียวกับ AI บริการลูกค้า ที่ไม่เข้าใจอารมณ์ความเจ็บปวดของคนที่กำลังเดือดร้อน
– สุญญากาศทางกฎหมาย โดยเมื่อเกิดเรื่อง องค์กรไม่สามารถโยนความผิดให้ AI ในชั้นศาลได้ ศาลทั่วโลกตัดสินตรงกันว่า ผู้ติดตั้งระบบต้องรับผิดชอบผลกระทบ 100% การปลดคนออกจึงไม่ได้ลดความเสี่ยง แต่เป็นการสร้างความเสี่ยงทางกฎหมายที่ไร้คนคอยตั้งรับ
บทเรียนราคาแพงจากกรณีศึกษาทั้งหมดนี้ ไม่ได้บอกให้เราเลิกใช้ AI แต่กำลังบอกว่า AI ไม่ใช่สิ่งมาแทนที่มนุษย์ แต่เป็นเพียงเครื่องมือเสริมศักยภาพมนุษย์เท่านั้น…
