ระบบจดจำใบหน้า อาจไม่ปลอดภัย เพราะ AI หลอกกันเอง

บริษัทปัญญาประดิษฐ์ของอิสราเอลเปิดเผยว่าได้พัฒนาเทคโนโลยีใหม่ชื่อ Adversa AI ที่สามารถหลอกระบบจดจำใบหน้าโดยการเพิ่ม noise หรือจุดรบกวนเข้าไปในภาพถ่ายปกติ และทำให้ระบบจดใบหน้าผิดเพี้ยนจากเดิม
.
Adversa AI ได้รับการออกแบบมาเพื่อหลอกอัลกอริทึมการจดจำใบหน้าให้ระบุภาพใบหน้าของคน ๆ หนึ่งเหมือนกับภาคนอื่นโดยการเพิ่ม ดัดแปลง จุดเล็ก ๆ จำนวนมากให้กับภาพต้นฉลับ เพื่อหลอกอัลกอริทึม แต่ภาพเดิมยังมีความละเอียดมากพอจะดูออกว่าเป็นภาพต้นฉบับอยู่
.
หากใครยังงงอยู่ ให้ลองนึกถึงภาพ ๆ หนึ่ง ซึ่งภาพนั้นอาจจะเป็นภาพ “บ้านหลังหนึ่ง” ซึ่งภาพนี้จะมี noise หรือจุดเล็ก ๆ จำนวนมากที่ตาคนเรามองไม่เห็น แต่อัลกอริทึ่มของ Ai ใช้จุดเล็ก ๆ เหล่านี้ในการระบุภาพดังกล่าวเป็นภาพอะไร ซึ่งหากมีการเปลี่ยน noise ในภาพไป แน่นอนว่าตามนุษย์จะยังคงมองว่ามันเป็นภาพบ้าน แต่ Ai จะมองเป็นอย่างอื่นไปแล้ว
.
Adversa AI ได้มีการทดสอบโดยใช้ภาพของ CEO Alex Polyakov ให้หลอก PimEyes เสิร์ชเอ็นจิ้นการจดจำใบหน้าและการค้นหาภาพโดยการใส่ภาพเข้าไป โดยเขาใส่ภาพของตัวเองเข้าไป และอีกภาพคือใส่ภาพที่มีการดัดแปลง noise พบว่า PimEyes ค้นหาภาพ noise เป็น Elon Musk ไปเฉยเลย ทั้งที่ตาเรายังมองว่าเป็น Alex Polyakov อยู่ครับ
.
สิ่งนี้จะเกิดผลเสียอย่างไร Face recognition เป็นการยืนยันตัวที่ปลอดภัยรูปแบบหนึ่งที่ใช้กันทั่วโลก ทั้งการยืนทำธุรกิจและการ Access เข้าระบบต่าง ๆ หากมีการหลอกอัลกอริทึ่มได้ แน่นอนว่าเราจะเกิดการขโมยตัวตนในโลกออนไลน์ ที่ทำให้ Face recognition จะไม่ปลอดภัยอีกต่อไป
.
ที่มาข้อมูล

ดูคลิปได้ที่ https://www.youtube.com/watch?v=wzXA8TXfWq0&t=8s

https://www.vice.com/en/article/m7e9qv/hackers-fool-facial-recognition-into-thinking-im-mark-zuckerberg

Facebook Comments