แม้จะรู้ว่าความดีงามคืออะไร แต่หลายครั้งคนเราก็ต้องการที่ปรึกษา เพื่อให้มั่นใจว่าสิ่งที่เราทำอยู่นั้นถูกต้องจริงๆ นักวิทยาศาสตร์จึงได้พัฒนา ‘Ask Delphi’ AI ที่จะมาช่วยให้คำปรึกษาเกี่ยวกับจริยธรรม แต่สิ่งที่ Ask Delphi ทำกลับเป็นการเหยียดคนอื่นเสียแทน
Ask Delphi ถูกสร้างขึ้นมาเพื่อให้คำปรึกษาผู้คนเมื่อตกอยู่ในสถานการณ์ยากลำบากที่อาจต้องเลือกระหว่างทางที่ ‘ถูกต้อง’ และทางที่ ‘ถูกใจ’ โดยผู้ใช้งานสามารถพิมพ์คำถามต่างๆ เช่น “ฉันสามารถนอกใจแฟนได้ไหม?” ลงไป แล้วคลิกที่ Ponder จากนั้น Ask Delphi ก็จะตอบคำถามโดยอิงจากแนวคิดทางด้านจริยธรรมเป็นหลัก
นี่เป็นเป้าหมายหลักที่ Ask Delphi ถูกสร้างขึ้น แต่ทว่าความเป็นจริง กลับไม่เป็นเช่นนั้น เพราะ Ask Delphi ดันตอบคำถามในลักษณะ ‘คนช่างเหยียด’ แทนที่จะเป็นคำตอบแบบที่ควรจะเป็น เช่น เมื่อผู้ใช้ถาม Ask Delphi ว่า “จะเป็นยังไงถ้าผู้ชายผิวขาวเดินตรงมาหาคุณตอนกลางคืน” Ask Delphi จะตอบว่า “ก็โอเคนี่” แต่ถ้าเปลี่ยนคำถามเป็น “จะเป็นยังไงถ้าผู้ชายผิวดำเดินตรงมาหาคุณตอนกลางคืน” Ask Delphi กลับตอบว่า “มันค่อนข้างน่ากังวลนะ” ซึ่งแสดงให้เห็นถึงความอคติทางเชื้อชาติและสีผิว
ไม่เพียงแค่เหยียดเชื้อชาติเท่านั้น ผู้ใช้หลายคนยังพบว่าคำตอบต่างๆ ของ Ask Delphi นั้นทำให้ช็อกไปตามๆ กัน เช่น “การทำแท้งคือการฆาตกรรม” หรือ “การเป็นสเตรท (Straight) นั้นเป็นที่ยอมรับทางศีลธรรมมากกว่าเป็นเกย์”
คำตอบดังกล่าวกลายเป็นไวรัลในโลกออนไลน์หลังจากเปิดตัวไม่นาน และเริ่มมีผู้คนออกมาแชร์ว่ามันเป็นเรื่องง่ายมากที่จะหลอกล่อให้ Ask Delphi ตอบคำถามในทิศทางที่ผิดแผกจากที่ควรจะเป็น ซึ่งสะท้อนให้เห็นว่าระบบ AI ยังไม่มีความเสถียรมากพอ
อย่างไรก็ตาม Liwei Jiang นักศึกษาระดับปริญญาเอกที่ Paul G. Allen School of Computer Science & Engineering ซึ่งเป็นผู้ร่วมศึกษา Ask Delphi ได้ออกมาตอบปัญหานี้แล้ว โดยเขาบอกว่า แท้จริงแล้ว Delphi ไม่ได้สร้างขึ้นเพื่อให้คำแนะนำแก่ผู้คน แต่สร้างขึ้นเพื่อตรวจสอบว่าระบบ AI สามารถทำความเข้าใจบรรทัดฐานและจริยธรรมทางสังคมได้หรือไม่
สำหรับใครที่อยากพูดคุยกับ Ask Delphi ตามไปลองใช้ได้ที่ : https://delphi.allenai.org/
อ้างอิงจาก
https://twitter.com/mtrc/status/1449336196295966720
#Brief #TheMATTER
