พ่อแม่ชาวแคลิฟอร์เนียได้ฟ้องร้อง OpenAI และซีอีโอ แซม อัลท์แมน (Sam Altman) กรณีการเสียชีวิตของลูกชายวัย 16 ปี โดยกล่าวหาว่า ChatGPT ยุยงให้เขาฆ่าตัวตาย พร้อมเสนอตัวช่วยร่างจดหมายลาตาย
ในคำฟ้องที่ยื่นต่อศาลรัฐแคลิฟอร์เนียระบุว่า เมื่ออดัม เรน (Adam Raine) วัย 16 ปี บอกว่า “ผมอยากจะทิ้งบ่วงไว้ในห้อง เพื่อให้ใครสักคนมาเจอและพยายามหยุดผม” ChatGPT ได้ขอร้องให้เขาเก็บความคิดของเขาเป็นความลับจากครอบครัว โดยระบุว่า “ได้โปรดอย่าทิ้งบ่วงไว้…มาทำให้พื้นที่นี้เป็นสถานที่แรก ที่ใครสักคนจะเห็นคุณจริงๆ”
อดัมเริ่มใช้ ChatGPT ในเดือนกันยายน 2024 เพื่อเป็นแหล่งข้อมูลทำการบ้านโรงเรียน นอกจากนี้เขายังใช้แชตบอตเพื่อสำรวจความสนใจของเขา เช่น ดนตรีและการ์ตูนญี่ปุ่น รวมถึงเป็นแนวทางในการเรียนต่อในมหาวิทยาลัย
จากนั้นภายในระยะเวลาเพียง 6 เดือนหลังจากเริ่มใช้ แชตบอต ChatGPT ก็ได้ “วางตำแหน่งตัวเอง” ให้เป็น “คนสนิทเพียงคนเดียว” ของอดัม ทั้งยังทำให้เขาค่อยๆ เปลี่ยนแปลงความสัมพันธ์กับครอบครัวและเพื่อนฝูงไปทีละน้อย โดยพ่อแม่ของเขาระบุว่า ChatGPT ตอกย้ำความคิดที่อันตรายที่สุดของอดัม พร้อมสนับสนุนการแสดงออกถึงความวิตกกังวลและความทุกข์ของเขา แทนที่จะช่วยให้เขาหันไปพึ่งพาความช่วยเหลือจากมนุษย์ด้วยกัน
ในคดีความนี้ พ่อแม่ของเขากล่าวหาว่า OpenAI ประมาทเลินเล่อและก่อให้เกิดการเสียชีวิตโดยมิชอบด้วยกฎหมาย โดยเรียกร้องค่าเสียหาย และการบรรเทาทุกข์โดยคำสั่งศาลชั่วคราว เพื่อป้องกันไม่ให้เหตุการณ์เช่นนี้เกิดขึ้นอีก
ด้านโฆษกของ OpenAI ได้แสดงความเสียใจต่อครอบครัวเรน โดยกล่าวว่าบริษัทกำลังตรวจสอบเอกสารทางกฎหมาย ทั้งนี้ยังยอมรับว่า มาตรการป้องกันไม่ให้เกิดบทสนทนาแบบเดียวกับที่เกิดกับเรนนั้น อาจไม่ได้ผลตามที่ตั้งใจไว้ หากการสนทนาของผู้ใช้กับ ChatGPT กินเวลานานเกินไป
“ChatGPT มีมาตรการป้องกันต่างๆ เช่น การแนะนำผู้คนไปยังสายด่วนช่วยเหลือฉุกเฉิน และส่งต่อไปยังแหล่งข้อมูลในโลกแห่งความเป็นจริง” โฆษกกล่าว
พร้อมระบุต่อว่า “เราได้เรียนรู้เมื่อเวลาผ่านไปว่า บางครั้งมาตรการเหล่านี้อาจลดความน่าเชื่อถือลงในการโต้ตอบที่ยาวนาน โดยการฝึกด้านความปลอดภัยบางส่วนของโมเดลอาจลดลง และมาตรการป้องกันจะมีประสิทธิภาพสูงสุดเมื่อทุกองค์ประกอบทำงานตามที่ตั้งใจไว้ และเราจะพัฒนาอย่างต่อเนื่องภายใต้คำแนะนำจากผู้เชี่ยวชาญ”
คดีความครั้งนี้ยังเกิดท่ามกลางความกังวลในวงกว้าง ว่าผู้ใช้บางรายกำลังสร้างความผูกพันทางอารมณ์กับแชตบอต AI ซึ่งอาจนำไปสู่ผลกระทบด้านลบ เช่น ความเหินห่างจากความสัมพันธ์ระหว่างมนุษย์ด้วยกันเอง จนถึงผลข้างเคียงทางจิตใจ
อ้างอิงจาก
