นับเป็นเรื่องราวที่สร้างความสะเทือนใจอย่างมาก เมื่อคุณพ่อคนหนึ่ง ผู้สูญเสียลูกสาวจากการฆาตกรรมเมื่อ 18 ปีก่อน บังเอิญพบลูกสาวตัวเองอีกครั้ง แต่ในรูปแบบแชทบอท AI บนแพลตฟอร์มแห่งหนึ่ง
เมื่อต้นเดือนนี้ Drew Crecente พ่อของ Jennifer Ann Crecente ระบุว่าเขาได้รับแจ้งเตือนจาก Google Alert (บริการแจ้งเตือนอัตโนมัติที่คอยอัปเดตสิ่งที่เกิดขึ้นบนโลกอินเทอร์เน็ต โดยเราสามารถกำหนดหัวข้อที่ต้องการติดตามได้) ว่าชื่อของลูกสาวที่เสียชีวิตไปแล้วของเขา ปรากฏบนอินเทอร์เน็ต
เขาตกใจมากเมื่อได้รับการแจ้งเตือน เพราะพบโปรไฟล์แชทบอทของ Jennifer บน Character.ai (แพลตฟอร์มที่ผู้ใช้สามารถสนทนากับแชทบอท AI ได้) โดยโปรไฟล์ดังกล่าวใช้ทั้งชื่อและรูปภาพของลูกสาว ทั้งนี้ครอบครัวของ Jennifer ไม่เคยอนุญาตให้ใครใช้ข้อมูลมาก่อน
โปรไฟล์ดังกล่าวบรรยายว่า Jennifer เป็น ‘นักข่าวด้านวิดีโอเกม ผู้เชี่ยวชาญด้านเทคโนโลยี วัฒนธรรมป๊อป และสื่อสารมวลชน’ ซึ่งไม่เป็นความจริง โดย Jennifer ถูกสร้างให้อยู่ในหมวดมู่ ‘ตัวละคร AI ที่มีความรู้และเป็นมิตร’ ทั้งนี้ใครก็สามารถเข้าไปพูดคุยกับเธอได้ ก่อนที่จะถูกลบโปรไฟล์ไป
“ฉันไม่รู้เลยว่าใครเป็นคนสร้างมันขึ้นมา หรือทำไมพวกเขาถึงทำแบบนั้น มันน่ารังเกียจและหนักเกินกว่าจะเข้าใจได้” Drew ผู้เป็นพ่อระบุ โดยแชทบอทของ Jennifer ถูกใช้ในการสนทนาไปแล้ว 69 ครั้ง ก่อนที่เขาจะทราบเรื่อง
Kathryn Kelly โฆษกของ Character.ai กล่าวว่าบริษัทฯ มีนโยบายลบโปรไฟล์แชทบอท AI ที่ละเมิดข้อกำหนดในการให้บริการ พร้อมกับปรับปรุงแนวทางปฏิบัติด้านความปลอดภัยอย่างต่อเนื่อง โดยเธอกล่าวว่ามีการพัฒนาแพลตฟอร์ม “เพื่อช่วยให้ความสำคัญกับความปลอดภัยของชุมชนของเรา เป็นอันดับแรก” พร้อมทั้งระบุว่า “เมื่อได้รับแจ้งเกี่ยวกับโปรไฟล์ของ Jennifer เราได้ตรวจสอบบัญชีและดำเนินการตามนโยบายของเรา” ทำให้โปรไฟล์ดังกล่าวถูกลบไปแล้ว
แม้ว่า Character.ai จะทำการลบแชทบอทออกไปอย่างรวดเร็ว แต่ Drew ยังคงรู้สึกไม่พอใจอย่างมากกับเหตุการณ์ที่เกิดขึ้น และได้ขอให้บริษัทฯ ปรับปรุงโดยเก็บข้อมูลเกี่ยวกับผู้สร้างบอทไว้อย่างรอบคอบตั้งแต่แรก
“มันเหมือนกับการได้เห็นลูกสาวของฉันฟื้นคืนชีพขึ้นมาอีกครั้ง แต่ในลักษณะที่บิดเบือน” Drew กล่าว พร้อมบอกว่าเหตุการณ์นี้ ทำให้ความเจ็บปวดจากการเสียชีวิตของลูกสาวของเขา กลับมาอีกครั้ง โดยเขาสูญเสียลูกสาวจากการฆาตกรรม โดยแฟนเก่าของเธอเมื่อปี 2006 และหลังจากนั้นครอบครัวของ Jennifer ก็สร้าง Jennifer’s Hope หรือองค์กรไม่แสวงหากำไรในนามของเธอ เพื่อป้องกันความรุนแรงในการออกเดตของวัยรุ่น
อย่างไรก็ตาม เหตุการณ์ได้สร้างความกังวลเกี่ยวกับการใช้เทคโนโลยี AI ‘ในทางที่ผิด’ โดยสำหรับกรณีนี้ได้สร้างความสะเทือนใจให้กับครอบครัวผู้สูญเสีย ซึ่งอาจนำไปสู่ปัญหาทางจริยธรรมที่เกิดจากความก้าวหน้าอย่างรวดเร็วของ AI ที่แม้จะมีศักยภาพในการปรับปรุงคุณภาพชีวิตคนได้ แต่ในทางกลับกัน AI ก็มีกำลังมากพอที่จะก่อให้เกิดอันตรายร้ายแรงได้ หากไม่ได้รับการตรวจสอบและควบคุมที่รัดกุม
อ้างอิงจาก
