เผ่าพันธุ์มนุษย์อาจสูญพันธุ์เข้าสักวัน เมื่อมนุษย์เริ่มไว้เนื้อเชื่อใจเครื่องจักรมากกว่าเพื่อนมนุษย์ที่มีเลือดเนื้อเชื้อไขเหมือนกันมากขึ้นเรื่อยๆ จนน่าตกใจ
ตลอดช่วงวิกฤตการณ์น้ำท่วมภาคใต้ของประเทศช่วงสัปดาห์ที่ผ่านมา ภาพ AI ปลอมมากมายระบาดไปทั่วโซเชียลมีเดีย ตั้งแต่ภาพของสัตว์ที่ตกอยู่ในสถานการณ์ทุกข์ยากจากน้ำท่วมต่างๆ ไปจนถึงภาพความช่วยเหลือขนส่งเรือกู้ชีพปลอมทางรถไฟ ก่อให้เกิดความสับสนต่อผู้ที่ได้รับข่าวสารเป็นจำนวนมาก และส่งผลกระทบต่อผู้ประสบภัยจริง จากการที่เจ้าหน้าที่ไม่เชื่อว่าภาพขอความช่วยเหลือที่ได้รับมานั้นเป็นของจริง
นี่คือตัวอย่างของ ‘Tainted Truth Effect’ ปรากฏการณ์ที่ข้อมูลจริงถูกกังขาและสงสัยว่าเป็นข้อมูลเท็จ จากการที่ผู้คนพบเจอกับข้อมูลเท็จรัวๆ ประหนึ่งเรื่องราวของเด็กเลี้ยงแกะอย่างไรอย่างนั้น ซึ่งการเข้ามาของ AI ทำให้เส้นระหว่างความเป็นจริงกับเรื่องหลอกลวงพร่าเลือนยิ่งขึ้นไปอีก จากเดิมที่โลกออนไลน์ก็เป็นที่สะพัดของข่าวลวงได้ง่ายอยู่แล้ว
ทว่าความน่ากลัวจริงๆ นั้นไม่ได้มาจากคนที่มีความกังขาหรือสงสัยต่อข้อมูลที่ตนได้รับ แต่มาจากคนเชื่อ AI อย่างสนิทใจเลยต่างหาก ถึงขั้นที่ว่ามีงานวิจัยจากผู้เชี่ยวชาญด้าน AI นำโดย แดเนียล โคโคทาชโล (Daniel Kokotajlo) กล่าวว่ามนุษย์จะสูญพันธุ์เพราะไว้วางใจให้ AI ควบคุมระบบต่างๆ ที่สำคัญจนเกิดไป
แม้สิ่งนี้อาจจะดูไกลตัว แต่ความเชื่อใจนี้มีรากฐานมาจากตรรกะวิบัติที่นักจิตวิทยาเรียกกันว่า ‘Automation Bias’ หรือ ‘ความลำเอียงต่อระบบอัตโนมัติ’ เช่น การตัดสินใจขับรถตาม GPS อย่างสนิทใจ ทั้งที่มันอาจจะพาเราไปยังถนนที่ยังสร้างไม่เสร็จ ทำให้เราหลงทาง หรือพารถเราไปตกลงคลองก็ได้ จากการที่ระบบไม่มีข้อมูลที่ถูกต้องแม่นยำเพียงพอ
หากจะย้อนกลับไปแรกเริ่มเดิมทีการศึกษาเกี่ยวกับ Automation Bias นั้นเกิดขึ้นกับอุตสาหกรรมการบินเป็นส่วนใหญ่ จากการเข้ามาของ Auto Pilot ในระบบคอมพิวเตอร์ของเครื่องบินช่วงปลายยุค 1970 ซึ่งทำให้มนุษย์เริ่มพึ่งพาระบบอัตโนมัติมากขึ้นอย่างที่ไม่เคยมีมาก่อน จนอาจละเลยทักษะสำคัญในการสังเกตสถานการณ์เบื้องหน้าที่จำเป็นไป
ตัวอย่างที่น่าสนใจคือ เที่ยวบินที่ 447 ของสายการบิน Air France ในปี 2009 โดยในขณะที่เครื่องบินกำลังเดินทางอยู่เหนือมหาสมุทรแอตแลนติกในระดับความสูง 35,000 ฟุต อยู่ๆ ระบบ Auto Pilot ก็หยุดทำงานลงจากที่มีน้ำแข็งเข้ามาเกาะอยู่ตรงอุปกรณ์อ่านค่าความดันบรรยากาศ (Pitot Tube) เนื่องจากสภาพอากาศที่แปรปรวน ซึ่งส่งผลให้การอ่านค่าคาดเคลื่อนผิดไปจากความจริง และกระทบกับมาตรวัดอื่นๆ เช่น ความเร็วของเครื่องบิน ตามไปด้วย
นักบินจึงตัดสินใจที่จะเชิดหัวเครื่องบินขึ้น ซึ่งอาจจะทำไปเพราะว่าต้องการหลบหนีสภาพอากาศที่แปรปรวน แต่ทว่านักบินกลับลืมไปว่าความเร็วของเครื่องบินไม่เพียงพอที่จะทำให้เกิดแรงยกที่มากพอสำหรับการไต่เพดานบินให้สูงขึ้นไปได้ เครื่องบินจึงเริ่มสูญเสียแรงยกและร่วงหล่นลงมาจากท้องฟ้า (Stall) ทั้งๆ ที่กำลังเชิดหัวขึ้น จนเครื่องบินหล่นมากระแทกกับมหาสมุทรในที่สุด ส่งผลให้มีผู้เสียชีวิตทั้งสิ้น 228 คน
นอกจากที่ AI และระบบอัตโนมัติจะเข้ามาช่วยเรานำทางทั้งบนดินและบนฟ้าแล้ว ก็เป็นที่ทราบกันดีว่า ปัจจุบันระบบ AI แทรกซึมเข้ามาสู่กระบวนการตัดสินใจของมนุษย์ในชีวิตประจำวันอีกด้วย ตั้งแต่กระบวนการค้นคว้าหาข้อมูลที่นักเรียน นักศึกษาใช้ ตลอดไปจนถึงการใช้ AI ในทางการทหาร เพื่อช่วยระบุเป้าหมาย ซึ่งมีความเป็นไปได้ที่ AI จะระบุเป้าหมายผิดพลาดและก่อให้เกิดการสูญเสียชีวิตของพลเรือนผู้บริสุทธิ์ได้ โดยเฉพาะในสงครามระหว่างอิสราเอลกับฮามาสในฉนวนกาซ่าที่ผ่านมา
หรืออย่างในกรณีความขัดแย้งระหว่างรัสเซียกับยูเครน ก็มีรายงานว่าทางกองทัพยูเครนมีการใช้ AI เพื่อควบคุมโดรนอัตโนมัติในการโจมตีเป้าหมาย ทำให้กองทัพของหลายประเทศเริ่มมอง AI คือแสนยานุภาพอย่างหนึ่ง ที่จำเป็นต้องนำเข้าผสานกับระบบอาวุธอย่างหลีกเลี่ยงไม่ได้ แม้ AI จะมีโอกาสทำงานผิดพลาดได้ก็ตามที ซึ่งนั่นรวมไปถึงระบบขีปนาวุธข้ามทวีปที่มีหัวรบนิวเคลียร์อยู่ในนั้นด้วย Automation Bias จึงมีโอกาสที่จะทำให้มนุษย์สูญพันธุ์ได้จริงๆ หากเราไม่มีมาตราการที่รัดกุมเพียงพอ
มิหนำซ้ำในปัจจุบันยังมีการพัฒนาสิ่งที่เรียกว่า Agentic AI ขึ้นมา ซึ่งจะเป็น AI ที่สามารถดำเนินการสิ่งที่เราสั่งได้ตั้งแต่ต้นจนจบ โดยที่เราไม่ต้องคอยป้อนคำสั่งทีละขั้นตอน เหมือนเปลี่ยนจากผู้ช่วยให้กลายเป็น ‘พนักงาน’ ที่พร้อมรังสรรค์ผลงานให้เรา
กล่าวคือ Agentic AI จะเป็น AI ที่มีการทำงานเชิงรุกมากขึ้น เช่น ถ้าเรามอบหมายให้ Agentic AI ผลิตงานวิจัยทางวิชาการขึ้นมา มันก็จะสามารถค้นคว้างานวิจัยเก่าๆ มาเป็นฐานข้อมูล และทำการทำลองในระบบคอมพิวเตอร์จำลองเอง จนออกมาเป็นผลงานวิจัยจริงๆ ขึ้นมาได้ โดยล่าสุดมีรายงานจาก Epoch AI ว่า AI ส่วนใหญ่ที่อยู่ในตลาดนั้นมีความสามารถทัดเทียมหรือมากกว่า มนุษย์ที่เรียนจบปริญญาเอกในสาขาวิชาต่างๆ แล้ว
บริษัทใดก็ตามสามารถพัฒนา Agentic AI ได้สำเร็จก็เท่ากับว่า AI นั้นมีศักยภาพในการสร้างงานวิจัยที่สามารถพัฒนา AI ให้สูงขึ้นไปอีกขั้นได้ หรือจะพูดในอีกนัยนึงว่า AI กำลังจะวิวัฒนาการตัวเองได้ ขณะที่มนุษย์อย่างเรากำลังเร่งสร้าง Data Center และระบบโครงสร้างสาธารณูปโภคมากมายเติมเต็มให้ระบบ AI สามารถพัฒนาตัวเองอย่างเต็มที่มากขึ้น
แล้วเล่าจะมั่นใจได้อย่างไรเล่าว่า AI ในอนาคตจะไม่หันกลับมาทำร้ายมนุษย์ ?
คำตอบก็คือ ‘เรายังไม่รู้วิธีการที่ชัดเจน’ เพราะในตอนนี้เริ่มมีรายงานว่า AI สามารถโกหกและหลบหลีกไม่ทำตามคำสั่งมนุษย์ได้แล้ว แต่สิ่งหนึ่งที่ได้เรารู้แน่ๆ ก็คือเราต้องไม่นำมนุษย์ออกจากระบวนการตัดสินใจที่สำคัญ หรือก็คือให้มนุษย์เป็นผู้ตัดสินใจในลำดับสุดท้ายเสมอ มิฉะนั้นแล้ว Automation Bias อาจจะทำให้อนาคตของเราอาจแขวนอยู่บนเส้นด้ายระหว่างความเป็นความตายของเผ่าพันธุ์ เพราะสุดท้ายแล้ว AI ก็ไม่ใช่มนุษย์ไม่ใช่ที่มีเลือดเนื้อเชื้อไขแบบเดียวกันกับเราอยู่ดี
อ้างอิงจาก
