หนึ่งในประเด็นปัญหาสำคัญของโลกในยุคปัจจุบัน คือปัญหาการแพร่กระจายของข้อมูลเท็จ (disinformation) ซึ่งหมายถึงข้อมูลที่ไม่จริง จริงเป็นบางส่วน หรือไม่ครบถ้วน ด้วยมีวัตถุประสงค์บางประการในการแสวงประโยชน์จากการเข้าใจผิดนั้นๆ เช่น การให้ข้อมูลสรรพคุณของอาหารเสริมที่วิเศษเกินจริงเพื่อหวังผลทางเศรษฐกิจ หรือการเผยแพร่ข่าวลวง/ข่าวปลอม (fake news) เพื่อหวังผลทางการเมือง อย่างกรณีการหาเสียงเลือกตั้งประธานาธิบดีสหรัฐอเมริกาเมื่อปี ค.ศ. 2016
ในสัปดาห์ที่ผ่านมา (25 กรกฎาคม พ.ศ. 2562) ‘เฟซบุ๊ก’แพลตฟอร์มโซเชียลมีเดียที่ได้รับความนิยมสูงสุดในปัจจุบันได้ออกแถลงการณ์ว่าได้ปิดบัญชีผู้ใช้และเฟซบุ๊กเพจซึ่งใช้ตัวตนปลอมจำนวน 1,800 บัญชี จาก 4 ประเทศ ได้แก่ ประเทศรัสเซีย ประเทศยูเครน ประเทศฮอนดูรัส และประเทศไทย หลังจากตรวจพบว่ามีการแพร่กระจายของข่าวลวง/ข่าวปลอม จากบัญชีผู้ใช้และเฟซบุ๊กเพจเหล่านั้น
เฟซบุ๊กระบุว่า บัญชีผู้ใช้และเฟซบุ๊กเพจในประเทศไทยที่ถูกปิดการใช้งานลงครั้งนี้ มีการเผยแพร่เนื้อหาเกี่ยวกับการเมืองในประเทศไทย ความสัมพันธ์ระหว่างสหรัฐอเมริกาและจีน การประท้วงในฮ่องกง รวมไปถึงวิพากษ์วิจารณ์กระบวนการไปสู่ประชาธิปไตยของไทย ซึ่งบางบัญชีมีการจ่ายค่าโฆษณาให้กับเฟซบุ๊กเพื่อกระจายการเข้าถึงคอนเทนต์เป็นวงกว้างยิ่งขึ้นด้วยเงินถึง 18,000 เหรียญสหรัฐ และเฟซบุ๊กยังระบุว่า บัญชีผู้ใช้บางอันที่ถูกปิดลงมีความเชื่อมโยงกับเว็บไซต์ New Eastern Outlook ซึ่งเป็นสื่อออนไลน์ที่ได้รับการสนับสนุนโดยตรงจากรัฐบาลรัสเซีย[1]
Matthew Tostevin ผู้สื่อข่าวรอยเตอร์สได้ทวีตข้อความในทวิตเตอร์ว่าหนึ่งในบัญชีผู้ใช้เฟซบุ๊กที่ถูกปิดดังกล่าวคือบัญชีผู้ใช้ของโทนี่ คาร์ตาลุชชี่ (Tony Cartalucci)[2]
ใครคือโทนี่ คาร์ตาลุชชี่ ?
โทนี่ คาร์ตาลุชชี่ เป็นบุคคลสมมติ สันนิษฐานว่าเขาคือชาวต่างชาติที่อาศัยอยู่ในประเทศไทย โดยในวิกฤตความขัดแย้งทางการเมืองของไทยที่ผ่านมา เขาแสดงบทบาทสนับสนุนกลุ่ม กปปส. อย่างเปิดเผย โทนี่ผลิตบทความเกี่ยวกับการเมืองไทยจำนวนมากและได้รับการตอบรับอย่างล้นหลาม มีการส่งต่อ เผยแพร่ซ้ำ มีผู้อ้างถึง และยกย่องให้เขาเป็นผู้เชี่ยวชาญการเมืองไทยทั้งที่ไม่มีใครทราบว่าตัวตนที่แท้จริงของ โทนี่ คาร์ตาลุชชี่ ผู้นี้คือใครกันแน่ รู้แต่เพียงว่าเขาเป็นนักเขียนและนักวิจัยด้านภูมิศาสตร์การเมือง ตามที่เขาให้คำจำกัดความตัวเองไว้ นอกจากนี้ เขายังเป็นผู้เขียนหลักของบล็อก ‘Land Destroyer’ และมีบัญชีทวิตเตอร์ในชื่อเดียวกันกับบล็อก แต่บัญชีทวิตเตอร์นี้ก็ถูกปิดลงในเวลาไล่เลี่ยกับบัญชีเฟซบุ๊ก
สำหรับบรรดาคนที่เชื่อถือและเผยแพร่บทความของเขาต่อไปเป็นทอดๆ นั้น มีตั้งแต่ประชาชนทั่วไป สื่อมวลชน[3] ปัญญาชน นักการเมือง กระทั่งศาสตราจารย์ทางสังคมวิทยาในมหาวิทยาลัยชั้นนำของไทย
การที่เฟซบุ๊กและทวิตเตอร์ปิดบัญชีของโทนี่ คาร์ตาลุชชี่ บุคคลที่แม้จะไม่เคยเปิดเผยตัวตนแต่กลับได้รับความเชื่อถือในสังคมไทยอย่างสูงผู้นี้ น่าจะเป็นจุดที่ทำให้สังคมต้องหวนมาฉุกคิดว่าข้อมูลเท็จอาจอยู่ใกล้ตัวเรามากเกินกว่าที่คาดคิดจนทำให้เราหลงเชื่อโดยไม่ทันได้ตรวจสอบความถูกต้อง
แล้วด้วยเหตุอันใดสังคมไทยซึ่งปกติมักสนใจตัวตนมากกว่าตัวสารจึงเชื่อถือข้อความของ โทนี่ คาร์ตาลุชชี่ มากนัก? หรือเป็นเพราะการผลิตซ้ำและแชร์ข้อมูลเท็จของเขาเกิดขึ้นภายใต้การอ้างสถานะผู้มีทุนทางวัฒนธรรมและทุนทางสังคมสูง? สถานะ ‘นักเขียนและนักวิจัยด้านภูมิศาสตร์การเมือง’ เป็นหนึ่งในเครื่องมือสร้างความความชอบธรรมและความน่าเชื่อถือให้กับข้อมูลเท็จของเขาหรือไม่?
วงจรของข้อมูลเท็จ
เพื่อทำความเข้าใจ เราควรลองเริ่มต้นจากการพิจารณากลไกที่เป็นวงจรการผลิตและการเผยแพร่ของข้อมูลเท็จ ข้อมูลเท็จมีกลไกการเกิดและกระบวนการเผยแพร่เช่นเดียวกับข้อมูลข่าวสารทั่วไป ต่างกันตรงที่แรงจูงใจในการผลิตข้อมูลเท็จนั้นไม่ได้ทำไปเพื่อประโยชน์ที่สาธารณะจะได้รับจากการรับรู้ข้อมูลนั้น ตรงกันข้าม ผู้ผลิตข้อมูลเท็จมักมีแรงผลักดันจากผลประโยชน์ทางเศรษฐกิจและผลประโยชน์อื่น
Kshetri ได้เสนอโมเดลทางเศรษฐศาสตร์ของข่าวลวง/ข่าวปลอม[4] บนสมมติฐานว่า ผู้ผลิตข่าวลวง/ข่าวปลอม มีแรงจูงใจจากผลประโยชน์ทางเศรษฐกิจและผลประโยชน์อื่นที่ได้รับ ซึ่งมีมูลค่ามากกว่าต้นทุนต่างๆ ที่ต้องเสียไปเพื่อการสร้างข้อมูล และความเสี่ยงต่อการถูกจับดำเนินคดีรวมกัน ภายหลังสมการของ Kshetri ช่วยอธิบายปรากฏการณ์ข่าวลวง/ข่าวปลอม ในช่วงการรณรงค์หาเสียงเลือกตั้งประธานาธิบดีในสหรัฐอเมริกาจำนวนมากในปี ค.ศ. 2016 ซึ่งมีต้นตอมาจากประเทศที่ไม่มีกฎหมายเอาผิดผู้เผยแพร่ข้อมูลเท็จอย่างประเทศจอร์เจียและประเทศมาเซโดเนีย
ผู้ผลิตคอนเทนต์ออนไลน์ในมาเซโดเนียรายหนึ่งมีรายได้จากการที่คนคลิกเข้าไปอ่านเว็บไซต์ที่มีเนื้อหาสนับสนุนโดนัลด์ ทรัมป์ ที่เขาสร้างขึ้นมา 2 เว็บไซต์ เป็นเงินกว่า 16,000เหรียญสหรัฐ[5] กรณีตัวอย่างอีกตัวอย่างหนึ่งคือการเปิดเผยว่าผู้ผลิตข่าวลวง/ข่าวปลอมซึ่งโฟกัสไปที่การเผยแพร่บนเฟซบุ๊กเป็นหลัก มีรายได้จาก AdSensc สูงถึงเดือนละ 10,000 เหรียญสหรัฐ[6]
Kshetri และ Vaos[7] ศึกษาวงจรการเกิดและการแพร่ข้อมูลเท็จ และเสนอว่า วงจรของข้อมูลเท็จมีองค์ประกอบคือ ผู้ผลิตข้อมูลเท็จ ผู้อ่าน และผู้มีหน้าที่กำกับดูแล ทั้ง 3 องค์ประกอบล้วนเอื้อและมีส่วนในการสนับสนุนให้วงจรของข้อมูลเท็จนี้ดำรงอยู่ การยุติวงจรข้อมูลเท็จนี้จึงควรพิจารณาบทบาทของทุกองค์ประกอบร่วมกัน ไม่ควรพุ่งเป้าไปที่องค์ประกอบใดองค์ประกอบหนึ่งเท่านั้น
ข้อเสนอของ Kshetri และ Vaos จึงน่าจะเป็นประโยชน์ต่อประเทศไทยซึ่งเริ่มตระหนักถึงผลเสียของการเผยแพร่ข้อมูลเท็จที่นำไปสู่การพยายามสร้างความตระหนักรู้ของคนในสังคมมากยิ่งขึ้น ความตื่นตัวดังกล่าวเป็นส่วนหนึ่งของความพยายามในการแก้ไขปัญหา แต่ดูเหมือนว่าการแก้ไขปัญหาของประเทศไทยยังคงมุ่งเน้นที่บทบาทของผู้รับสารเป็นสำคัญ ดังจะเห็นได้จากการเน้นไปที่ประเด็นการสร้างเสริมความรู้เท่าทันสื่อ ซึ่งเป็นเพียงการให้ความสำคัญแก่องค์ประกอบเดียวของวงจรข้อมูลเท็จเท่านั้น
สูงวัย-อนุรักษ์นิยม กับแนวโน้มการ ‘แชร์’ ข่าวลวง/ข่าวปลอม
งานวิจัยจากมหาวิทยาลัยพรินซ์ตันและมหาวิทยาลัยนิวยอร์ก[8] ซึ่งทำการศึกษากลุ่มตัวอย่างชาวอเมริกัน 3,500 คน ในการแชร์ข่าวลวง/ข่าวปลอมทางเฟซบุ๊ก ได้ข้อค้นพบที่น่าสนใจว่า ผู้สูงวัยที่มีอายุมากกว่า 65 ปี (กราฟ B) และกลุ่มคนที่มีความเป็นอนุรักษ์นิยม ทั้งที่ยอมรับว่าตัวเองเป็นอนุรักษ์นิยมและเป็นผู้สนับสนุนพรรครีพับลิกันซึ่งเป็นพรรคการเมืองอนุรักษ์นิยม รวมไปถึงผู้ที่ประกาศตัวไม่เป็นผู้สนับสนุนพรรคการเมืองใดพรรคการเมืองหนึ่ง มีแนวโน้มที่จะแชร์ข่าวลวง/ข่าวปลอม มากกว่ากลุ่มตัวอย่างที่เรียกตัวเองว่าเป็นเสรีนิยม/ลิเบอรัล หรือกลุ่มที่ยอมรับว่าตนสนับสนุนพรรคเดโมแครตอย่างเห็นได้ชัด (กราฟ Aและ กราฟ C)
ที่มา: Less than you think: Prevalence and predictors of ข่าวลวง/ข่าวปลอม dissemination on Facebook. Science Advances.09 Jan 2019: Vol. 5, no. 1.
นอกจากนี้จำนวนการแชร์ข่าวทั้งหมดของคนแชร์ยังมีผลต่อการแชร์ข่าวลวง/ข่าวปลอม ด้วย โดยผู้ที่แชร์ข่าวเป็นประจำจนมีจำนวนข่าวที่แชร์มากถึงระดับหนึ่ง มีแนวโน้มที่จะสามารถบอกได้ว่าข่าวใดเป็น ข่าวลวง/ข่าวปลอม และจะแชร์ข่าวลวง/ข่าวปลอมน้อยลง นั่นก็หมายความว่า เมื่อแชร์ข่าวมากในระดับหนึ่ง ผู้ใช้งานที่มีประสบการณ์ในการแชร์ข่าวที่มากขึ้นก็มีแนวโน้มที่จะเรียนรู้ว่าข่าวใดเป็นข่าวลวง/ข่าวปลอมในที่สุด ส่งผลให้สามารถคัดกรองข้อมูลและแชร์ข่าวลวง/ข่าวปลอมน้อยลงไปเอง
ดังนั้นแม้ผู้สูงวัยและกลุ่มผู้มีความคิดอนุรักษ์นิยมจะแชร์ข่าวลวง/ข่าวปลอมมากในช่วงแรก แต่ก็มีแนวโน้มที่จะมีประสบการณ์และการเรียนรู้ มีความรู้เท่าทันสื่อ (media literacy) มากขึ้น โดยในงานวิจัยพบว่าการแชร์ข่าวลวง/ข่าวปลอม จะลดลงอย่างมีนัยสำคัญหลังจากคนคนนั้นแชร์ข่าวไปแล้วมากกว่า 2,000 ข่าวขึ้นไป (กราฟ D)
ข้อมูลชุดนี้นำมาใช้กับบริบทสังคมไทยได้หรือไม่? แม้จะยังไม่มีงานศึกษาเรื่องนี้อย่างเป็นรูปธรรม แต่ผมก็มั่นใจว่าท่านผู้อ่านทุกท่านคงจะมีประสบการณ์ที่ใกล้เคียงกับงานศึกษานี้หรือเคยได้เห็นปรากฏการณ์คล้ายๆ กันนี้บ้างไม่มากก็น้อยในประเทศไทย โดยเฉพาะกรณีการใช้โซเชียลมีเดียของผู้สูงวัยหรือญาติผู้ใหญ่ที่เราเคารพนับถือ ซึ่งนอกจากจะนิยมส่งดอกไม้สวัสดีตอนเช้าเป็นประจำทุกวัน ยังมีแนวโน้มที่จะเชื่อข้อมูลเท็จ และส่งต่อมากกว่าคนรุ่นใหม่ซึ่งเติบโตมาในยุคดิจิทัลที่ดูเหมือนจะมีภูมิคุ้มกันต่อข้อมูลเท็จมากกว่า หากพิจารณากรณีของโทนี่ คาร์ตาลุชชี่ ที่ได้กล่าวถึงในตอนต้นของบทความ ก็น่าจะพอเทียบเคียงกลุ่มผู้มีความคิดอนุรักษ์นิยมที่มีแนวโน้มแชร์ข่าวลวง/ข่าวเท็จกับกลุ่มผู้สูงวัยในไทยได้
พื้นที่สาธารณะใหม่ ค่านิยมไทย กับ fake news
มีอย่างน้อย 2 ปัจจัยที่เอื้อให้การแพร่กระจายของข้อมูลเท็จเติบโตเป็นวงกว้างในสังคมไทย ปัจจัยแรกคือเทคโนโลยีการสื่อสารที่ทำให้พื้นที่สาธารณะและรูปแบบการสื่อสารเปลี่ยนแปลงไป และปัจจัยสำคัญอีกปัจจัยหนึ่ง คือ ‘ค่านิยม’ หรือคุณค่าที่เป็นบรรทัดฐานของสังคม ซึ่งผมจะขออธิบายดังนี้
- พื้นที่สาธารณะและรูปแบบการสื่อสารเปลี่ยนไป
หากพินิจพิเคราะห์ปรากฏการณ์อย่างละเอียด เราย่อมจะมองเห็นความเป็นไปที่ว่าโซเชียลมีเดียได้เปลี่ยนแปลงรูปแบบพื้นที่สาธารณะในสังคมไทยไปอย่างมาก พื้นที่ทางสังคมเชิงกายภาพที่เคยมีบทบาทสำคัญต่อสังคมไทยในอดีต เช่น วัด สภากาแฟ ร้านเสริมสวย ร้านยาดอง มีบทบาทและความสำคัญลดน้อยลงไป เคลื่อนย้ายไปอยู่บนโลกเสมือนจริง การปฏิสัมพันธ์ทางกายภาพถูกแทนที่ด้วยการปฏิสัมพันธ์กันบนโลกเสมือนจริงผ่านโซเชียลมีเดีย
ไม่เพียงพื้นที่สาธารณะเท่านั้นที่เปลี่ยนแปลงไป โซเชียลมีเดียยังได้เปลี่ยนวิธีการสื่อสารและผลลัพธ์จากการสื่อสารไปพร้อมกันด้วย การปฏิสัมพันธ์บนโซเชียลมีเดียสามารถทำได้ตลอดเวลา ข้อจำกัดทางกายภาพถูกทำลายลงไป ใช้ต้นทุนในการสื่อสารน้อยลง ที่สำคัญคือการสื่อสารระหว่างกันยังสามารถถูกบันทึกเอาไว้ได้อีกด้วย ช่วยให้การสื่อสารมีประสิทธิภาพมากขึ้น
ขณะเดียวกันการปฏิสัมพันธ์กันบนโซเชียลมีเดียก็มีข้อด้อยและอาจทำให้เราสูญเสีย ‘คุณค่า’ ที่เกิดจากการปฏิสัมพันธ์ในพื้นที่สาธารณะแบบเก่าไปหลายประการ การสื่อสารบนโซเชียลมีเดียซึ่งทำผ่านการพิมพ์และการอ่านเป็นหลักนั้น ทำให้การสื่อสารไม่อาจรับรู้ถึงอารมณ์และความรู้สึกจริงของผู้ที่ปฏิสัมพันธ์ด้วยได้มากนัก การถูกตัดขาดจากบริบททางอารมณ์และความรู้สึกดังกล่าวอาจนำมาซึ่งการสูญเสียคุณภาพของความสัมพันธ์ จนบางครั้งการสื่อสารบนโซเชียลมีเดียนำมาซึ่งความขัดแย้งแทนที่จะเป็นความเข้าใจซึ่งกันและกัน
- ค่านิยมไทย
ค่านิยมไทย คือบรรทัดฐานหรือสิ่งที่คนส่วนใหญ่ในสังคมไทยให้คุณค่าร่วมกัน เป็นสิ่งที่กำกับการแสดงออกของพฤติกรรมของคนในสังคม โดยค่านิยมของสังคมไทยบางประการมีความเชื่อมโยงกับการแพร่กระจายและการดำรงอยู่ของข้อมูลเท็จ
ระบบอุปถัมภ์-ความกตัญญู-การเคารพผู้อาวุโส : สังคมไทยเป็นสังคมอุปถัมภ์ ผู้ใหญ่ที่มีความอาวุโสต้องมีความเมตตาให้การอุปการะแก่ผู้น้อย ผู้น้อยต้องมีความกตัญญูและต้องแสดงความเคารพต่อผู้ใหญ่ การตั้งคำถามหรือการโต้แย้งแม้จะมีเหตุมีผลและทำด้วยท่าทีสุภาพก็อาจถูกตีความได้ว่าเป็นการแสดงความไม่เคารพ ไม่กตัญญูต่อความเมตตาที่ผู้อาวุโสมีให้ และอาจนำไปสู่การตัดสินให้คุณให้โทษผู้น้อยต่อไปในอนาคต ด้วยเหตุนี้เมื่อมีการเผยแพร่ข้อมูลเท็จ คนจำนวนมากจึงเลือกที่จะนิ่งเฉย ไม่ทักท้วง ไม่โต้แย้ง และอาจเลยเถิดไปถึงขั้นอวยและเยินยอเพื่อเอาอกเอาใจ
พูดไปสองไพเบี้ย นิ่งเสียตำลึงทอง : คนไทยจำนวนมากเชื่อว่าการแสดงความคิดเห็น ทักท้วง หรือโต้แย้งจะเป็นการทำให้ผู้อื่นอับอายและเป็นการทำลายความสัมพันธ์ จึงเลือกที่จะนิ่งเฉยเอาไว้
การเห็นแก่ประโยชน์ส่วนรวม – กันไว้ดีกว่าแก้ : การเห็นแก่ประโยชน์ผู้อื่นและความคิดที่ว่ากันไว้ดีกว่าแก้เป็นปัจจัยหนึ่งที่สนับสนุนให้เกิดการแชร์ข้อมูลเท็จ เนื่องจากผู้แชร์คิดว่าข้อมูลที่ได้รับมาเป็นข้อมูลที่มีประโยชน์ต่อผู้อื่นได้ จึงทำการแชร์โดยไม่ได้ตรวจสอบและไม่คิดว่ามีผลเสียใดๆ
ยกย่องเชิดชูผู้มีชื่อเสียงและสถานะทางสังคม : สังคมไทยให้การยกย่องเชิดชู ผู้มีชื่อเสียง ผู้มีความร่ำรวยและมีสถานะทางสังคม และให้ความสำคัญกับผู้ประกอบวิชาชีพบางวิชาชีพว่าเป็นผู้เสียสละ มีคุณธรรม หรือทรงคุณค่าอย่างยิ่ง จึงให้สถานะทางสังคมที่เหนือกว่าผู้มีอาชีพอื่น เช่น พระสงฆ์ แพทย์ ครู อาจารย์ ผู้พิพากษา ดารา นักแสดง ผู้มีสถานะทางสังคมเหล่านี้จึงมักได้รับความน่าเชื่อถือมากกว่าบุคคลทั่วไป ดังนั้นเมื่อบุคคลเหล่านี้แชร์ข้อมูลใด ก็มักจะมีผู้ให้ความเชื่อถือข้อมูลนั้นๆ ตามไปด้วยจำนวนมาก
อ้างอิงข้อเสนอจากงานวิจัยโดยคณะนักวิจัยจากมหาวิทยาลัยพรินซ์ตันและมหาวิทยาลัยนิวยอร์กที่กล่าวไปช่วงต้น เมื่อสังคมที่ยึดมั่นในในค่านิยมก็คือสังคมอนุรักษ์นิยม สังคมไทยที่อาจกล่าวได้ว่าเป็นสังคมอนุรักษ์นิยมเกือบเต็มตัวจึงมีแนวโน้มสูงในการเผยแพร่ข้อมูลเท็จอยู่แล้วในตัวเอง ซ้ำร้ายต่อที่สอง เมื่อค่านิยมไทยเหล่านั้นเป็นเรื่องที่เชื่อมโยงกับการไม่สามารถตรวจสอบ โต้แย้ง และตั้งคำถามต่อสิ่งต่างๆ ได้โดยตรง เราจึงยิ่งเห็นปรากฏการณ์แพร่กระจายของข้อมูลเท็จอย่างกว้างขวาง และซ้ำร้ายต่อที่สาม เมื่อความสามารถของโซเชียลมีเดียที่ทำให้พื้นที่สาธารณะในสังคมเคลื่อนย้ายจากพื้นที่เชิงกายภาพไปสู่โลกออนไลน์ ทำให้รูปแบบการสื่อสารเปลี่ยนไปในทางที่ลดทอนบริบททางอารมณ์และความรู้สึกในการสื่อสาร นำมาซึ่งความขัดแย้ง การปลอมแปลงข้อมูล และการเข้าใจข้อมูลที่คลาดเคลื่อนได้ง่าย
ซึ่งทั้งหมดทั้งมวลนี้อาจพออธิบายได้ว่า เหตุใดการแพร่ของข้อมูลเท็จในสังคมไทยอาจแก้ไขได้ยากกว่าที่คิด
อ้างอิงข้อมูลจาก
[3]ดูตัวอย่างที่ https://www.isranews.org/isranews-scoop/26133-tk_26133.html,https://www.posttoday.com/world/271699, http://www.thansettakij.com/content/398083, https://www.naewna.com/politic/columnist/35282
[4]N. Kshetri. “The Simple Economics of Cybercrimes”. IEEE Security & Privacy.vol. 4, no. 1, pp. 33-39(2006).
[5]S. Subramanian, Inside the Macedonian Fake-News Complex, Feb.2017, [online] Available: bit.ly/2kphWY3.
[6]A. Ohlheiser, This Is How Facebook’s Fake-News Writers Make Money, Washington Post, Nov. 2016, [online] Available: wapo.st/2g8vLHg.
[7]Kshetri, N. and Vaos, J. (2017). The Economics of “ข่าวลวง/ข่าวปลอม.”IT ProfessionalVolume: 19 Issue: 6. เข้าถึงได้ที่https://doi.org/10.1109/MITP.2017.4241459
