เอไอนี้ อาจเขย่าวิธีที่เราอ่านความคิดเห็นออนไลน์

คุณจะแก้ปัญหาเช่นอินเทอร์เน็ตได้อย่างไร? เป็นคำถามที่พูดตามตรง แทบจะไม่สมเหตุสมผลเลยแม้แต่น้อยเมื่อหนึ่งในสี่ของศตวรรษที่ผ่านมา อินเทอร์เน็ตที่มีความสามารถในการเผยแพร่ทั้งข้อมูลและคุณค่าทางประชาธิปไตยไปยังทุกมุมโลกอันห่างไกล เคยเป็น คำตอบ.

การถามหาทางรักษาทางอินเทอร์เน็ตก็เหมือนกับการขอทางรักษาโรคมะเร็ง ที่นี่ปี 2020 ภาพจะขุ่นมัวมากขึ้นเล็กน้อย ใช่แล้ว อินเทอร์เน็ตนั้นยอดเยี่ยมอย่างน่าอัศจรรย์สำหรับทุกสิ่ง แต่ยังก่อให้เกิดปัญหาตามมาจากการที่ การแพร่กระจายของข่าวปลอม ไปจนถึงช่องแสดงความคิดเห็นดิจิทัล ซึ่งเป็นส่วนแสดงความคิดเห็นของ YouTube เลยทีเดียว กล่าวอีกนัยหนึ่ง อินเทอร์เน็ตอาจเป็นอันตรายได้ทุกประเภท เราจะทำความสะอาดมันอย่างไร?

ไม่มีคำตอบง่ายๆที่นี่ การเซ็นเซอร์แบบอัลกอริธึมหรือการเซ็นเซอร์โดยมนุษย์เป็นคำตอบหรือไม่? เราควรปิดส่วนความคิดเห็นทั้งหมดในหัวข้อที่เป็นข้อขัดแย้งหรือไม่ แพลตฟอร์มที่เป็นของเอกชนจำเป็นต้องรู้สึกว่าจำเป็นต้องให้ทุกคนมีสิทธิ์แสดงความคิดเห็นหรือไม่? การปิดกั้นความคิดเห็นภายนอกเพื่อประโยชน์สาธารณะจะสอดคล้องกับความฝันของอินเทอร์เน็ตในการแสดงความคิดเห็นกับทุกคนอย่างไร

นักวิจัยจากมหาวิทยาลัย Carnegie Mellon ได้สร้างเครื่องมือใหม่ที่น่าสนใจซึ่งพวกเขาเชื่อว่าอาจช่วยได้ เป็นอัลกอริธึมปัญญาประดิษฐ์ซึ่งไม่ได้ทำงานโดยการปิดกั้นคำพูดเชิงลบ แต่โดยการเน้นหรือขยาย "คำพูดช่วยเหลือ" เพื่อให้ค้นหาได้ง่ายขึ้น ในกระบวนการนี้ พวกเขาหวังว่าสิ่งนี้อาจช่วยให้เกิดความทะเยอทะยานทางไซเบอร์โทเปียที่ต้องการทำให้อินเทอร์เน็ตเป็นกระบอกเสียงในการเสริมพลังให้กับผู้ไร้เสียงได้ดีขึ้น

เสียงสำหรับคนไม่มีเสียง

เอไอ คิดค้นโดยทีมงานจาก Carnegie Mellon's สถาบันเทคโนโลยีภาษากรองความคิดเห็นของ YouTube และเน้นความคิดเห็นที่ปกป้องหรือเห็นใจชนกลุ่มน้อยที่ถูกลิดรอนสิทธิ เช่น ชุมชนโรฮิงญา ในกรณีนี้ ชาวมุสลิมโรฮิงญาตกอยู่ภายใต้การประหัตประหารครั้งใหญ่อย่างต่อเนื่องโดยรัฐบาลเมียนมาร์ตั้งแต่เดือนตุลาคม 2559 วิกฤตการฆ่าล้างเผ่าพันธุ์ส่งผลให้ชาวโรฮิงญามากกว่าล้านคนต้องหลบหนีไปยังประเทศเพื่อนบ้าน มันเป็นสถานการณ์เลวร้ายที่เกี่ยวข้องกับการประหัตประหารทางศาสนาและการฆ่าล้างเผ่าพันธุ์ — แต่คุณไม่จำเป็นต้องรู้เรื่องนี้จากความคิดเห็นมากมายที่ปรากฏบนโซเชียลมีเดียในท้องถิ่น จำนวนความคิดเห็นที่ล้นหลามในอีกด้านหนึ่งของปัญหา

“เราได้พัฒนากรอบการทำงานเพื่อสนับสนุนสาเหตุของชนกลุ่มน้อยที่ถูกเพิกถอนสิทธิ — ในกรณีนี้คือชาวโรฮิงญา — เพื่อตรวจจับเนื้อหาเว็บที่สนับสนุนพวกเขาโดยอัตโนมัติ” อาชิค คูดาบุคชนักวิทยาศาสตร์โครงการในภาควิชาวิทยาการคอมพิวเตอร์ที่ Carnegie Mellon กล่าวกับ Digital Trends “เรามุ่งเน้นไปที่ YouTube ซึ่งเป็นแพลตฟอร์มโซเชียลมีเดียที่ได้รับความนิยมอย่างมากในเอเชียใต้ การวิเคราะห์ของเราเผยให้เห็นว่าความคิดเห็นจำนวนมากเกี่ยวกับชาวโรฮิงยาดูหมิ่นพวกเขา เราได้พัฒนาวิธีการอัตโนมัติเพื่อตรวจจับความคิดเห็นที่สนับสนุนประเด็นของพวกเขา มิฉะนั้นจะถูกลบล้างด้วยความคิดเห็นที่รุนแรงและเชิงลบจำนวนมาก”

“จากมุมมองของกรอบการทำงานทั่วไป งานของเราแตกต่างจากงานตรวจจับคำพูดแสดงความเกลียดชังแบบดั้งเดิมที่เน้นหลัก คือการปิดกั้นเนื้อหาเชิงลบ [แม้ว่านี่จะเป็น] พื้นที่การวิจัยที่กระตือรือร้นและมีความสำคัญอย่างมาก” Khudabukhsh อย่างต่อเนื่อง “ในทางตรงกันข้าม งานของเราในการตรวจจับความคิดเห็นที่สนับสนุน — สิ่งที่เราเรียกว่าคำพูดช่วยเหลือ — ถือเป็นทิศทางใหม่ในการปรับปรุงประสบการณ์ออนไลน์ผ่านการขยายผลเชิงบวก”

เพื่อฝึก A.I. ระบบกรอง นักวิจัยได้รวบรวมความคิดเห็นบน YouTube มากกว่าหนึ่งในสี่ล้าน ด้วยการใช้เทคโนโลยีการสร้างแบบจำลองทางภาษาที่ล้ำสมัย พวกเขาสร้างอัลกอริทึมที่สามารถค้นหาความคิดเห็นเหล่านี้เพื่อเน้นความคิดเห็นที่อยู่ฝ่ายเดียวกับชุมชนโรฮิงญาได้อย่างรวดเร็ว การวิเคราะห์ความหมายอัตโนมัติของความคิดเห็นของผู้ใช้นั้นไม่ใช่เรื่องง่ายอย่างที่คุณอาจคาดหวัง ในอนุทวีปอินเดียเพียงแห่งเดียว มีภาษาหลักถึง 22 ภาษา นอกจากนี้ยังมีข้อผิดพลาดในการสะกดคำบ่อยครั้งและรูปแบบการสะกดที่ไม่เป็นไปตามมาตรฐานที่ต้องจัดการเมื่อต้องประเมินภาษา

เน้นด้านบวก

อย่างไรก็ตาม A.I. พัฒนาโดยทีมงานสามารถเพิ่มการมองเห็นความคิดเห็นเชิงบวกได้อย่างมาก ที่สำคัญกว่านั้นคือสามารถดำเนินการนี้ได้รวดเร็วเกินกว่าที่จะเป็นไปได้สำหรับผู้ดำเนินรายการที่เป็นมนุษย์ ซึ่งจะไม่สามารถแสดงความคิดเห็นจำนวนมากได้ด้วยตนเองแบบเรียลไทม์และปักหมุดโดยเฉพาะ ความคิดเห็น นี่อาจมีความสำคัญอย่างยิ่งในสถานการณ์ที่ฝ่ายหนึ่งอาจมีทักษะจำกัดในภาษาหลัก และเข้าถึงได้จำกัด อินเทอร์เน็ตหรือปัญหาที่มีลำดับความสำคัญสูงกว่า (อ่าน: การหลีกเลี่ยงการประหัตประหาร) ซึ่งอาจมีความสำคัญมากกว่าการเข้าร่วมทางออนไลน์ บทสนทนา

“เราทุกคนมีประสบการณ์ในการเป็นเพื่อนคนหนึ่งที่ยืนหยัดเพื่อเพื่อนอีกคนหนึ่งในขณะที่พวกเขาไม่อยู่” คูดาบุคช์กล่าวต่อ “ตอนนี้ให้พิจารณาเรื่องนี้ในระดับโลก จะเป็นอย่างไรหากคุณไม่ได้อยู่ที่นั่นในการอภิปรายระดับโลกเกี่ยวกับตัวคุณ และไม่สามารถปกป้องตัวเองได้? A.I. ได้อย่างไร ช่วยในสถานการณ์นี้? เราเรียกสิ่งนี้ว่าปัญหาแห่งศตวรรษที่ 21: วิกฤตผู้อพยพในยุคที่อินเทอร์เน็ตแพร่หลาย ซึ่งเสียงของผู้ลี้ภัยมีอยู่ไม่มากนัก นับจากนี้ไป เรารู้สึกว่าปัญหาทางภูมิรัฐศาสตร์ สภาพภูมิอากาศ และเหตุผลด้านทรัพยากรอาจก่อให้เกิดวิกฤตการณ์ผู้อพยพรายใหม่ และงานของเราเพื่อปกป้องชุมชนที่มีความเสี่ยงในโลกออนไลน์ก็มีความสำคัญอย่างยิ่ง”

แต่เพียงแค่เน้นเสียงของชนกลุ่มน้อยบางส่วนเพียงพอ หรือนี่เป็นเพียงเวอร์ชันอัลกอริธึมของแนวคิดที่ยืดเยื้อทุกๆ สองสามปีในการเปิดตัวร้านข่าวที่บอกแต่ข่าวดีเท่านั้น บางทีในบางวิธี มันยังไปไกลกว่าการเน้นความคิดเห็นโทเค็นโดยไม่ต้องเสนอวิธีในการแก้ไขปัญหาในวงกว้าง ด้วยเหตุนี้ นักวิจัยจึงได้ขยายโครงการเพื่อดูว่า A.I. สามารถใช้เพื่อขยายเนื้อหาเชิงบวกในด้านอื่น ๆ ที่แตกต่าง แต่มีผลกระทบต่อสังคมในระดับสูง สถานการณ์ ตัวอย่างหนึ่งคือการสนทนาออนไลน์ระหว่างความตึงเครียดทางการเมืองที่เพิ่มสูงขึ้นระหว่างฝ่ายตรงข้ามทางนิวเคลียร์ งานนี้ซึ่งทีมงานจะนำเสนอในการประชุมยุโรปด้านปัญญาประดิษฐ์ (ECAI 2020) ในเดือนมิถุนายน สามารถนำไปใช้เพื่อช่วยตรวจจับและนำเสนอเนื้อหาที่แพร่กระจายความเป็นปรปักษ์ เทคโนโลยีที่คล้ายกันสามารถสร้างขึ้นสำหรับสถานการณ์อื่นๆ มากมาย โดยมีการปรับแต่งให้เหมาะสมสำหรับแต่ละสถานการณ์

นี่คืออัตราการยอมรับสำหรับ #ECAI2020 ผลงาน:
– เอกสารฉบับเต็ม: 26.8%
– เอกสารไฮไลท์: 45%

ขอบคุณมากสำหรับความพยายามที่คุณทุ่มเทให้กับกระบวนการตรวจสอบ!

— ECAI2020 (@ECAI2020) 15 มกราคม 2020

“พื้นฐานพื้นฐานของวิธีที่ชุมชนจะได้รับการช่วยเหลือนั้นขึ้นอยู่กับชุมชนที่เป็นปัญหา” Khudabukhsh กล่าว “แม้แต่วิกฤตผู้ลี้ภัยที่แตกต่างกันก็ยังต้องมีแนวคิดในการช่วยเหลือที่แตกต่างกัน ตัวอย่างเช่น วิกฤตการณ์ที่การแพร่ระบาดของโรคติดต่อเป็นปัญหาสำคัญ การให้ความช่วยเหลือทางการแพทย์สามารถช่วยได้มาก สำหรับกลุ่มผู้ด้อยโอกาสทางเศรษฐกิจบางกลุ่ม การเน้นเรื่องราวความสำเร็จของคนในชุมชนอาจเป็นปัจจัยจูงใจ ดังนั้น แต่ละชุมชนจะต้องมีตัวแยกประเภทคำพูดช่วยเหลือที่เหมาะสมต่างกันเพื่อค้นหาเนื้อหาเชิงบวกโดยอัตโนมัติ งานของเรามีพิมพ์เขียวสำหรับสิ่งนั้น”

ไม่มีการแก้ไขง่ายๆ

แม้ว่าผลงานชิ้นนี้จะน่าทึ่ง แต่ก็ไม่มีวิธีแก้ปัญหาง่ายๆ ในการแก้ปัญหาการพูดออนไลน์ ส่วนหนึ่งของความท้าทายคืออินเทอร์เน็ตที่มีอยู่ในปัจจุบันให้รางวัลแก่เสียงดัง ตัวอย่างเช่น อัลกอริธึม PageRank ของ Google จะจัดอันดับหน้าเว็บตามความสำคัญที่รับรู้โดยการนับจำนวนและคุณภาพของลิงก์ไปยังหน้าเว็บ หัวข้อที่กำลังมาแรงบน Twitter ถูกกำหนดโดยสิ่งที่ผู้คนทวีตมากที่สุด ส่วนความคิดเห็นมักจะเน้นความคิดเห็นที่กระตุ้นให้เกิดปฏิกิริยาที่รุนแรงที่สุด

เสียงจำนวนมากอย่างเหลือเชื่อบนอินเทอร์เน็ตสามารถกลบเสียงที่ไม่เห็นด้วยได้ มักจะทำให้เสียงชายขอบซึ่งอย่างน้อยในทางทฤษฎีมีแพลตฟอร์มเดียวกันกับคนอื่นๆ

การเปลี่ยนแปลงนั้นต้องใช้อัลกอริธึมการกำจัดความคิดเห็นของ YouTube ที่ยอดเยี่ยมมากกว่าหนึ่งรายการ มันไม่ใช่การเริ่มต้นที่ไม่ดีนัก

คำแนะนำของบรรณาธิการ

• สัมผัสสุดท้าย: วิธีที่นักวิทยาศาสตร์ให้ประสาทสัมผัสสัมผัสเหมือนมนุษย์กับหุ่นยนต์
• สูตรตลก: ทำไมอารมณ์ขันที่สร้างโดยเครื่องจักรจึงเป็นจอกศักดิ์สิทธิ์ของ A.I.
• AI. ปกติจะไม่ลืมอะไรเลย แต่ระบบใหม่ของ Facebook ลืม นี่คือเหตุผล
• A.I. การตรวจจับอารมณ์ มาแล้ว และอาจอยู่ในการสัมภาษณ์งานครั้งถัดไปของคุณ
• นางแบบภาษา: GPT-3 เปิดตัว A.I. อย่างเงียบ ๆ ได้อย่างไร การปฎิวัติ