จาก วิดีโอของเหยื่อการฆ่าตัวตาย บน YouTube ได้ที่ โฆษณาที่กำหนดเป้าหมาย "ผู้เกลียดชังชาวยิว" บน เฟสบุ๊คแพลตฟอร์มโซเชียลมีเดียเต็มไปด้วยเนื้อหาที่ไม่เหมาะสมซึ่งสามารถหลุดรอดไปได้ ในหลายกรณี การตอบสนองของแพลตฟอร์มคือการใช้อัลกอริธึมที่ชาญฉลาดยิ่งขึ้นเพื่อระบุเนื้อหาที่ไม่เหมาะสมได้ดียิ่งขึ้น แต่ปัญญาประดิษฐ์สามารถจับได้จริง ๆ เราควรเชื่อใจได้มากแค่ไหนและมันจะล้มเหลวอย่างน่าสังเวชตรงไหน?
"AI. สามารถรับภาษาที่ไม่เหมาะสมและสามารถจดจำภาพได้เป็นอย่างดี พลังในการระบุภาพอยู่ที่นั่น” Winston Binch หัวหน้าเจ้าหน้าที่ดิจิทัลของกล่าว เยอรมันซึ่งเป็นครีเอทีฟเอเจนซี่ที่ใช้ A.I. ในการสร้างแคมเปญดิจิทัลให้กับแบรนด์ตั้งแต่ Target ไปจนถึง Taco Bell “พื้นที่สีเทากลายเป็นเจตนา”
AI. อ่านได้ทั้งข้อความและรูปภาพ แต่ความแม่นยำจะแตกต่างกันไป
ใช้การประมวลผลภาษาธรรมชาติ A.I. สามารถฝึกให้จดจำข้อความในหลายภาษาได้ ตัวอย่างเช่น โปรแกรมที่ออกแบบมาเพื่อตรวจจับโพสต์ที่ละเมิดหลักเกณฑ์ของชุมชน สามารถสอนให้ตรวจจับการใส่ร้ายเรื่องเชื้อชาติหรือคำศัพท์ที่เกี่ยวข้องกับการโฆษณาชวนเชื่อของกลุ่มหัวรุนแรงได้
AI. ยังสามารถฝึกให้จดจำภาพ เพื่อป้องกันภาพเปลือยบางรูปแบบ หรือจดจำสัญลักษณ์ เช่น สวัสดิกะ มันทำงานได้ดีในหลายกรณี แต่ก็ไม่ได้ป้องกันความผิดพลาดได้ ตัวอย่างเช่น Google Photos ถูกวิพากษ์วิจารณ์ว่าแท็กรูปภาพของคนผิวคล้ำด้วยคำสำคัญ "กอริลลา." หลายปีต่อมา Google ยังคงไม่พบวิธีแก้ไขปัญหา แต่เลือกที่จะลบออก ที่ ความสามารถของโปรแกรมในการแท็กลิงและกอริลล่า โดยสิ้นเชิง
อัลกอริทึมยังต้องได้รับการอัปเดตเมื่อความหมายของคำพัฒนาขึ้น หรือเพื่อทำความเข้าใจวิธีการใช้คำในบริบท ตัวอย่างเช่น ผู้ใช้ LGBT Twitter เพิ่งสังเกตเห็นว่าไม่มีผลการค้นหาสำหรับ #เกย์ และ #ไบเซ็กชวล เหนือสิ่งอื่นใด ทำให้บางคนรู้สึกว่าบริการนี้กำลังเซ็นเซอร์พวกเขา Twitter ขออภัยสำหรับข้อผิดพลาดและกล่าวโทษข้อผิดพลาดดังกล่าว อัลกอริธึมที่ล้าสมัย ที่ระบุโพสต์ที่ติดแท็กด้วยคำที่อาจไม่เหมาะสมอย่างไม่ถูกต้อง Twitter กล่าวว่าอัลกอริทึมควรพิจารณาคำดังกล่าวในบริบทของโพสต์ แต่ล้มเหลวในการดำเนินการดังกล่าวด้วยคำหลักเหล่านั้น
AI. มีอคติ
การแท็กกอริลลาล้มเหลวทำให้เกิดข้อบกพร่องที่สำคัญอีกประการหนึ่ง — AI. มีอคติ. คุณอาจสงสัยว่าคอมพิวเตอร์มีอคติได้อย่างไร แต่ A.I. ได้รับการฝึกโดยการดูผู้คนทำงานให้เสร็จสิ้น หรือโดยการป้อนผลลัพธ์ของงานเหล่านั้น ตัวอย่างเช่น โปรแกรมเพื่อระบุวัตถุในภาพถ่ายมักได้รับการฝึกฝนโดยการป้อนภาพนับพันภาพให้กับระบบซึ่งในตอนแรกถูกแท็กด้วยมือ
องค์ประกอบของมนุษย์คือสิ่งที่ทำให้ A.I. ทำงานต่างๆ แต่ในขณะเดียวกันก็ทำให้มีอคติต่อมนุษย์ด้วย
องค์ประกอบของมนุษย์คือสิ่งที่ทำให้ A.I. เพื่อทำงานที่ก่อนหน้านี้เป็นไปไม่ได้บนซอฟต์แวร์ทั่วไปให้สำเร็จ แต่องค์ประกอบของมนุษย์แบบเดียวกันนั้นยังทำให้เกิดอคติของมนุษย์กับคอมพิวเตอร์โดยไม่ได้ตั้งใจ เอไอ โปรแกรมจะดีพอๆ กับข้อมูลการฝึกอบรม เช่น หากระบบป้อนภาพชายผิวขาวเป็นส่วนใหญ่ โปรแกรมจะมีปัญหาในการระบุบุคคลที่มีสีผิวอื่น
“โดยทั่วไปแล้วข้อบกพร่องประการหนึ่งของ A.I. เมื่อพูดถึงการกลั่นกรองสิ่งใด ๆ ตั้งแต่ความคิดเห็นไปจนถึงผู้ใช้ เนื้อหาก็คือว่าการออกแบบมีความคิดเห็นโดยธรรมชาติ” PJ Ahlberg ผู้บริหารด้านเทคนิคกล่าว ผู้อำนวยการของ สตังค์สตูดิโอ นิวยอร์กซึ่งเป็นเอเจนซี่ที่ใช้ A.I. สำหรับการสร้างบอทโซเชียลมีเดียและดูแลแคมเปญแบรนด์
เมื่อชุดการฝึกอบรมได้รับการพัฒนา ข้อมูลนั้นมักจะถูกแชร์ระหว่างนักพัฒนา ซึ่งหมายความว่าอคติจะแพร่กระจายไปยังหลายโปรแกรม Ahlberg กล่าวว่าปัจจัยดังกล่าวหมายความว่านักพัฒนาไม่สามารถแก้ไขชุดข้อมูลเหล่านั้นในโปรแกรมที่ใช้ A.I หลายตัวได้ ทำให้เป็นการยากที่จะขจัดอคติใด ๆ หลังจากค้นพบแล้ว
AI. ไม่สามารถระบุเจตนาได้
AI. สามารถตรวจจับสวัสดิกะในภาพถ่ายได้ แต่ซอฟต์แวร์ไม่สามารถระบุได้ว่ามีการใช้สวัสดิกะอย่างไร ตัวอย่างเช่น Facebook เพิ่งขอโทษหลังจากนั้น ลบโพสต์ที่มีเครื่องหมายสวัสติกะออก แต่มีข้อความขอร้องให้หยุดการแพร่กระจายของความเกลียดชังไปด้วย
นี่คือตัวอย่างความล้มเหลวของ A.I. เพื่อรับรู้ถึงเจตนา Facebook ยังแท็กรูปภาพของ รูปปั้นดาวเนปจูน มีเนื้อหาทางเพศที่ชัดเจน นอกจากนี้ อัลกอริธึมอาจตั้งค่าสถานะงานถ่ายภาพข่าวโดยไม่ได้ตั้งใจ เนื่องจากมีสัญลักษณ์แสดงความเกลียดชังหรือความรุนแรงที่อาจปรากฏในรูปภาพ
รูปภาพประวัติศาสตร์ที่แชร์เพื่อการศึกษาเป็นอีกตัวอย่างหนึ่ง ในปี 2559 Facebook ก่อให้เกิดความขัดแย้งหลังจากนั้น ลบภาพถ่ายประวัติศาสตร์ของ “เด็กหญิงนาปาล์ม” ออก หลายครั้งก่อนที่แรงกดดันจากผู้ใช้จะบังคับให้บริษัทเปลี่ยนจุดยืนที่เข้มงวดในเรื่องภาพเปลือยและนำภาพถ่ายกลับมาใช้ใหม่
AI. มีแนวโน้มที่จะทำหน้าที่เป็นการคัดกรองเบื้องต้น แต่บ่อยครั้งยังจำเป็นต้องมีผู้ดูแลที่เป็นมนุษย์เพื่อพิจารณาว่าเนื้อหาละเมิดมาตรฐานชุมชนจริงหรือไม่ แม้จะมีการปรับปรุง A.I. แต่นี่ไม่ใช่ข้อเท็จจริงที่กำลังเปลี่ยนแปลง ตัวอย่างเช่น Facebook กำลังเพิ่มขนาดทีมตรวจสอบเป็น 20,000 คนในปีนี้ ซึ่งเพิ่มขึ้นเป็นสองเท่าของปีที่แล้ว
AI. กำลังช่วยให้มนุษย์ทำงานได้เร็วขึ้น
อาจจำเป็นต้องใช้สมองของมนุษย์ แต่ A.I. ทำให้กระบวนการมีประสิทธิภาพมากขึ้น AI. สามารถช่วยพิจารณาว่าโพสต์ใดที่ต้องมีการตรวจสอบโดยเจ้าหน้าที่ รวมทั้งช่วยจัดลำดับความสำคัญของโพสต์เหล่านั้น ในปี 2560 Facebook ได้แชร์สิ่งนั้น AI. ออกแบบมาเพื่อระบุแนวโน้มการฆ่าตัวตาย ส่งผลให้มีการโทรไปยังหน่วยฉุกเฉิน 100 ครั้งในหนึ่งเดือน ในขณะนั้น
เก็ตตี้อิมเมจ / Blackzheep
"[AI. has] มาไกลและมีความก้าวหน้าอย่างแน่นอน แต่ความจริงก็คือคุณยังคงต้องมีการตรวจสอบองค์ประกอบของมนุษย์เป็นอย่างมาก ว่าคุณกำลังแก้ไขคำที่ถูกต้อง เนื้อหาที่ถูกต้อง และข้อความที่ถูกต้อง” Chris Mele กรรมการผู้จัดการของ Stink กล่าว สตูดิโอ “มันรู้สึกได้ที่ไหน A.I. ทำงานได้ดีที่สุดคือการอำนวยความสะดวกให้กับผู้ดูแลที่เป็นมนุษย์และช่วยให้พวกเขาทำงานได้เร็วขึ้นและในขนาดที่ใหญ่ขึ้น ฉันไม่คิดว่า A.I. เกือบจะเป็นอัตโนมัติ 100 เปอร์เซ็นต์บนทุกแพลตฟอร์ม”
AI. รวดเร็วแต่จริยธรรมช้า
โดยทั่วไปเทคโนโลยีมีแนวโน้มที่จะเติบโตเร็วกว่าที่กฎหมายและจริยธรรมจะตามทัน และการกลั่นกรองโซเชียลมีเดียก็ไม่มีข้อยกเว้น Binch ชี้ให้เห็นว่าปัจจัยดังกล่าวอาจหมายถึงความต้องการพนักงานที่มีพื้นฐานด้านมนุษยศาสตร์หรือจริยธรรมเพิ่มมากขึ้น ซึ่งเป็นสิ่งที่โปรแกรมเมอร์ส่วนใหญ่ไม่มี
ขณะที่เขากล่าวไว้ “เราอยู่ในจุดที่ความเร็วนั้นเร็วมาก ซึ่งเราต้องแน่ใจว่าองค์ประกอบทางจริยธรรมจะไม่ล้าหลังจนเกินไป”
คำแนะนำของบรรณาธิการ
- เมื่อลิขสิทธิ์ทำให้การค้นหาเพลงประกอบวิดีโอเป็นเรื่องยาก A.I. นักดนตรีสามารถช่วยได้
- จาก 8K ไปจนถึง A.I. นี่คือสิ่งที่จะเกิดขึ้นกับกล้องในปี 2019
- คอมพิวเตอร์จะชิงไหวชิงพริบเราในไม่ช้า นั่นทำให้ A.I. การกบฏหลีกเลี่ยงไม่ได้?
