UN พบว่าผู้ช่วยเสียงไม่ได้ช่วยแก้ไขแบบแผนเรื่องเพศที่เหยียดเพศ

ผู้ช่วยเสียงที่คุณเลือกอาจมีเสียงที่ฟังดูเป็นผู้หญิง แม้ว่าคุณอาจไม่ได้คิดอะไรมากนัก แต่องค์การการศึกษา วิทยาศาสตร์ และวัฒนธรรมแห่งสหประชาชาติ (UNESCO) เชื่อว่าผู้ช่วยที่ขับเคลื่อนด้วย A.I. เสริมสร้างทัศนคติแบบเหมารวมทางเพศเชิงลบ ในขณะเดียวกันก็ไม่สามารถปฏิเสธภาษาที่รุนแรงและไม่เหมาะสมได้อย่างเหมาะสม ซึ่งนำไปสู่ผลลัพธ์ที่อาจเป็นอันตราย

ในบทความเรื่อง “ฉันจะอายถ้าทำได้” นักวิจัยจาก UNESCO ได้สำรวจอคติโดยนัยบางประการที่เกิดขึ้นในการวิจัยปัญญาประดิษฐ์ ผู้เขียนรายงานแนะนำว่าด้วยการตั้งชื่อผู้ช่วยด้านเสียงตามธรรมเนียมของผู้หญิงและมอบหมายให้พวกเขา โดยค่าเริ่มต้นแล้ว บริษัทต่างๆ มักจะเสริมแนวคิดเชิงลบและถดถอยโดยไม่ได้ตั้งใจ ผู้หญิง โดยวางตำแหน่งพวกเขาในฐานะผู้ยอมจำนนและมีบทบาทที่พวกเขาถูกคาดหวังให้ทำสิ่งที่พวกเขาร้องขอ

นอกจากนี้ บทความนี้ยังศึกษาว่าผู้ช่วยเสียงตอบสนองอย่างไรเมื่อพบกับภาษาที่ไม่เหมาะสม สิ่งที่พวกเขาพบคือ A.I. เบี่ยงเบนความคิดเห็นดังกล่าว แทนที่จะดำเนินการใดๆ เพื่อกีดกันความคิดเห็นเหล่านั้น หากผู้ใช้ข่มขู่ผู้ช่วยแบบเสียง ก็มักจะสร้างเรื่องตลกไร้สาระหรือข้อความบอกปัด นักวิจัยจาก UNESCO เชื่อว่าบริษัทเทคโนโลยีควรสร้างมาตรการป้องกันให้กับระบบเหล่านี้ ซึ่งจะช่วยลดการใช้ภาษาที่ไม่เหมาะสมซึ่งมุ่งไปสู่เสียงที่ฟังดูเป็นผู้หญิง นักวิจัยเชื่อว่าหากไม่ทำเช่นนั้น บริษัทต่างๆ จะเสี่ยงต่อการปรับพฤติกรรมให้เป็นปกติ เช่น การข่มขู่อย่างรุนแรงต่อผู้หญิง

ส่วนหนึ่งของปัญหานี้ตามข้อมูลของ UNESCO ก็คือบริษัทเทคโนโลยีส่วนใหญ่มีทีมวิศวกรรมที่มีพนักงานจำนวนมากและล้นหลาม เพราะพวกเขาไม่น่าจะมีประสบการณ์โดยตรงในการจัดการกับภาษาประเภทนี้ที่มุ่งเป้าไปที่พวกเขาและไม่เคยตกเป็นเหยื่อของประเภท การเหมารวมเชิงลบและบทบาททางเพศที่ล้าสมัยที่ผู้หญิงต้องเผชิญ พวกเขาไม่จำเป็นต้องคิดถึงสิ่งเหล่านี้เมื่อออกแบบ A.I. ระบบ

“บริษัทอย่าง Apple และ Amazon ซึ่งมีทีมวิศวกรชายจำนวนมาก ได้สร้าง A.I. ระบบที่ก่อให้เกิดพวกเขา ผู้ช่วยดิจิทัลที่เป็นสตรีเพื่อทักทายการล่วงละเมิดทางวาจาด้วยการเกี้ยวพาราสีแบบ catch-me-if-you-can” นักวิจัยเขียนไว้ใน รายงาน. “เพราะคำพูดของผู้ช่วยเสียงส่วนใหญ่เป็นผู้หญิง จึงส่งสัญญาณว่าผู้หญิง…เชื่องและ ผู้ช่วยที่กระตือรือร้น ใช้งานได้เพียงกดปุ่มหรือใช้คำสั่งเสียงทื่อเช่น 'เฮ้' หรือ 'ตกลง'. ผู้ช่วยไม่มีอำนาจใด ๆ เกินกว่าที่ผู้บังคับบัญชาร้องขอ มันให้เกียรติคำสั่งและตอบสนองต่อคำถามโดยไม่คำนึงถึงน้ำเสียงหรือความเป็นศัตรู”

UNESCO เชื่อว่าวิธีแก้ปัญหาที่ดีที่สุดคือการสร้าง เสียงที่เป็นกลางทางเพศ เอไอนั้น ผู้ช่วยก็สามารถใช้งานได้ องค์กรยังแนะนำให้สร้างการตอบสนองและระบบที่จะปิดตัวลง และไม่สนับสนุนการใช้ภาษาและการดูหมิ่นที่ก้าวร้าวและรุนแรง นักวิจัยเชื่อว่าบริษัทเทคโนโลยีควรหยุดวางตำแหน่งผู้ช่วยด้านเสียงในฐานะมนุษย์ที่ยอมจำนน เพื่อหลีกเลี่ยงการขยายทัศนคติแบบเหมารวมที่เป็นอันตราย

คำแนะนำของบรรณาธิการ

• ผู้เชี่ยวชาญเตือนผู้ช่วย AI กำลังทำลายพัฒนาการทางสังคมของเด็ก
• บทสรุปของสัตว์เลี้ยงที่ยุ่งกับ Google และ Alexa
• รายการที่เข้ากันได้กับ Hubspace ใหม่ของ Home Depot ได้แก่ ปลั๊กอัจฉริยะ
• เป็นไปได้หรือไม่ที่จะรวมระบบนิเวศบ้านอัจฉริยะระบบเดียวเข้าด้วยกัน?
• Google Home (Nest Audio) กับ อเมซอน เอคโค่

อัพเกรดไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกแห่งเทคโนโลยีที่เปลี่ยนแปลงไปอย่างรวดเร็วด้วยข่าวสารล่าสุด รีวิวผลิตภัณฑ์สนุกๆ บทบรรณาธิการที่เจาะลึก และการแอบดูที่ไม่ซ้ำใคร