Amazon Rekognition ระบุสมาชิกสภาคองเกรส 28 รายว่าเป็นอาชญากรอย่างไม่ถูกต้อง

Amazon อาจต้องการกลับไปที่กระดานวาดภาพสำหรับสิ่งนี้ เครื่องมือจดจำใบหน้าที่บริษัทค้าปลีกยักษ์ใหญ่ให้บริการแก่นักพัฒนาในปัจจุบัน ค่อนข้างผิดพลาด ในการทดสอบที่จัดทำโดยสหภาพเสรีภาพพลเรือนอเมริกัน (ACLU) เดอะนิวยอร์กไทมส์รายงาน แทนที่จะระบุสมาชิกสภาคองเกรส 28 คนเป็นสมาชิกในฝ่ายนิติบัญญัติของประเทศ เครื่องมือดังกล่าวกลับจัดประเภทบุคคลเหล่านี้เป็นผู้ต้องสงสัยของตำรวจ ที่แย่กว่านั้นคือสมาชิกสภาคองเกรสแอฟริกันอเมริกันและลาตินในจำนวนที่ไม่สมส่วนนั้นไม่ถูกต้อง ระบุได้ ทำให้เกิดคำถามว่าโปรไฟล์ทางเชื้อชาติฝังตัวไปไกลแค่ไหนแม้แต่ในการเรียนรู้ของเครื่องของเรา ซอฟต์แวร์.

ตอนนี้สภาคองเกรสต้องการคำตอบ สมาชิกสภานิติบัญญัติห้าคนที่ถูกระบุอย่างไม่ถูกต้องกำลังขอให้มีการประชุม "ทันที" กับ Jeff Bezos CEO ของ Amazon เมื่อวันพฤหัสบดีที่ 26 กรกฎาคม ผู้แทนราษฎร... จิมมี่ โกเมซ, จอห์น ลูอิส, หลุยส์ กูเตียร์เรซ และมาร์ค เดอโซลเนียร์ รวมถึงวุฒิสภา Edward Markey ส่งจดหมายถึงยักษ์ใหญ่ค้าปลีกออนไลน์เพื่อสอบถามว่าทำไมพวกเขาถึงไม่ตรงกัน แต่นอกเหนือจากผลกระทบส่วนบุคคลจากกรณีการระบุตัวตนที่ผิดพลาดเหล่านี้แล้ว สมาชิกสภาคองเกรสยังร้องขออีกด้วย คำตอบว่า “จะแก้ไขข้อบกพร่องของเทคโนโลยีนี้อย่างไรเพื่อป้องกันความคลาดเคลื่อน ผลลัพธ์”

Amazon ยังไม่ได้ระบุว่าผู้บริหารระดับสูงจะยอมรับการประชุมเหล่านี้หรือไม่

ในแถลงการณ์แยกต่างหาก ส.ส. จี.เค. Butterfield กล่าวว่า "ฉันรู้สึกหนักใจกับผลลัพธ์ที่ไม่ถูกต้องที่เกี่ยวข้องกับเทคโนโลยีนี้ เนื่องจากมีจุดบอดที่ชัดเจนที่จะมีผลกระทบที่ไม่ได้ตั้งใจต่อผู้คนโดยเฉพาะ สี. แม้ว่าเทคโนโลยีนี้อาจมีศักยภาพทางเศรษฐกิจในวงกว้าง แต่ฉันขอแนะนำให้ Amazon ฝึกอบรมผู้ใช้เกี่ยวกับแนวทางปฏิบัติที่ดีที่สุดในการใช้สิ่งนี้ให้ดียิ่งขึ้น เปิดกว้างและตรงไปตรงมาเกี่ยวกับข้อจำกัดของมัน และจ้างพนักงานผิวสีที่สามารถช่วยเหลือแก้ไขข้อบกพร่องนี้ได้อย่างเหมาะสม เทคโนโลยี."

ในบรรดาผู้ร่างกฎหมายที่ระบุชื่อไม่ถูกต้องคือตัวแทน John Lewis และ Bobby Rush ซึ่งทั้งสองคนเป็นผู้นำด้านสิทธิพลเมืองที่มีชื่อเสียงและเป็นสมาชิกสภาผู้แทนราษฎรผิวดำ แต่แทนที่จะได้รับการยอมรับว่าเป็นตัวแทนที่ได้รับเลือก ชายสองคนนี้ (พร้อมด้วยอีก 26 คน) กลับถูกกล่าวหาว่าเป็นอาชญากร ข้อผิดพลาดเหล่านี้เกิดขึ้นเมื่อ ACLU นำซอฟต์แวร์ของ Amazon มาวิเคราะห์ภาพของสมาชิกสภาคองเกรสทั้งหมดเทียบกับฐานข้อมูลภาพมักช็อตที่เปิดเผยต่อสาธารณะจำนวน 25,000 ภาพ ส่งผลให้สมาชิกสภาคองเกรสทั้ง 28 คนถูกระบุอย่างไม่ถูกต้องว่าเป็นผู้ฝ่าฝืนกฎหมาย ซึ่งมีอัตราข้อผิดพลาดร้อยละ 5

“การทดสอบนี้ยืนยันว่าการจดจำใบหน้ามีข้อบกพร่อง มีอคติ และเป็นอันตราย” Jacob Snow นักกฎหมายด้านเทคโนโลยีและเสรีภาพของพลเมืองจาก ACLU แห่งแคลิฟอร์เนียตอนเหนือกล่าวกับ The New York Times

เพื่อตอบสนองต่อการทดสอบ Nina Lindsey โฆษกหญิงของ Amazon Web Services กล่าวว่า ACLU ใช้เครื่องมือจับคู่ใบหน้า (เรียกว่า การรับรู้ของอเมซอน) แตกต่างจากคำแนะนำของ Amazon “เป็นที่น่าสังเกตว่าในสถานการณ์จริง Amazon Rekognition แทบจะถูกนำมาใช้เพื่อช่วยจำกัดขอบเขตให้แคบลง และอนุญาตให้มนุษย์ทบทวนและพิจารณาทางเลือกต่าง ๆ อย่างรวดเร็วโดยใช้วิจารณญาณของพวกเขา” ลินด์เซย์กล่าวใน คำแถลง.

เธอชี้ให้เห็นเพิ่มเติมว่า ACLU คง "เกณฑ์ความเชื่อมั่น" ของเครื่องมือไว้ที่ค่าเริ่มต้นที่ 80 เปอร์เซ็นต์ ซึ่งหมายความว่ากลุ่มจะพิจารณาใบหน้าใดๆ ที่ตรงกันถึง 80 เปอร์เซ็นต์ซึ่งคล้ายกับฐานข้อมูลของตำรวจ อย่างไรก็ตาม เป็นที่น่าสังเกตว่า Amazon ใช้เกณฑ์เดียวกันในตัวอย่างบนเว็บไซต์ ซึ่งแสดงให้เห็นว่าใบหน้าของพนักงานสามารถจับคู่กับป้าย ID ของพวกเขาได้อย่างไร Lindsey กล่าวว่าในกรณีของหน่วยงานตำรวจ Amazon แนะนำให้ใช้เกณฑ์ความคล้ายคลึงกันร้อยละ 95 เพื่อหลีกเลี่ยงข้อผิดพลาดประเภทนี้

ก่อนหน้านี้ Amazon เคยถูกวิจารณ์อย่างหนักจากการขาย Rekognition ในเดือนพฤษภาคม กลุ่มเสรีภาพพลเมือง 24 กลุ่ม นำโดย ACLU ได้เขียนจดหมายถึง Jeff Bezos ซีอีโอของ Amazon เพื่อขอให้ยุติการขายซอฟต์แวร์ให้กับหน่วยงานบังคับใช้กฎหมาย กลุ่มต่างๆ แสดงความกังวลว่าซอฟต์แวร์นี้อาจใช้ในการสอดแนมผู้ประท้วง ผู้อพยพ หรือสมาชิกทั่วไปในที่สาธารณะ ไม่ใช่แค่ผู้ต้องสงสัยของตำรวจ ตั้งแต่นั้นเป็นต้นมา พนักงาน นักลงทุน และนักวิชาการของ Amazon ก็เรียกร้องคล้าย ๆ กันจาก Amazon

อย่างไรก็ตาม ในขณะนี้ดูเหมือนว่าจะไม่อยู่ในการ์ดสำหรับเว็บยักษ์ใหญ่ ดังที่โฆษกของ Amazon กล่าวว่า "เรายังคงตื่นเต้นว่าการวิเคราะห์ภาพและวิดีโอสามารถเป็นตัวขับเคลื่อนสิ่งที่ดีในโลกได้อย่างไร"

อัปเดตเมื่อวันที่ 27 กรกฎาคม: สภาคองเกรสต้องการคำตอบจาก Amazon เกี่ยวกับข้อผิดพลาดที่เกิดจากซอฟต์แวร์ Rekognition

คำแนะนำของบรรณาธิการ

• อุ๊ย! สมาชิก Amazon Prime บางรายต้องเผชิญกับการขึ้นราคา 43%
• วิธีดูซีอีโอของ Facebook, Google, Amazon และ Apple เป็นพยานต่อสภาคองเกรส
• Amazon, Apple, Facebook และ Google จะให้การเป็นพยานต่อหน้าสภาคองเกรสในเดือนกรกฎาคม
• ส.ว. Josh Hawley เรียกร้องให้มีการสอบสวนคดีอาญาเกี่ยวกับการต่อต้านการผูกขาดใน Amazon
• การจดจำใบหน้าของกองทัพสหรัฐฯ สามารถระบุผู้คนได้จากระยะไกล 1 กม

อัพเกรดไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกแห่งเทคโนโลยีที่เปลี่ยนแปลงไปอย่างรวดเร็วด้วยข่าวสารล่าสุด รีวิวผลิตภัณฑ์สนุกๆ บทบรรณาธิการที่เจาะลึก และการแอบดูที่ไม่ซ้ำใคร