ก เวลาสอบสวน ได้เปิดเผยด้านมืดของอุตสาหกรรม AI chatbot โดยเน้นว่าสตาร์ทอัพอย่างน้อยหนึ่งรายใช้วิธีปฏิบัติที่น่าสงสัยเพื่อปรับปรุงเทคโนโลยีของตนอย่างไร
เผยแพร่เมื่อวันพุธ รายงานของ Time เน้นไปที่ OpenAI ที่สนับสนุนโดย Microsoft และ Chatbot ของ ChatGPTซึ่งเป็นเทคโนโลยีที่ได้รับความสนใจอย่างมากเมื่อเร็วๆ นี้ เนื่องจากความสามารถที่โดดเด่นในการสร้างข้อความสนทนาที่เป็นธรรมชาติสูง
วิดีโอแนะนำ
การตรวจสอบของ Time พบว่าในการฝึกอบรมเทคโนโลยี AI OpenAI ใช้บริการของทีมในเคนยาเพื่ออ่านข้อความที่ รวมถึงเรื่องที่ก่อกวนใจ เช่น การล่วงละเมิดทางเพศเด็ก การฆ่าสัตว์ การฆ่าตัวตาย การทรมาน การทำร้ายตัวเอง และ การร่วมประเวณีระหว่างพี่น้อง และสำหรับความพยายามในการติดป้ายกำกับเนื้อหาที่น่ารังเกียจ หลายคนในทีมได้รับเงินน้อยกว่า 2 ดอลลาร์ต่อชั่วโมง
ที่เกี่ยวข้อง
- Google Bard พูดได้แล้ว แต่จะกลบ ChatGPT ได้ไหม
- ChatGPT: ข่าวสาร ข้อโต้แย้ง และเคล็ดลับล่าสุดที่คุณต้องรู้
- การเติบโตเป็นประวัติการณ์ของ ChatGPT ถูกแทนที่ด้วยแอปไวรัลตัวใหม่
งานซึ่งเริ่มในเดือนพฤศจิกายน 2021 มีความจำเป็นเนื่องจาก GPT-3 ซึ่งเป็นรุ่นก่อนของ ChatGPT นั้นน่าประทับใจ แต่ก็มีแนวโน้มว่าจะทะลักออกมา เนื้อหาที่ไม่เหมาะสมออกเนื่องจากชุดข้อมูลการฝึกอบรมได้รับการรวบรวมโดยการคัดลอกคำศัพท์หลายแสนล้านคำจากทั่วทุกมุม เว็บ.
ทีมงานในเคนยาซึ่งดำเนินการโดยบริษัท Sama ในซานฟรานซิสโก จะติดป้ายกำกับเนื้อหาที่ไม่เหมาะสมเพื่อช่วยเหลือ ฝึกแชทบอทของ OpenAI ซึ่งจะช่วยปรับปรุงชุดข้อมูลและลดโอกาสที่จะเกิดการโต้แย้ง เอาต์พุต
ไทม์กล่าวว่าพนักงาน Sama ทั้งสี่คนที่ให้สัมภาษณ์อธิบายว่ามีแผลเป็นทางจิตใจจากการทำงานของพวกเขา Sama เสนอเซสชันการให้คำปรึกษา แต่พนักงานบอกว่าพวกเขาไม่ได้ผลและไม่ค่อยเกิดขึ้นเนื่องจาก ความต้องการของงาน แม้ว่าโฆษกของ Sama จะบอกกับ Time ว่านักบำบัดสามารถเข้าถึงได้ทุกที่ เวลา.
คนงานคนหนึ่งบอกไทม์ว่าการอ่านเนื้อหาที่น่าตกใจบางครั้งรู้สึกเหมือน "ทรมาน" และเสริมว่าพวกเขารู้สึก "กระวนกระวายใจ" เมื่อสิ้นสัปดาห์
ในเดือนกุมภาพันธ์ พ.ศ. 2565 สิ่งต่าง ๆ เปลี่ยนไปอย่างมืดมนสำหรับ Sama เมื่อ OpenAI เปิดตัวโครงการแยกต่างหากที่ไม่เกี่ยวข้องกับ ChatGPT ซึ่งต้องการให้ทีมในเคนยารวบรวมภาพที่มีลักษณะทางเพศและความรุนแรง OpenAI บอกกับ Time ว่างานนี้จำเป็นต่อการทำให้เครื่องมือ AI ปลอดภัยยิ่งขึ้น
ภายในไม่กี่สัปดาห์หลังจากเริ่มโปรเจ็กต์ที่ใช้รูปภาพ ลักษณะงานที่น่าตกใจทำให้ Sama ต้องยกเลิกสัญญาทั้งหมดกับ OpenAI แม้ว่า Time จะแนะนำว่าอาจได้รับแจ้งจาก PR fallout จากรายงานในหัวข้อที่คล้ายกันที่เผยแพร่ เกี่ยวกับ เฟสบุ๊ค ในเวลาเดียวกัน
Open AI บอกว่า Time มี "การสื่อสารที่ผิดพลาด" เกี่ยวกับธรรมชาติของภาพที่ขอให้ Sama รวบรวมโดยยืนยันว่าไม่ได้ขอภาพที่รุนแรงที่สุดและไม่ได้มองว่ามันเป็นไป ส่งแล้ว.
แต่การยุติสัญญาส่งผลกระทบต่อการดำรงชีวิตของคนงาน โดยทีมงานบางส่วนในเคนยาต้องตกงาน ขณะที่คนอื่นๆ ถูกย้ายไปยังโครงการที่ให้ผลตอบแทนต่ำกว่า
การสืบสวนของเวลา นำเสนอรูปลักษณ์ที่อึดอัดแต่มีความสำคัญต่อประเภทของงานที่จะเข้าสู่แชทบอทที่ขับเคลื่อนด้วย AI ซึ่งเมื่อเร็ว ๆ นี้ทำให้อุตสาหกรรมเทคโนโลยีตื่นเต้นมาก
ในขณะที่การเปลี่ยนแปลงและอาจเป็นประโยชน์ เทคโนโลยีนี้มาพร้อมกับต้นทุนของมนุษย์อย่างชัดเจน และทำให้เกิดคำถามเชิงจริยธรรมมากมายเกี่ยวกับวิธีดำเนินการของบริษัทต่างๆ การพัฒนาเทคโนโลยีใหม่ๆ ของพวกเขา และในวงกว้างมากขึ้นเกี่ยวกับวิธีการที่ประเทศที่ร่ำรวยกว่ายังคงแจกจ่ายงานที่ไม่พึงปรารถนาให้กับประเทศที่ยากจนกว่าสำหรับการเงินที่ต่ำกว่า ค่าใช้จ่าย
สตาร์ทอัพที่อยู่เบื้องหลังเทคโนโลยีจะถูกตรวจสอบอย่างละเอียดมากขึ้นในอีกไม่กี่เดือนและหลายปีข้างหน้า ดังนั้นพวกเขาจึงควรทบทวนและปรับปรุงแนวทางปฏิบัติโดยเร็วที่สุด
Digital Trends ได้ติดต่อกับ OpenAI เพื่อแสดงความคิดเห็นเกี่ยวกับรายงานของ Time และเราจะอัปเดตบทความนี้เมื่อเราได้รับการตอบกลับ
คำแนะนำของบรรณาธิการ
- เครื่องมือแก้ไขวิดีโอ AI ที่ดีที่สุด
- OpenAI ผู้ผลิต ChatGPT เผชิญการสอบสวน FTC เกี่ยวกับกฎหมายคุ้มครองผู้บริโภค
- บริษัท AI ใหม่ของ Elon Musk ตั้งเป้าที่จะ 'เข้าใจจักรวาล'
- ปริมาณการใช้งานเว็บไซต์ ChatGPT ลดลงเป็นครั้งแรก
- การค้นพบใหม่ของ AI อาจมาจากสมองของผึ้ง นักวิทยาศาสตร์กล่าว
ยกระดับไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็วด้วยข่าวสารล่าสุด บทวิจารณ์ผลิตภัณฑ์สนุกๆ บทบรรณาธิการเชิงลึก และการแอบดูที่ไม่ซ้ำใคร
