조사 결과 AI 챗봇 ChatGPT의 어두운 면이 드러남

ㅏ 시간 조사 적어도 한 스타트업이 기술을 개선하기 위해 의심스러운 관행을 사용하고 있음을 강조하면서 AI 챗봇 산업의 어두운 측면을 폭로했습니다.

수요일에 게시된 Time의 보고서는 Microsoft가 지원하는 OpenAI 및 그것의 ChatGPT 챗봇, 매우 자연스러운 대화 텍스트를 생성하는 놀라운 기능으로 최근 많은 주목을 받은 기술입니다.

Time의 조사에 따르면 OpenAI는 AI 기술을 교육하기 위해 케냐 팀의 서비스를 사용하여 아동 성학대, 수간, 살인, 자살, 고문, 자해, 근친 상간. 그리고 혐오스러운 콘텐츠에 라벨을 붙이기 위한 노력으로 팀의 많은 사람들이 시간당 2달러 미만을 받았습니다.

2021년 11월에 시작된 작업은 ChatGPT의 전신인 GPT-3가 인상적이기는 하지만 토하는 경향이 있었기 때문에 필요했습니다. 모든 구석에서 수천억 개의 단어를 스크랩하여 훈련 데이터 세트를 수집했기 때문에 공격적인 콘텐츠를 제거했습니다. 편물.

샌프란시스코 회사 Sama가 운영하는 케냐 기반 팀은 공격적인 콘텐츠에 레이블을 지정하여 OpenAI의 챗봇을 교육하여 데이터 세트를 개선하고 불쾌한 가능성을 줄입니다. 산출.

타임은 인터뷰한 사마 직원 4명 모두 업무로 인해 정신적 상처를 입었다고 말했다. Sama가 상담을 제공했지만 직원들은 효과가 없었고 사마 대변인은 시간에 치료사가 언제든지 접근할 수 있다고 말했지만 작업의 요구 사항 시간.

한 직원은 타임지에 충격적인 자료를 읽는 것이 때때로 "고문"처럼 느껴졌으며 주말이 되면 "혼란"을 느꼈다고 덧붙였습니다.

2022년 2월 OpenAI가 ChatGPT와 관련 없는 별도의 프로젝트를 시작하면서 케냐 팀이 성적이고 폭력적인 성격의 이미지를 수집하도록 요구하면서 Sama에게 상황은 더욱 어두워졌습니다. OpenAI는 AI 도구를 더 안전하게 만들기 위해 작업이 필요하다고 Time에 말했습니다.

이 이미지 기반 프로젝트가 시작된 지 몇 주 만에 작업의 놀라운 특성으로 인해 Sama는 다음과의 모든 계약을 취소했습니다. OpenAI는 Time이 출판한 유사한 주제에 대한 보고서에서 PR 낙진으로 인해 촉발되었을 수도 있다고 제안하지만 ~에 대한 페이스북 거의 동시에.

Open AI는 Sama에게 요청한 이미지의 특성에 대해 "잘못된 의사 소통"이 있었다고 Time에 말했습니다. 가장 극단적인 이미지를 요구하지 않았으며 이전에 본 적이 없다고 주장하면서 수집했습니다. 전송된.

그러나 계약 종료는 근로자의 생계에 영향을 미쳤습니다. 케냐의 일부 팀은 일자리를 잃고 다른 팀은 저임금 프로젝트로 옮겨졌습니다.

시간의 조사 최근 기술 산업을 크게 흥분시킨 AI 기반 챗봇에 들어가는 작업의 종류에 대해 불편하지만 중요한 시각을 제공합니다.

이 기술은 혁신적이고 잠재적으로 유익하지만 분명히 인적 비용이 발생하며 기업이 어떻게 운영되는지에 대한 수많은 윤리적 질문을 던집니다. 새로운 기술을 개발하고, 보다 광범위하게는 부유한 국가가 더 낮은 재정을 위해 가난한 국가에 덜 바람직한 작업을 계속해서 수행하는 방법에 대해 설명합니다. 지출.

이 기술의 배후에 있는 신생 기업은 앞으로 몇 달 및 몇 년 동안 더 집중적인 조사를 받게 될 것이므로 최대한 빨리 관행을 검토하고 개선하는 것이 좋습니다.

Digital Trends는 Time의 보고서에 대한 논평을 위해 OpenAI에 연락했으며 회신을 받으면 이 기사를 업데이트할 예정입니다.

편집자 추천

• 최고의 AI 비디오 편집 도구
• ChatGPT 제조사 OpenAI, 소비자 보호법에 대한 FTC 조사 직면
• Elon Musk의 새로운 AI 회사는 '우주 이해'를 목표로합니다.
• ChatGPT 웹사이트 트래픽이 처음으로 감소했습니다.
• 꿀벌의 두뇌를 통해 AI 혁신이 올 수 있다고 과학자들은 말합니다.

당신의 라이프스타일을 업그레이드하세요Digital Trends는 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 독자가 빠르게 변화하는 기술 세계를 파악할 수 있도록 도와줍니다.