あ 時間調査 は、少なくとも 1 つのスタートアップが自社の技術を向上させるためにどのように疑わしい慣行を使用しているかを強調し、AI チャットボット業界のより暗い側面を暴露しました。
水曜日に発行された Time のレポートは、Microsoft が支援する OpenAI と ChatGPT チャットボット、非常に自然な会話テキストを生成する驚くべき能力により、最近非常に注目を集めているテクノロジーです。
おすすめ動画
Time の調査では、OpenAI が AI テクノロジーをトレーニングするために、ケニアのチームのサービスを利用して、 児童の性的虐待、獣姦、殺人、自殺、拷問、自傷行為などの不穏な主題が含まれていました。 近親相姦。 そして、忌まわしいコンテンツにラベルを付ける努力の割に、チームの多くは時給 2 ドル未満しか受け取っていませんでした。
関連している
- Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
- ChatGPT: 最新のニュース、論争、知っておくべきヒント
- ChatGPT の記録的な成長は、新しいバイラル アプリによって奪われたばかりです
2021 年 11 月に開始されたこの作業は、ChatGPT の前身である GPT-3 が印象的ではあるものの、吐き出す傾向があったため必要でした。 そのトレーニング データセットは、世界各地から数千億の単語をかき集めて編集されていたため、不快なコンテンツを排除しました。 ウェブ。
サンフランシスコの企業サマが運営するケニアを拠点とするチームは、攻撃的なコンテンツにラベルを付けることにより、 OpenAI のチャットボットをトレーニングすることで、データセットを改善し、不快なチャットボットが発生する可能性を減らします。 出力。
タイム誌によると、インタビューしたサマの従業員4人全員が、仕事によって精神的に傷を負っていると述べた。 サマ社はカウンセリングセッションを提供したが、従業員らは効果がなく、次のような理由からめったに実施されなかったと述べた。 仕事の要求は厳しいが、サマの広報担当者はタイム誌に対し、セラピストはいつでもアクセスできると語った。 時間。
ある労働者は、衝撃的な資料を読むと時々「拷問」のように感じたとタイム紙に語り、週の終わりには「取り乱している」と感じたと付け加えた。
2022 年 2 月、OpenAI が ChatGPT とは無関係の別のプロジェクトを立ち上げ、ケニアのチームに性的および暴力的な性質の画像を収集するよう要求したとき、事態はサマにとってさらに暗い方向に向かいました。 OpenAIはTimeに対し、この作業は自社のAIツールをより安全にするために必要だったと語った。
この画像ベースのプロジェクトが開始されてから数週間以内に、そのタスクの憂慮すべき性質により、サマはすべての契約をキャンセルすることになりました。 OpenAIは、タイム誌は、OpenAIが発行した同様の主題に関するレポートからのPRの影響もあった可能性があると示唆している だいたい フェイスブック ほぼ同時に。
オープンAIはタイムに対し、サマに依頼した画像の性質について「誤解」があったと語った。 最も過激な画像を要求していないし、そのような画像も閲覧していないと主張した。 送信済。
しかし、契約の終了は労働者の生活に影響を及ぼし、ケニアのチームの一部は職を失い、他のチームは低賃金のプロジェクトに異動させられた。
時の調査 最近テクノロジー業界を大いに興奮させている AI を活用したチャットボットにどのような作業が行われているかについて、不快ではあるが重要な視点を提供します。
このテクノロジーは革新的で有益な可能性を秘めていますが、明らかに人的コストがかかり、企業の進め方について多くの倫理的疑問を投げかけます。 新しいテクノロジーの開発、そしてより広範には、裕福な国が財政力の低下のために、望ましくない仕事を貧しい国に押し付け続けている方法について説明します。 出費。
このテクノロジーを支える新興企業は、今後数カ月、数年でより集中的な監視を受けることになるため、できるだけ早い機会に自社のやり方を見直し、改善することが望ましいだろう。
Digital Trends は、Time のレポートについて OpenAI にコメントを求めています。返答があり次第、この記事を更新します。
編集者のおすすめ
- 最高の AI ビデオ編集ツール
- ChatGPTメーカーのOpenAIは消費者保護法を巡りFTCの捜査に直面している
- イーロン・マスク氏の新しいAI企業は「宇宙を理解する」ことを目指す
- ChatGPT Webサイトのトラフィックが初めて減少
- AIの画期的な進歩はミツバチの脳を通じてもたらされる可能性があると科学者が語る
ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。
