チャットGPT は素晴らしいツールですが、ほぼすべてのトピックについて専門家のように書くことができるこの高度な AI サービスには、盗作という暗い側面があります。 トピックの知識と理解を実証するはずの学生が密かに ChatGPT を使用して不正行為を行うと、テストと採点が無効になります。 AI スキルは優れていますが、学生が学ぶべき唯一の科目ではありません。
この問題を取り締まるのは難しいことがわかっています。 ChatGPT は人間の文章の膨大なデータセットでトレーニングされているため、エッセイが生徒によって作成されたのか機械によって作成されたのかを講師が特定することはほぼ不可能です。 いくつかのツールが作成されていますが、 AI が生成した文章を認識しようとする, しかし、精度が低すぎて役に立ちませんでした。
おすすめ動画
教育関係者からの懸念が高まり、学生による ChatGPT の使用が禁止される中、 ビジネスインサイダー OpenAI がこの問題の解決策に取り組んでいることを報告しています。 最近の つぶやき メリーランド大学の機械学習准教授である Tom Goldstein 氏は、ChatGPT によって書かれた透かし入りテキストの検出がどれほど正確であるかを説明しました。
#OpenAI 停止する予定です #ChatGPT ユーザーがソーシャル メディア ボットを作成したり、出力に「透かし」を入れて宿題を不正行為したりすることがなくなります。 これは実際にどの程度うまく機能するでしょうか? これは、透かし入りの 1.3B パラメーターの LLM からの 23 ワードです。 99.999999999994% の信頼度で検出されました。 方法は次のとおりです🧵 pic.twitter.com/pVC9M3qPyQ
— トム・ゴールドスタイン (@tomgoldsteincs) 2023 年 1 月 25 日
ほぼ 100% の精度で盗作を特定できるツールがあれば、この議論はすぐに解決され、懸念が軽減されるでしょう。 Goldstein 氏によると、解決策の 1 つは、大規模言語モデル (LLM) が限られた言語モデルから選択できるようにすることです。 単語の語彙を作成し、AI が使用してもよいホワイトリストと、使用できない単語のブラックリストを作成します。 禁断。 不自然に多くのホワイトリストの単語がサンプル内に表示される場合、それが AI によって生成されたことを示唆します。
ほとんどの LLM が行うように、一度に 1 単語ずつ作業する場合、ディスカッションにどの単語が必要になるかを予測するのは難しいため、この単純化したアプローチは制限が多すぎます。 Goldstein 氏は、ChatGPT に 1 つの単語よりも先を読む機能を与えて、意味を保ちながらホワイトリストに登録された単語を詰めることができる文を計画できるようにする可能性があると示唆しています。
ChatGPT は登場時に大きな話題を呼びました コミュニティのライティングプールに参加でき、優れた指導助手としても役立ちます。 人工知能は明らかに重要なテクノロジーとなるため、学校に導入することが重要です 将来的には理解されるだろうが、盗作の問題が解決するまでは論争は続くだろう 対処されました。
編集者のおすすめ
- Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
- ChatGPT: 最新のニュース、論争、知っておくべきヒント
- ChatGPT の Bing ブラウジング機能がペイウォール アクセスの欠陥により無効になる
- OpenAI、初の国際拠点の場所を明らかに
- 81% が ChatGPT はセキュリティ リスクであると考えていることが調査で判明
ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。
