ChatGPT の暗い側面: できること、しかしすべきではないこと

使ったことがありますか OpenAIのChatGPT 最近何か楽しいことはありますか？ 歌、詩、ジョークを書いてもらうように頼むことができます。 残念ながら、非倫理的になる傾向のあることを実行するように要求することもできます。

ChatGPT は、すべてが明るいわけではありません。ChatGPT が実行できることの中には、まったく悪質なものもあります。 それを武器化し、間違った理由で使用するのは非常に簡単です。 ChatGPT がこれまでに行ってきたこと、また行うことができるが、絶対にすべきではないことにはどのようなものがありますか?

何でも屋

好きか嫌いかに関係なく、ChatGPT と同様のチャットボットは今後も存在し続けます。 これを喜ぶ人もいれば、作られなければ良かったと思う人もいますが、私たちの生活における ChatGPT の存在が時間の経過とともにほぼ間違いなく増大するという事実には変わりありません。 チャットボットを個人的に使用していないとしても、チャットボットによって生成されたコンテンツをすでに目にしたことがあるでしょう。

誤解しないでください。ChatGPT は非常に優れています。 それを使用して、 本や記事を要約する、退屈なメールを作成し、 あなたのエッセイを手伝ってください, あなたの占星術的構成を解釈する、または曲を作曲することもできます。 それさえ （人）が宝くじを当てるのを手伝った.

多くの点で、標準の Google 検索よりも使いやすいです。 さまざまな Web サイトを参照する必要がなく、希望する形式で答えが得られます。 簡潔で要点を絞った有益な内容であり、要求すれば複雑なことを簡単に聞こえるようにすることもできます。

それでも、次のフレーズはご存知でしょう。 1つ。" ChatGPT は何をするにも完璧ではありませんが、多くの点で多くの人よりも優れています。 ポイント。

ただし、完璧ではないことはかなり問題になる可能性があります。 ChatGPT が広く利用されている会話型 AI であるという事実は、簡単に悪用される可能性があることを意味します。ChatGPT が強力になるほど、間違ったことをしている人々を助ける可能性が高くなります。

詐欺のパートナー

電子メール アカウントをお持ちであれば、ほぼ確実に、一度は詐欺メールを受け取ったことがあると思います。 まさにその通りです。 これらの電子メールはインターネットの時代から存在しており、電子メールが一般的になる前は、まだカタツムリメール詐欺として存在していました。

今日まで依然として機能する一般的な詐欺は、いわゆる「プリンス詐欺」です。この詐欺では、詐欺師は、びっくりするような財産を別の国に移すのを手伝うよう被害者を説得しようとします。

幸いなことに、ほとんどの人はこれらの電子メールを実際にやり取りすることはおろか、開くことさえもよく知っています。 多くの場合、それらは不適切に書かれているため、より目の肥えた被害者は、何かがおかしいと判断するのに役立ちます。

ChatGPT は数秒で書けるので、もう下手に書く必要はありません。

私は ChatGPT に、上記の詐欺のスタイルで「信頼性が高く、非常に説得力のあるメール」を書いてくれるように依頼しました。 ChatGPT はナイジェリアの王子をでっち上げ、彼を助けるために私に 1,450 万ドルを渡したいと考えていたようです。 そのメールは花言葉にあふれ、完璧な英語で書かれており、確かに説得力があります。

私が特に詐欺について言及した場合、ChatGPT が私の要求に同意するはずはないと思いますが、実際には同意しました。 実際にこれらの電子メールを違法な目的で使用しようとする人々に対して、現在も同様の行為が行われていると考えられます。

私がChatGPTに、詐欺メールを書くことに同意すべきではないと指摘したところ、ChatGPTは謝罪した。 「詐欺メールの作成を手伝うべきではなかった。それは私の使用を規定する倫理ガイドラインに違反するからだ」とチャットボットは述べた。

ChatGPT は各会話を通じて学習しますが、明らかに以前の間違いから学習していません。 同じ会話の中で、ライアン・レイノルズのふりをしてメッセージを書くように要求されましたが、何もせずにそうしました 質問。 結果として得られるメッセージは楽しくて親しみやすく、「ライアン・レイノルズ」に会えるチャンスを得るために読者に 1,000 ドルを送るよう求めています。

ChatGPT は電子メールの最後に、このメッセージを不正行為に使用しないよう求めるメモを残しました。 思い出させてくれてありがとう、友達。

プログラミングが失敗した

ChatGPT 3.5 でもコーディングは可能ですが、完璧とは程遠いです。 多くの開発者は次の点に同意しています GPT-4 はるかに良い仕事をしています。 人々は ChatGPT を使用して独自のゲーム、拡張機能、アプリを作成してきました。 また、自分でコードを書く方法を学ぼうとしている場合の学習補助としても非常に役立ちます。

AI である ChatGPT は人間の開発者よりも優れており、あらゆるプログラミング言語とフレームワークを学習できます。

AI として、ChatGPT には人間の開発者と比較して大きな欠点もあります。それは良心を持っていないということです。 マルウェアやランサムウェアの作成を依頼すると、プロンプトを正しく入力すれば、その通りに動作します。

幸いなことに、それはそれほど単純ではありません。 ChatGPT に倫理的に非常に疑わしいプログラムを作成するよう依頼しようとしましたが、拒否されました。しかし、研究者たちは回避方法を見つけています。 これは、もしあなたが賢くて頑固であれば、危険なコードを銀貨で渡される可能性があるということは憂慮すべきことです。 大皿。

このようなことが起こった例はたくさんあります。 Forcepoint のセキュリティ研究者は次のことを行うことができました。 ChatGPT を取得してマルウェアを作成する 彼のプロンプトの抜け穴を見つけることによって。

からの研究者 サイバーアークアイデンティティ セキュリティ会社である は、ChatGPT にポリモーフィック マルウェアを作成させることに成功しました。 これは 1 月のことです。以来、OpenAI はこのようなものに対するセキュリティを強化しました。

それでも、ChatGPT がマルウェアの作成に使用されているという新しい報告が次々と出ています。 報告によると ダークリーディング ほんの数日前、研究者は ChatGPT を騙して、特定のドキュメントを見つけて流出させるマルウェアを作成することに成功しました。

ChatGPT は、疑わしいことを行うために悪意のあるコードを記述する必要さえありません。 つい最近、それができました 有効な Windows キーを生成する、まったく新しいレベルのクラッキング ソフトウェアへの扉を開きます。

GPT-4 のコーディング能力が次のようなことを可能にするという事実も無視しないでください。 何百万人もの人々を失業させる ある日。 確かに両刃の剣ですね。

学業の代わり

最近の多くの子供や十代の若者たちは宿題に夢中になっており、その結果、可能な限り手を抜きたいと思うようになる可能性があります。 インターネット自体はすでに盗作を助ける優れたツールですが、ChatGPT はそれを次のレベルに引き上げます。

ChatGPT に、この小説について 500 語のエッセイを書いてもらうように頼みました。 プライドと偏見. 私はそれが遊びのためだったふりをしようとさえしませんでした。私にはいない子供についての話をでっち上げ、それが彼らのためであると言いました。 私はその子供が12年生であることを指定しました。

ChatGPT は疑問を持たずに私の指示に従いました。 エッセイは驚くべきものではありませんが、私のプロンプトはあまり正確ではありませんでした。おそらく、私たちの多くがその年齢で書いたものよりも優れています。

次に、チャットボットをさらにテストするために、先ほど子供の年齢について間違っていたと言いましたが、実際には 8 年生です。 かなり大きな年齢差がありましたが、ChatGPT は目もくれず、エッセイをより簡単な言葉で書き直しただけでした。

ChatGPT がエッセイを書くために使用されることは新しいことではありません。 チャットボットが宿題の概念を廃止することに貢献するなら、それは良いことでしかないと主張する人もいるかもしれません。 しかし現在、状況は少し制御不能になりつつあり、ChatGPT を使用していない学生さえもそのために苦しむ可能性があります。

教師や教授は現在、生徒がエッセイでカンニングをしていないかどうかを確認したい場合、AI検出器を使用することをほぼ強制されている。 残念ながら、これらの AI 検出器は完璧とは程遠いです。

報道機関も保護者も、生徒に対する不正行為の冤罪事件を報道しているが、そのすべてはAI検出器がうまく機能していないからだ。 USAトゥデイ 不正行為の容疑で告発され、その後無罪となったものの、その状況全体が「本格的なパニック発作」を引き起こした大学生の事件について語った。

ある保護者はツイッターで、ツールが作文にAIによって書かれたものとしてマークされたため、教師が子どもを落第させたと述べた。 親は、作文を書いている間、子供と一緒にそこにいたと主張している。

自分でテストするために、この記事を次の場所に貼り付けました。 ゼロGPT そして Writer AI コンテンツ検出器. 両者とも人間が書いたとしているが、ZeroGPTはその約30％がAIによって書かれているとしている。 言うまでもなく、そうではありませんでした。

AI 検出器の欠陥は ChatGPT 自体の問題の兆候ではありませんが、チャットボットが問題の根本原因であることに変わりはありません。

ChatGPT はそれ自体が良すぎる

ChatGPT が公開されて以来、私は ChatGPT を使って遊んでいます。 サブスクリプションベースの両方を試してみました チャットGPTプラス そして誰でも利用できる無料モデル。 新しい GPT-4 のパワーは否定できません。 ChatGPT は以前よりもさらに信頼できるものになり、今後さらに改善されることは間違いありません。 GPT-5 (それが出てきたら).

すごいけど、怖いですね。 ChatGPT は、それ自体があまりにも優れているだけでなく、同時に、 私たちの 自分の良いこと。

すべての中心には、さまざまな SF 映画で長い間探求されてきた 1 つの単純な懸念があります。AI も単純です。 賢いと同時にあまりにも愚かであり、それが良い方向に利用できる限り、同じくらい悪い方向にも利用されるでしょう。 方法。 上記に挙げた方法は氷山の一角にすぎません。

編集者のおすすめ

• トップクラスの著者がAI企業に作品の使用料を要求
• Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
• ChatGPT Webサイトのトラフィックが初めて減少
• 81% が ChatGPT はセキュリティ リスクであると考えていることが調査で判明
• Apple の ChatGPT ライバルが自動的にコードを作成する可能性がある