ChatGPT はサイバーセキュリティ上の災害ですか? 専門家に聞いてみた

チャットGPT 今はかなり避けられない感じがする、ストーリーがあるから その能力に驚く どこを見てもそう。 音楽を作成し、3D アニメーションをレンダリングし、音楽を作曲する方法を見てきました。 思い当たることがあれば、ChatGPT で挑戦できるかもしれません。

そしてそれがまさに問題なのです。 現在、テクノロジーコミュニティではあらゆる種類の争いがあり、コメント投稿者は頻繁に AI が問題になるのではないかと懸念しています。 最も環境に優しいハッカーでさえも、止められないトロイの木馬やランサムウェアを生み出して、マルウェアの黙示録を引き起こす可能性があります。

しかし、これは本当に本当なのでしょうか？ それを知るために、私は多くのサイバーセキュリティ専門家に話を聞いて、ChatGPT のマルウェア能力をどのように分析しているかを確認しました。 悪用の可能性を懸念していたかどうか、そしてこの新たな時代の中で身を守るために何ができるか 世界。

疑わしい能力

ChatGPT の主な魅力の 1 つは、特にプログラミングの世界において、いくつかの簡単なプロンプトで複雑なタスクを実行できることです。 懸念されているのは、これによりマルウェア作成の参入障壁が低くなり、AI ツールに頼って面倒な作業を行うウイルス作成者が急増する危険性があるということです。

セキュリティ企業 Intego のチーフ セキュリティ アナリスト、ジョシュア ロング氏がこの点を説明します。 「物理世界や仮想世界の他のツールと同様、コンピューター コードも善にも悪にも使用できます」と彼は説明します。 「たとえば、ファイルを暗号化できるコードをリクエストした場合、ChatGPT のようなボットはユーザーの本当の意図を知ることができません。 自分のファイルを保護するために暗号化コードが必要だと主張すると、たとえあなたの本当の目的がランサムウェアを作成することであったとしても、ボットはそれを信じてしまいます。」

ChatGPT には、この種の事態に対処するためのさまざまな保護手段が用意されており、ウイルス作成者にとっての秘訣は、これらのガードレールを回避することにあります。 ChatGPT に効果的なウイルスを作成するよう率直に依頼しても、ChatGPT は単に拒否するため、ウイルスの裏をかいて、ウイルスのより良い判断に反して自分の命令に従うようにするには創造性を発揮する必要があります。 人ができることを考える ChatGPT での脱獄、AIを使用してマルウェアを作成する可能性は理論的には可能だと感じます。 実際には、 それはすでに証明されています, したがって、それが可能であることがわかります。

しかし、誰もがパニックに陥っているわけではありません。 Bitdefender のテクニカル ソリューション ディレクターである Martin Zugec 氏は、リスクはまだかなり小さいと考えています。 「初心者のマルウェア作成者の大多数は、これらのセキュリティを回避するのに必要なスキルを持っていない可能性が高いです」 したがって、チャットボットが生成するマルウェアによってもたらされるリスクは、現時点では比較的低いままです。」 と言う。

「最近、チャットボットが生成するマルウェアがよく話題になっています」と Zugec 氏は続けます。 それが近い将来に重大な脅威となることを示唆する証拠はありません。」 それには単純な理由があります。 Zugec 氏によると、「チャットボットによって生成されるマルウェア コードの品質は低い傾向にあり、 公開コードでより良い例を見つけることができる経験豊富なマルウェア作成者にとって魅力的なオプション リポジトリ。」

したがって、ChatGPT に悪意のあるコードを作成させることは確かに可能ですが、そのスキルを持っている人であれば誰でも可能です。 AI チャットボットを操作するために必要なユーザーは、AI チャットボットが作成する貧弱なコードには感心しない可能性が高いと Zugec 氏は述べています。 信じています。

しかし、ご想像のとおり、生成 AI はまだ始まったばかりです。 そしてロングにとって、それはChatGPTによってもたらされるハッキングのリスクがまだ確定していないことを意味する。

「LLM ベースの AI ボットの台頭により、新しいマルウェアが小規模から中程度の増加、またはマルウェアの改善につながる可能性があります。 機能とウイルス対策回避機能です」とロング氏は、ChatGPT などの AI ツールが構築するために使用する大規模な言語モデルの頭字語を使って言いました。 知識。 「しかし、現時点では、ChatGPT のようなツールが現実世界のマルウェアの脅威にどれだけの直接的な影響を与えているか、あるいは今後与えるかは明らかではありません。」

漁師の友人

ChatGPT のコード作成スキルがまだゼロに達していない場合、より効果的なフィッシング キャンペーンやソーシャル エンジニアリング キャンペーンを作成するなど、別の方法で脅威となる可能性はありますか? ここで、アナリストらは、悪用の可能性がはるかに高いことに同意しています。

多くの企業にとって、潜在的な攻撃ベクトルの 1 つは企業の従業員であり、従業員がだまされたり操作されたりして、本来すべきではない場所に不注意でアクセスを提供してしまう可能性があります。 ハッカーはこのことを知っており、悲惨な結果をもたらした注目を集めるソーシャル エンジニアリング攻撃が数多くあります。 たとえば、北朝鮮のラザロ・グループは、 2014 年にソニーのシステムに侵入 求人担当者になりすましてソニー社員に感染ファイルを開かせることで、未公開映画や個人情報が漏洩するという結果につながりました。

これは、ChatGPT がハッカーやフィッシングの作業改善に劇的に役立つ可能性がある領域の 1 つです。 たとえば、英語が脅威アクターの母国語ではない場合、AI チャットボットを使用して、英語話者をターゲットにした説得力のあるフィッシング メールを作成する可能性があります。 あるいは、人間の脅威アクターが同じタスクを実行するよりもはるかに短い時間で、説得力のある大量のメッセージを迅速に作成するために使用することもできます。

他の AI ツールが混入すると、事態はさらに悪化する可能性があります。 カレン・ルノー、メリル・ワルケンティン、ジョージ・ウェスターマンが仮説を立てているように、 MIT のスローン管理レビュー、詐欺師は ChatGPT を使用してスクリプトを生成し、会社の CEO になりすましたディープフェイク音声によって電話でそれを読み上げることができます。 電話を受ける会社員にとって、その声はまるで上司のように聞こえ、そしてそのように振る舞うのです。 その声が従業員に新しい銀行口座に大金を送金するように要求した場合、その従業員は上司に敬意を払っているため、その策略にはまる可能性が十分にあります。

ロングが言うように、「[脅威アクター] はもはや、説得力のある詐欺メールを作成するために自分の (多くの場合不完全な) 英語スキルに頼る必要はありません。 また、自分で賢い言葉遣いを考え出し、それを Google 翻訳にかける必要すらありません。 その代わりに、ChatGPT は、リクエストの背後にある悪意の可能性をまったく認識していませんが、詐欺メールの全文を任意の言語で喜んで書きます。」

ChatGPT にこれを実際に実行させるために必要なのは、賢いプロンプトだけです。

ChatGPT はサイバーセキュリティを強化できますか?

それでも、悪いことばかりではありません。 ChatGPT は、脅威攻撃者にとって魅力的なツールであるのと同じ特性 (そのスピード、コードの欠陥を見つける能力) により、サイバーセキュリティ研究者やウイルス対策会社にとって役立つリソースとなっています。

ロング氏は、研究者たちがすでに AI チャットボットを使用して、まだ発見されていないもの (「ゼロデイ」) を発見していると指摘しています。 コードをアップロードし、ChatGPT に潜在的な可能性を発見できるかどうかを確認するよう依頼するだけで、コード内の脆弱性を発見できます。 弱点。 つまり、防御力を弱める可能性があるのと同じ方法論を、防御力を強化するために使用できるということです。

脅威アクターにとって ChatGPT の主な魅力は、もっともらしいフィッシング メッセージを作成できることにあるかもしれませんが、 これらの同じ人材は、詐欺に遭わないために何に気をつけるべきかについて企業やユーザーを訓練するのに役立ちます。 彼ら自身。 また、マルウェアのリバースエンジニアリングにも使用でき、研究者やセキュリティ企業が迅速に対策を開発できるようになります。

結局のところ、ChatGPT 自体は本質的に良いものでも悪いものでもありません。 Zugec 氏が指摘するように、「AI がマルウェアの開発を促進できるという議論は、他のあらゆるものにも当てはまります。 オープンソース ソフトウェアやコード共有など、開発者に利益をもたらす技術の進歩 プラットフォーム。」

言い換えれば、安全対策が改善され続ける限り、 最高の AI チャットボット 最近予測されているほど危険にはならないかもしれない。

自分の安全を守る方法

AI チャットボットによってもたらされる脅威や、AI チャットボットが悪用されて作成されるマルウェアが心配な場合は、自分自身を守るために実行できる手順がいくつかあります。 Zugec 氏は、「エンドポイント セキュリティ ソリューションの実装、ソフトウェアとシステムの維持」を含む「多層防御アプローチ」を採用することが重要であると述べています。 最新の、不審なメッセージやリクエストに対して引き続き警戒を続けます。」

一方、ロング氏は、Web サイトにアクセスしたときに自動的にインストールを求められるファイルは避けることを推奨しています。 アプリを更新またはダウンロードする場合は、公式アプリ ストアまたはソフトウェア ベンダーの Web サイトから入手してください。 また、検索結果をクリックしたり、Web サイトにログインしたりするときは注意してください。ハッカーは、お金を支払うだけで詐欺サイトを検索結果の上部に表示し、ログイン情報を盗むことができます。 慎重に作成された類似ウェブサイト.

ChatGPT はどこにも行きませんし、世界中で多大な被害をもたらしているマルウェアも同様です。 ChatGPT のコーディング能力による脅威は今のところ誇張されているかもしれませんが、そのフィッシングメール作成の熟練度はあらゆる種類の頭痛の種を引き起こす可能性があります。 しかし、脅威から身を守り、被害に遭わないようにすることは十分に可能です。 現時点では、十分な注意と強力なウイルス対策アプリが、デバイスの安全性と健全性を保つのに役立ちます。

編集者のおすすめ

• Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
• ChatGPT Webサイトのトラフィックが初めて減少
• Apple の ChatGPT ライバルが自動的にコードを作成する可能性がある
• ニューヨークの弁護士、法的準備書面で偽のChatGPT訴訟を使用したとして罰金刑
• この Web ブラウザは、ChatGPT を魅力的な新しい方法で統合しています。