FBI のディープフェイク警告が心配ですか? これらの専門家のヒントに従ってください

先週、連邦捜査局（FBI）は、 公共広告を発行しました ディープフェイクの露骨なコンテンツの増加と、それが恐喝、脅迫、嫌がらせなどの犯罪にどのように利用されているかについて。 最も単純な言葉で言えば、 ディープフェイクとは、オリジナルを模倣しようとする合成マルチメディア素材です. AI 生成の写真、ビデオ、またはオーディオ クリップにすることができます。

「ディープフェイク」という名前は、そのようなメディアの作成に使用される固有のテクノロジーであるディープラーニングに由来しています。 元のマテリアルを使用して AI モデルをトレーニングし、それを変更して目的のデータを生成することが含まれます。 結果。 まったく新しい発明というわけではありませんが、 爆発的に人気が高まる生成AI —そしてアクセス—ディープフェイク犯罪が増加しています。

その人気の高さから、共和党の大統領候補ロン・デサンティス氏の陣営もライバルのドナルド・トランプ氏を中傷するためにディープフェイク画像を使用したほどだ。 ディープフェイクは、AI の規制を求める声があらゆるところで提起される理由の 1 つでもあります。 FBI によると、ディープフェイクを生成するコンテンツは通常、ソーシャル メディアの投稿から抽出される 強要やいじめのために露骨な性的素材に改変される前のビデオ通話クリップ。

ディープフェイクについて専門家が語ること

それで、解決策は何でしょうか？ 残念ながら、解決策はありません。 少なくとも、「ソーシャルメディア」の意味全体を根本からひっくり返すような妥協をしないわけにはいきません。

「残念ながら、あなたの写真やビデオがディープフェイクの作成に使用されていないことを確認する唯一の方法は、投稿を停止することです。 自分の写真をオンラインに公開することはできますが、それはインターネット ユーザーの楽しみを大きく奪うでしょう」とサイバーセキュリティ担当者の Adrianus Warmenhoven 氏は言います。 のアドバイザー

「新たなより優れたセキュリティ手法が登場すると、悪意のある攻撃者は危害を加える方法を見つけるでしょう。 これは追い上げのゲームであり、時々がっかりすることもあります」と元 Google 社員であり、次世代パスワード管理ツールの開発者である Parteek Saran 氏は言います。 宇野. さらに彼は、投稿に関しては「ゼロトラスト哲学」を採用するよう努めるべきだと提案しています。 ソーシャルメディア上のコンテンツを監視し、ディープフェイクを避けるために知人との効果的なコミュニケーションを強調する 詐欺。

「AI はデジタルの安全性に関する懸念に対処するのに役立ちますが、絶対確実なセーフティ ネットはありません」と、デジタル セーフティの専門家兼 CMO であるヤロン・リトウィン氏は述べています。 キャノピー. 同社の名を冠したアプリは、子供たちをオンライン性犯罪から守ることを目的としており、さまざまなペアレンタルコントロールも提供しています。 リトウィン氏は、親密な画像や危険を冒す画像の投稿は避けるべきであると同時に、通常の画像であっても投稿の頻度を減らす必要があると付け加えています。

自分の安全を守る方法

ディープフェイクは恐ろしいもので、個人やその家族に与えるトラウマは計り知れません。 しかし、ユーザーが罠に陥ることを避ける、または少なくとも大幅に回避できる方法がいくつかあります。

平均歩数を理解するには スマートフォン 典型的なデジタル スキルを持つユーザーができることについて、私は、リサーチおよびイノベーション担当副社長の Andrew Gardner 氏に連絡を取りました。 ジェンデジタル、ノートン、アバスト、Avira などの信頼できる安全ツールを提供するソフトウェア会社です。

ガードナー氏は、安全プロトコルは基本レベルから始まると述べています。 ユーザーはまず自分のプロフィールを非公開にするか、少なくとも投稿の公開設定を変更して、相互フォローしている人だけが自分の投稿を閲覧して操作できるようにする必要があります。 ペアレンタルコントロールは現在、ほぼすべての主要なソーシャル メディア プラットフォームで利用可能ですが、保護者が不審なやり取りを監視できるように、熱心に有効にする必要があります。

知り合いからのリクエストのみを受け入れるのが一般的なアドバイスですが、さらに一歩踏み出すと大きな効果が得られます。 「ネットワーキングをしている場合は、招待者の最近の投稿やアクティビティをチェックして、その招待者がどれほど本物であるかを判断してください」とガードナー氏は言い、「アカウント」には注意する必要があると付け加えました。 友達も共通の友達もほとんどいない。」 Gen Digital の幹部が与えるもう 1 つの重要なアドバイスは、ソーシャル メディアのチェックと制限です。 ログイン。

ユーザーはオンライン サービスにアクセスすることが多く、アカウント作成の手間を省くためにソーシャル メディア サインイン オプションを選択します。 「これにより、アプリが個人情報にアクセスできるようになり、場合によっては、それらのアプリがその情報を第三者に販売することになります」と彼は言います。 Facebookに関わるケンブリッジ・アナリティカのスキャンダル は素晴らしい例です。 どのアプリがソーシャル メディア アカウントに接続されているかを定期的に確認し、必要がない限りアクセスを取り消す必要があります。

ディープフェイクは AI を利用した高度な犯罪ですが、ガードナー氏は、ユーザーは依然としていくつかの基本的な安全ガイドラインに従う必要があると示唆しています。 2 要素認証の有効化、強力なパスワードの使用、生体認証パスキーの有効化、不審または不明な認証の回避など リンク。

ソーシャルメディアは安全かつ責任を持って行われます

Canopy の Litwin 氏は、共有すればするほど、説得力のあるディープフェイクを作成することが容易になるという意見を持っています。 露骨な素材の作成に制限がない、いかがわしい AI 画像生成モデルが不足することはありません。 これらのツールは、画像入力に依存してモデルをトレーニングします。 より多くのトレーニング データが供給されるほど、ディープフェイクはより正確かつ現実的になります。

これは、次のような主流の AI 画像ジェネレーターによって実装される標準的な戦術です。 ミッドジャーニー. ソーシャル フィードがオープンで、大量の写真やビデオが含まれている場合、悪意のある攻撃者がそれらをスクレイピングして、危険性のあるディープフェイクを作成することを止めることはできません。 しかし、あなたが最も大切な思い出を保存する場所としてソーシャル メディアに価値を見出している人であれば、いくつかの対策があります。 しなければならない 取った。

「オンラインで共有する個人情報には注意し、アカウントのプライバシー設定を調整し、二要素認証を有効にし、画像に欠陥がないか慎重に確認してください。」 ボイド・クレウィスは、フォーブス安全保障評議会のサイバーセキュリティ専門家であり、『Through The Firewall: The Alchemy Of Turning Crisis Into Opportunity』の著者です。

しかし、ディープフェイクの作成や配布などのいかがわしい行為に悪意のある人物が関与している可能性が高いソーシャル メディア プロフィールを確実に特定するにはどうすればよいでしょうか? 「ビデオまたはオーディオ素材が疑わしいプロフィールから共有され、アカウントに個人情報や個人情報が含まれていない場合、 バルティック・アマデウス社の情報セキュリティアーキテクト、トーマス・サムリス氏はこう示唆する。 彼は、個人を特定できる情報を欠いたそのようなプロフィールは、特に偽物やその他の物議を醸す情報を広めるために作成されたものであると示唆しています。」

ディープフェイクされたらどうするか

しかし、平均的なスマートフォン ユーザーが講じることができる予防策は限られています。 最もデジタルに精通したユーザーでさえ、サイバー犯罪の被害に遭っていることに気づきます。 2要素認証、プライベートプロファイル、生体認証などの標準ツールをすべて使用する ファイアウォール。

あらゆる予防措置を講じたにもかかわらず、依然としてディープフェイク犯罪の中心にいることに気付いた場合は、問題を自分で解決するのではなく、専門家のアドバイスや当局の助けを求めてください。 専門家らは、こうした嫌がらせを放置したり、自分だけで慎重に対処しようとすると、被害者の状況をさらに悪化させることが多いと指摘している。

「誰かがあなたのコンテンツを悪用していることを発見した場合は、著作権法に精通した弁護士に相談して、コンテンツを削除するのを手伝ってください。 できるだけ早く」と、ダラス弁護士会の会員であり、サイバーセキュリティリスクやデータなどの分野の公認法律専門家であるロブ・スコット氏は言う。 プライバシー。

法律の専門家に相談することは、デジタル著作権についてガイドしてくれるため非常に重要です。また、Canopy のリトウィン氏は、すべての権利を保護することを提案しています。 証拠を求め、被害者に「メッセージ、電子メール、その他の形式のコミュニケーションなど、恐喝の試みの証拠を文書化する」ようアドバイスしています。 強奪。」

もう 1 つの重要なアドバイスは、犯罪者が被害者をさらに操作したり、より深刻な恐喝要求で嫌がらせをしたりする可能性があるため、被害者は犯罪者とのあらゆる接触を直ちにやめるべきであるということです。 同時に、ユーザーはサイバーセキュリティの専門家に連絡するか、政府のサイバー犯罪ヘルプラインにダイヤルアップして適切な対策を講じる必要があります。

ディープフェイクを見分ける方法

AI エンジンがますます洗練されるにつれ、AI エンジンが生成するディープフェイクの種類は不気味なほどリアルになり、見分けるのが困難になっています。 ただし、合成的に変更された、または AI によって生成された侵害素材を見つけるためにユーザーが注意できるマーカーがまだいくつかあります。

以下は、専門家が提供するディープフェイク識別子のまとめです。

• 不自然な目の動きに注意してください。 人の目が瞬きしていないように見えたり、目の動きがずれていたり、顔の表情が話している言葉と同期していないように見える場合は、ディープフェイク クリップである可能性が高くなります。 感情の欠如、または一貫性のない感情は、メディアがデジタル的に変形されていることを示す証拠です。
• 「ディープフェイク技術は通常、顔の特徴に焦点を当てています」とガードナー氏は言う。 「人物の体型が自然ではないように見えたり、動きがぎくしゃくしたりバラバラだったりする場合、その動画はディープフェイクである可能性が高いです。」
• もう 1 つ信頼できるマーカーは背景です。背景は不自然にぼやけて見えたり、奇妙な視覚的アーティファクトを示したりすることがあります。 ディープフェイクを見分けるもう 1 つの簡単な方法は、特に周囲のアイテムの顔や影に関して、異常な変色や深刻な色の不一致を探すことです。
• 人物が「完璧な髪」を揺らしている写真を見つけたときに、数本の髪の飛び散りや縮れなどの個々の要素が見つからない場合は、注意してください。 AI モデルは歯に苦労することも知られています。 不自然に完璧な歯、個々の歯の輪郭が欠けている歯、または通常の人間の義歯よりも歯の数が多い歯に注意してください。
• 体の部分の位置がずれている、エッジがぼやけている、指が数本多いか少ない、手足が奇妙に歪んでいる、動きが同期していない 体の各部分の痛み、休止や感情の休憩が欠けている声も、注意深く注意する必要がある兆候です。 ために。 「偽の音声や録音には、背景ノイズ、ロボットのような音声、奇妙な発音が含まれることがよくあります」とサムリス氏は説明します。

中途半端な解決策による深刻な問題

上で説明したように、ディープフェイクに対する絶対確実なセーフティ ネットはありません。 ただし、写真を共有する場所、誰が閲覧できるか、ソーシャル メディアへのアクセスがどこまで及ぶかに注意していれば、比較的安全なゾーンに留まることができます。

また、オンラインの友達が誰であるかにも注意を払い、ソーシャル メディアの友達サークルに追加する前に、新しい招待者のアクティビティを精査する必要があります。 ディープフェイクに関して言えば、それは少し難しいです。 しかし、警戒を怠らず、時間をかけて疑わしい写真やビデオの不一致を評価すれば、ディープフェイクをかなり高い精度で見分けることができます。

結局のところ、衛生的なオンライン習慣を身につけ、ますます偽造が多発するオンライン空間で警戒を続けることが重要なのです。

編集者のおすすめ

• Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
• イーロン・マスク氏の新しいAI企業は「宇宙を理解する」ことを目指す
• AIの画期的な進歩はミツバチの脳を通じてもたらされる可能性があると科学者が語る
• OpenAI、初の国際拠点の場所を明らかに
• 81% が ChatGPT はセキュリティ リスクであると考えていることが調査で判明