ディープフェイクは危険ですか? 制作者と規制当局の意見が異なる

過去数年にわたり、 ディープフェイク は、インターネットのミームやパロディ コンテンツの最新の頼りになるコンテンツとして浮上しています。

その理由は簡単にわかります。クリエイターは、これまでのテクノロジーとは異なり、現実のルールを曲げることができるからです。 ディープフェイクの魔法により、 ジェニファー・ローレンス、スティーブ・ブシェミの顔を通してスピーチ、見てください ライアン・レイノルズはウィリー・ウォンカのように見えただろう、さらにはキャッチ ヒトラーとスターリンが歌うビデオがラジオスターを殺した デュエットで。

初心者のために説明すると、ディープフェイク技術とは、ユーザーがオリジナルとほとんど見分けがつかない方法で、別の人の顔を別の顔に重ね合わせることができる合成メディアの一種です。 これは、大量のデータを読み取って顔の輪郭やその他の特徴を理解し、自然にシーンに溶け込ませてアニメーション化することによって行われます。

この時点で、おそらく TikTok (ハッシュタグ「#deepfake」の再生回数は約 2 億回) や YouTube などのプラットフォームでそのようなクリップを目にしたことがあるでしょう。 ファンフィクションを実現するためであっても、 スターのシーンをやり直す 彼らは、映画が元々現代のバイラルミームに死者を出演させたり、登場させたりすればよかった、と考えているが、ディープフェイクは、以前はほぼ不可能だった目的のための創造的な手段として採用されている。

この変化により、次のような新しいクリエイターのリーグが誕生しました。 Ctrl Shift 面のディープフェイク動画は定期的に数百万回の再生回数を誇り、深夜のトーク番組で話題になることもよくあります。

「これは、面白いインターネット ビデオを作成したり、これまで見たことのないようなストーリーを伝えるまったく新しい方法です」と、ヒット作の背後にあるオランダを拠点とするクリエイターは言います。

オズのアベンジャーズ」ディープフェイククリップで、実名を使用しないよう求めた。 「これは、AI に対する魅力の美しい組み合わせです。 テクノロジーとユーモア。」

しかし、ディープフェイク技術の将来を完全に脅かす差し迫ったリスクがあります。それはその評判の悪さです。

強力なパワーには優れた再投稿性が伴います

残念ながら、ディープフェイクは、善意のビデオ アーティストにとってクリエイティブ ツールとしての可能性に加えて、害を及ぼす多大な可能性も秘めています。

最近の UCLジル・ダンド安全犯罪科学研究所の将来犯罪ドーズセンターによる研究 ディープフェイクは、AI を利用した最も深刻な脅威であると考えられています。 セン。 悪意のあるディープフェイク作成を犯罪化する法案を提出したネブラスカ州共和党員ベン・サッセ氏は、 警告された 昨年、このテクノロジーは「人命を破壊」し、「金融市場を混乱」させ、さらには「世界中で軍事紛争を引き起こす」可能性があると述べた。

ある程度、こうした懸念はもっともです。 結局のところ、ディープフェイク技術の普及により、有名人をフィーチャーした偽のアダルトコンテンツの制作や、風刺を目的とした政治家の実物そっくりの物まねなどがすでに可能になっているのだ。 今年初め、ホワイトハウスのソーシャルメディアディレクター、ダン・スカビーノ氏はこう語った。 ツイートした ドナルド・トランプ大統領もリツイートした、トランプのライバルであるジョー・バイデンが人々にトランプの再選を呼びかける、下手に加工された動画。

しかし、これらのあまり説得力のないデマは、大衆に届く前にすぐに誤りであることが暴かれました。 さらに重要なのは、ディープフェイク動画はこれまでのところ社会にほとんど影響を与えておらず、現時点では差し迫った脅威は存在しないと専門家が示唆していることだ。 たとえば、次のような研究が行われています。 感度視覚的な脅威に焦点を当てたサイバーセキュリティ会社は、ディープフェイク動画の大部分は ポルノ（96%）、そしてこのテクノロジーはまだ重大な偽情報に浸透していない キャンペーン。

同様に、 ジョージタウン大学のレポート ディープフェイクは「印象的な技術的偉業」であるが、政策立案者は性急に開発を進めるべきではないと結論付けた。 現時点ではテクノロジーは完璧ではなく、現実世界の出来事に影響を与えることはできないため、誇大宣伝が行われています。 まだ。

動画が何百万人も視聴されている最も人気のあるディープフェイク チャンネル Ctrl Shift Face の制作者は、「ヒステリー」を信じている ディープフェイクの話題を飛び回っていることで、規制が不十分な広告などの本当の問題から議員の注意がそらされている 上のネットワーク フェイスブック それは実際に人々を誤解させる原因となっています。

「もし有害なディープフェイクが存在するとしたら、それが広がる場所はFacebookだ」とCtrl Shift Face氏はDigital Trendsとのインタビューで語った。 「その場合、より大きな問題は何ですか？ メディアですか、それともプラットフォームですか？」

の所有者 ベビーゾーン、50 万人以上の登録者がいる YouTube ゲーム チャンネルで、有名人をビデオにディープフェイクすることがよくあります。 ゲームについても、同様の懸念を表明しています。「ディープフェイクは、他の既存のテクノロジーと同様のテクノロジーだと思います。 テクノロジー。 それらは良い目的にも悪い目的にも使用される可能性があります。」

ディープフェイクを保存する運動

ここ 1 ～ 2 年にわたり、政府やテクノロジー企業がこの問題の潜在的なリスクを調査しています。 ディープフェイクの支持者たちは、こうした懸念を和らげ、テクノロジーの公開を修正しようと躍起になっている。 画像。 レディットコミュニティ 「この汚名を調整」しようとする研究者も現れており、一部の独立系研究者はディープフェイクが広まる前にそれを発見できるシステムを積極的に構築している。

自分の顔を簡単に GIF に置き換えることができるヒット アプリである Reface の CEO 兼共同創設者である Roman Mogylnyi 氏は、 彼のスタートアップは現在、ビデオが Reface で作成されたかどうかを判断できる検出ツールを開発中であると述べています。 テクノロジー。 「私たちは、私たちのような合成メディアツールに広くアクセスすることで、人類の共感と共感が高まると信じています。 創造性を高め、テクノロジーに対する認識をより良い方向に変えるのに役立ちます」とモギルニー氏は Digital に語った。 トレンド。

人気の顔交換アプリ Jiggy を開発したスタートアップ Botika の創設者兼 CEO、エラン・ダガン氏も同様の見通しを持っています。 ディープフェイクに対しては好意的であり、ディープフェイクが主流になるにつれて、「人々はディープフェイクの積極的な使用にもっと気づくようになるだろう」と信じています。 ケース。」

しかし、ディープフェイクの潜在的な危険性を考慮すると、最終的には議会が介入する可能性が高い。 主要なテクノロジープラットフォーム Facebook、Twitter、YouTube などの企業はすでにポリシーを更新し、誤解を招くことを目的とした操作されたメディアにフラグを立てたり、削除したりしています。 複数の状態のような カリフォルニア ニューヨーク州とニューヨーク州は、意図的に欺瞞的なディープフェイクの作成者や、顔を使用された本人の同意なしに公開したディープフェイクを処罰する法案を可決した。

ディープフェイクは規制されるべきなのか？

これらの政策ではパロディコンテンツは除外されているが、専門家らは不明確な法律やテクノロジーの全面禁止を懸念し、 議会はそれに関与せず、ディープフェイクがあらゆる新しい形式のメディアの自然な流れになるようにすべきだと今でも信じている を通して。

電子フロンティア財団の人権ディレクター、デビッド・グリーン氏は、「議会によるあらゆる試みは、 ディープフェイクを規制すること、あるいはあらゆる種類のビジュアルコミュニケーションを規制することは言論規制となり、第一の 修正。

これらの法律は正確である必要があり、明確に定義され、理解しやすい言葉で、抑制しようとしている害悪に対処する必要があるとグリーン氏は付け加えた。 「私たちがこれまで見てきたことは…州レベルでの規制の試みは曖昧で広範すぎる法律であり、憲法修正第 1 条が要求する正確さを備えていません。 パロディや政治的コメントに必要な例外はありません。」

Sensity の CEO であるジョルジオ・パトリーニ氏は、アルゴリズムとソフトウェアの禁止は「インターネット時代には無意味」であると考えています。 パトリーニはこの難題をマルウェアと比較します すべてのコンピュータ ウイルスやその作成者を根絶することはほぼ不可能であるため、単純にマルウェア対策メカニズムに投資する方がよいことを説明します。 その代わり。 「社会は、何が信頼できるのかを証明し、合成コンテンツが個人や組織に及ぼす悪影響を防ぐ方法を確立するための新しいメカニズムを構築する必要がある」と同氏は述べた。

ティム・ワン氏はジョージタウン大学の報告書で、ディープフェイクツールの商品化により、検出およびフィルタリングする技術が失われていると述べた。 その結果、自動的に情報が進化し、より正確になるため、深刻な情報を提示する能力が無力化されます。 脅威。

Microsoftが最近リリースしたディープフェイク検出ツールたとえば、ビデオを分析して、ビデオが変更された可能性を示す信頼度スコアを提供します。

「ディープフェイクは新しい形式のメディア操作ですが、この種の課題に直面するのはこれが初めてではありません。 私たちは合成メディアに対処する方法を模索し、投資しているところです」と YouTube の広報担当者は述べた。

背後にある研究者 CtrlShiftLabCtrl Shift Face を含む多くの YouTuber が採用している高度なディープフェイク作成ソフトウェアが、 意識を高め、より包括的な検出を構築するためのオープンソース プロジェクトにも取り組んでいます サービス。

「この[ディープフェイクの悪用]を防ぐ唯一の方法は、オープンソースのディープフェイク関連プロジェクトを設立し、世間の注目を集めることです。 そのため、一般のネットユーザーはディープフェイクの存在に気づくことができます」とCtrlShiftLabの研究者の1人であるKunlin Liu氏はDigital Trendsに語った。

Digital Trendsが話を聞いたディープフェイク作成者の数人は依然として楽観的であり、ディープフェイクに対する各国の反発は時期尚早であると考えている。 彼らは、ミームやパロディ文化におけるディープフェイクの役割の増大が、この新興テクノロジーの低俗な評判を修復するのに役立つだろうという点で同意している。 そして、動画に免責事項があり、プラットフォームがより効果的な検出レイヤーに投資している限り、ディープフェイクは存在し続けるだろうと彼らは付け加えた。

「ディープフェイクの評判は大幅に向上していると思います。 2年前、ディープフェイクという言葉は自動的にポルノを意味するようになった」とCtrl Shift Faceの作成者は語った。 「今では、インターネット上に出回っているこれらの面白いビデオのおかげで、ほとんどの人がディープフェイクについて知っています。」

編集者のおすすめ

• Digital Trends の Tech For Change CES 2023 アワードを受賞
• 陽気なプロジェクト グッチバーグでは、ディープフェイクされたグッチ メインが古典小説を読み上げます
• アーティストや活動家がディープフェイクを善のための力としてどのように利用しているか
• Twitter、2020年の選挙に向けて「害を及ぼす」ディープフェイクを禁止へ
• カリフォルニア州は政治とポルノを目的としたディープフェイクを取り締まっている