ディープフェイクが間もなく Photoshop と同じくらい一般的になる理由

自宅や携帯電話で快適にディープフェイク動画を作成できることをご存知ですか? 地元のアプリ ストアから気軽に入手できる、豊富な顔交換アプリやディープフェイク アプリの 1 つをダウンロードすれば、あなたも 選挙に影響を与える可能性がある.

もちろん、そうではありません。私たちはそれを決して支持しません。 しかし、周囲の誇大宣伝と懸念の中で ディープフェイク テクノロジーとその実際の悪用、単純な真実は、このテクノロジーはなくならないということです。 実際、特にアプリ開発者が取り組んでいる場合には、Photoshop と同じくらい一般的なものになるでしょう。 ディープフェイク技術はこれについて何か言いたいことがある：私たち自身の顔が映ったハイパーターゲット広告がすぐに見られるようになるだろう 彼ら。

ウクライナに本拠を置く新興企業RefaceAIのCEO、ロマン・モギルヌイ氏は、同社は2011年から機械学習に取り組んでおり、2014年にはディープフェイク技術に基づいた独自のアプリの作成に軸足を移したと語った。 RefaceAIはすでにReflectという写真ディープフェイクアプリをリリースしており、独自のビデオディープフェイクアプリとディープフェイクビデオの検出に役立つWebサービスの両方をリリースしようとしている。

「私たちはこのテクノロジーが悪用されていることを最初から見ていました」とモギルヌイ氏は語った。 「私たちはもっとうまくできると思っていました。」

RefaceAIはすでにいくつかの映画製作会社と協力しているが（モギルヌイ氏はどの会社とは言えなかった）、自社のテクノロジーを使って、 俳優の顔を影武者に投影することで、俳優をセットに連れて行ってシーンを再撮影するよりもはるかに低い費用で済みます。 質問。 Mogylnyi氏によれば、これこそが同社がディープフェイクの未来だと考えているものだという。 「マーケティング、広告のパーソナライズ、GIF、エンターテイメント素材全般に使用したいと考えています」と彼は述べた。

メディアの未来

RefaceAI は、この避けられないマーケティング曲線を先取りしようとしている会社ではありません。 韓国に拠点を置くアプリである Carica も、人気のリアクション GIF に自分の顔を移植して友人や家族に送信できるディープフェイク GIF やビデオを開発しています。 このアプリにはすでに、広告の写真またはビデオにユーザーの顔を組み込むポップアップ広告が搭載されています。

「当社はメディア企業になりたいと考えています」とカリカのエンジニア、ジョセフ・ジャン氏はデジタル・トレンドに語った。 ディープフェイクはまだ始まったばかりの方法です。 「メディア企業はこの機能を採用し始めると思います。 と同じように、それはあなたが持つオプションになります。 フィルター. それが人々にとってごく普通のことになるだろう。」

Jang 氏も Mogylnyi 氏も、ディープフェイクが今後どうなっていくのかというモデルとして Photoshop の普及を利用しました。それでも少し物議を醸しているとしても、目立たないほど一般的です。 そして、両者にとって、ディープフェイクに含まれる政治的および倫理的問題は、実際にはありふれたものにすぎません。

ディープフェイク検出プラットフォーム「アンバー・ビデオ」の最高経営責任者（CEO）シャミール・アリバイ氏は、デジタル・トレンドに対し、ディープフェイク技術は他のほとんどの技術と同様に非道徳的であるというのが彼の最も重要な見解であると語った。

「Microsoft Word は不道徳であり、潜在的なテロリストが Microsoft Word を使用して悪であると言っているようなものです。 暴力的で過激なイデオロギーを信奉し、それが他の人たちに暴力的で過激なイデオロギーを信奉するよう促すことになる」と彼は述べた。 言った。 「私はこのテクノロジーも同じ考えだと思います。」

Amber Video は、「詐欺、評判の低下、利害関係者の不信感を防ぐ」ためにディープフェイクと戦うサービスであると宣伝しているプラ​​ットフォームです。 アリバイ 自分の顔が載っているからといって何かを買う用意があるかどうかはわからないが、最終的にはその技術が普及するだろうということには同意したと述べた。 普及して。

「それは社会を映す鏡だ」と彼は言った。 「これはTwitterプラットフォームのようなテクノロジーでも見られます。 人類の最高の部分と最悪の部分が見えてきます。 ディープフェイク技術も社会を反映するでしょう。 これを気楽な風刺に利用したり、独裁政権をからかう人もいます。 しかし、私たちは混乱を縫合することも試みます。」

ディープフェイクの兵器化

最大の懸念は依然としてディープフェイクの悪用と兵器化の可能性です。 これらがより一般的になるにつれて、大規模な偽情報キャンペーンだけでなく、悪ふざけや高校でのいじめにも使用される可能性さえあります。 テクノロジーが十分にアクセス可能であれば、誰でもそれを使用できます。

Carica と RefaceAI はいずれも、潜在的な悪用を軽減するための措置を講じていると述べました。RefaceAI はディープフェイク検出 Web サービスを、Carica はコンテンツ モデレーターを備えています。 チャン氏によると、Carica 社全体の従業員は現在わずか 9 名であり、コンテンツ管理の職務はトレードオフになっているという。

「これはまさに私たちが自分自身に問いかけた最初の質問でした」と RefaceAI の Mogylnyi 氏は言います。 「私たちは何年もの間、ウクライナの政治スキャンダルという観点からこの問題に取り組んできました。 私たちは、私たちの技術が悪用される可能性があることを理解しています。 Photoshop でさえいじめに使用される可能性があり、実際に使用されてきました。 しかしその一方で、私たちはそれに対する解毒剤も提供しています。 実際にユーザーに性的コンテンツをアプリにアップロードしてもらい、それらのユーザーをすぐに禁止しました。」

Carica は十分に小さいアプリなので、現時点ではこれで作業する必要があります。 しかし全体としては、チャン氏は心配していなかった。

「これはあらゆる新しいテクノロジーで起こります」とチャン氏は言う。 「最初は悪用によって引き起こされますが、その後、誰もが利用できるようになり、人々は通常の目的でそれを使用します。」

編集者のおすすめ

• あなたの近くの学校に警備ロボットがやってくるかもしれない
• Amazon、AIを導入して商品レビューを要約
• Amazon、検索の「一世代に一度」の変革を計画、求人広告で明らかに
• Nvidia の 200 ドルの Jetson Orin Nano ミニコンピューターは、以前のバージョンより 80 倍高速です
• Google Smart Canvas がアプリ間の統合を強化