あの亀は銃だ！ 科学者が画像認識の重大な欠陥を指摘

彼らの論文では、MITの研究者チームは、画像分類アルゴリズムをだますことができる程度にオブジェクトのテクスチャを変更するアルゴリズムについて説明しています。 研究チームが「敵対的な例」と呼ぶものの証拠は、画像認識システムにとって不可解であることが判明した。 オブジェクトがどの角度から見られるかに関係なく、一貫して次のように識別される 3D プリントされたカメなど ライフル。 これは、AI を使用するセキュリティ システムにとって悪いニュースです。 潜在的なセキュリティ脅威を発見します。

「実際、彼らは正しい分類を避けているだけではなく、選ばれた敵対者として分類されているのです」 研究者のアニッシュ・アタリエ氏はDigitalに語った。 トレンド。 「ライフルとエスプレッソのクラスは均一にランダムに選択されました。 敵対的な例は、研究論文で紹介されている Expectation Over Transformation (EOT) と呼ばれるアルゴリズムを使用して生成されました。 このアルゴリズムは、カメなどのテクスチャ付き 3D モデルを取り込み、微妙に変更する方法を見つけます。 特定のニューラル ネットワークを混乱させて、タートルが任意の選択されたターゲットであると認識させるようなテクスチャ クラス。"

しかし、3Dプリントされたカメがライフルとして認識されるのは面白いかもしれないが、その意味は非常に恐ろしいものであると研究者らは指摘している。 たとえば、AI を使用して銃や爆弾に警告を発するセキュリティ システムが、それらがトマトやコーヒー カップであるか、あるいはまったく見えないものであるかのように騙される可能性があることを想像してください。 また、自動運転車が高速走行時に周囲の世界を認識するために利用する画像認識システムの脆弱性も浮き彫りになっている。

「私たちの研究は、敵対的な例がこれまで多くの人が考えていたよりも大きな問題であることを示しており、敵対的な例は、 ニューラルネットワーク 物理世界では本当に懸念されています」とアタリエ氏は続けた。 「この問題は単なる知的好奇心の問題ではありません。深層学習を使用する実用的なシステムを攻撃から守るために解決する必要がある問題です。」

編集者のおすすめ

• フォードはあなたの声を使って車の車輪を盗難から守ることができます
• バイオプリンティングの画期的な進歩により、代替臓器の3Dプリンティングが可能になる可能性がある
• 「追跡不可能な」3Dプリント銃を追跡する方法がついに登場

ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。