Facebook が AI を構築 意図的に物を忘れるもの

「こんにちは、ハルさん。 ハルさん、読んでますか?」 宇宙飛行士のデイブ・ボウマンは、感情を必死に抑えようとしながら言った。

コンテンツ

  • 忘れることについて考えるときに私たちが考えること
  • 物忘れをAIに組み込む

沈黙があったが、感情のない単調な調子でコンピュータが応答した。 「承知しました、デイブ。 読みましたよ。」

おすすめ動画

「ポッドベイのドアを開けてください、HAL。」

また長い休憩。 HALは全能のAIでした。 をコントロールしたのは ディスカバリーワン 宇宙船、本当に彼を無視していますか? 確かに不可能だ、とボーマンは思った。 今にも、HAL が行動を起こし、従うでしょう -

「ごめんなさい、デイブ」とHALは続けた。 「残念ながらそれはできません。」

"どうしたの?" デイブは尋ねた。

「そうですね、デイブ。 開け方を忘れてしまいました。」

OK、それは正確には物事が進んだ方法ではありません 2001年宇宙の旅、しかし、ジョークは基本的に自分自身を書きます。 結局のところ、人工知能に関して言えば、優れた記憶力は、研究者が自分たちのシステムに組み込むことに熱心な前提条件の 1 つであるようです。 AIなんて誰も望んでいないよ それは、物事を忘れてしまうような、日常的で目立たない知性を模倣しています。 では、なぜそうなるのかというと、 フェイスブック 忘れっぽいAIを構築する? そしてなぜ、ウェイターと客のスープの中のハエについての古いジョークのように、私たちはすぐにそれを欲しがるようになるのでしょうか?

忘れることについて考えるときに私たちが考えること

結局のところ、答えは次のとおりです。 する もっと日常的な、あちこちのことを忘れてしまう、目立たない知性のようなものが欲しいのです。 人間は、記念日や財布、旅行に行く前にガレージを閉めるなど、重要なことを忘れてしまいます。 それは次善の忘れです。 しかし、私たちは情報を保持する必要がないため、情報の一部を忘れてしまい、まるで塊のように止まってしまいます。 短期から長期に移行する前に、シンクの排水溝の食物キャッチャーに捕らえられたデトリタス メモリ。

フェイスブックAI

有名な実験、人々は、間違ったペニーを示した写真のコレクションから米国のペニーを正しく認識するように求められました。 参加者はおそらく毎日 1 セント硬貨を見て使用していたと思われますが、その作業が驚くほど苦手であることが判明しました。 研究者らは次のように書いている。「全体として、結果は、物体の視覚的な詳細は、 非常によく知られたオブジェクトであっても、通常は日常的に役立つ範囲でしか記憶から利用できません。 人生。"

脳がハードドライブストレージのようにいっぱいになる可能性があると言うほど単純ではありませんが、短期的な問題は確かにあります。 必要がなくなると朽ちていくように見える記憶もあれば、私たちの脳に潜んでそこに生き続ける記憶もあります。 レンタル無料。 例? この前の休暇にクリスマスの飾りをどこに片付けたかを思い出してください。 次に、最後に泊まったホテル、つまり二度と泊まる可能性が低いホテルのフロントデスクから自分の部屋まで心の中で歩いてみましょう。 どちらの情報もあなたの健康にとって極めて重要ではありません。 それにもかかわらず、ある情報は必要であり、もう一方は必要ではありません。 どういうわけか、あなたの脳はどれをゴミ箱に捨てるべきかを知っています。

これが Facebook の新しい AI の背後にあるアイデアです。 Expire-Span と呼ばれるプロジェクト。 として 人工知能 モデルは記事や書籍などの長い形式のデータセットに適用されることが増えていますが、これらのモデルに関連する計算コストは​​、より多くの情報を記憶しようとするにつれて増加します。 人々が自分たちの生活に関する豊富なマルチメディア データをますます収集するにつれて、この問題はさらに差し迫ったものになっています。

「脳は非常に複雑なシステムですが完全には理解されていません。人間の記憶を形成する記憶にはさまざまな種類があります。」

「保有するコンテンツの量が増加するにつれて、大きな問題はストレージです。」 アンジェラ・ファンFacebook AI Research Parisの研究員はDigital Trendsに語った。 「たとえば、携帯電話のメモリ容量には限界があります。 これは、ウェアラブルやその他のオンデバイス タイプのアプリケーションではさらに大きな問題であり、プライバシー上の理由から問題が生じる可能性があります。 人々はコンテンツをサーバーやクラウドではなく自分のデバイスに保存することを厳密に望んでおり、ストレージを重視している 挑戦します。」

現在のA.I. モデルたちは記憶に対してフランク・シナトラのようなアプローチをとっています。つまり、すべてを覚えているか、まったく覚えていないということです。 各タイムステップで作成されたすべての情報を保存するか、または所定の時間が経過するとすべてを忘れてしまいます。 サインバヤル・スフバートル、別の Facebook A.I. 研究科学者は、それを、先週起こったすべてのことを完全に覚えているが、それ以上のことはまったく覚えていないことに例えています。

物忘れをAIに組み込む

研究者たちは、AI に「忘却」を組み込んでいます。 以前のモデル。 長短期記憶 たとえば、(LSTM) モデルは、機械学習を推進するコア テクノロジーの 1 つであるリカレント ニューラル ネットワーク (RNN) に忘却メカニズムを追加しました。 「RNN は 1 つのベクトルで構成される内部メモリを持っているため、それを忘れることは新しい情報で上書きされることを意味します」と Sukhbaatar 氏は Digital Trends に語った。

対照的に、Expire-Span は、数千のベクトルを含むことができる外部メモリに忘却メカニズムを追加します。 新しい情報が観察されますが、Expire-Span (その名前は牛乳のボトルにある賞味期限ラベルの種類を思い出させます) には、その情報がメモリに保持される期間を決定する機能があります。 情報が将来にとって重要ではないとみなされる場合、その情報は段階的に公開される可能性があります。 最終的にAIから根絶される前に、崩壊します。 モデルのメモリを増やして、より有用な領域を確保する 情報。

これを行うには、モデルは特定のデータに何が関連し、何が関連していないかを予測できる必要があります。 正しい有効期限を割り当てる前に、タスクを実行してください。有効期限を過ぎると、情報は A.I. から消去されます。 システム。 無関係な情報をダンプすることで、Facebook の A.I. より大規模な情報を処理できるようになります。

フェイスブックAI

Facebook の人工知能研究の多くと同様、ソーシャル ネットワーキングの巨人は、近い将来に Expire-Span が自社の中核製品に組み込まれるとは発表していません。 しかし、Facebook が扱うユーザー データはますます増えているため (言うまでもなく、 スマートグラスへの移行の噂)、このテクノロジーがどのように応用できるかを理解するのは難しくありません。 将来のAIが ツールは大量のデータを処理しているにもかかわらず、高いパフォーマンス レベルで実行できますが、その理由は Expire-Span である可能性があります。

忘れっぽいAIを作ることができると誤解しないでください。 これは、AI の実現に向けた新たな一歩を示しています。 ただし、より人間的です。 人間が物を忘れてしまう正確な理由については、研究者らによる多くの研究が未だに行われている。 現代の AI を支配する脳からインスピレーションを得たニューラル ネットワークと同様、Facebook の物忘れアルゴリズムは物忘れの理論に基づいてモデル化されています。 生体忠実度を保ってそれを再現しようとするものではありません。

「脳は非常に複雑なシステムですが完全には理解されていません。人間の記憶を形成する記憶にはさまざまな種類があります」とスフバータル氏は語った。 「有効期限は、他のすべての AI と同様に、 メカニズム、かもしれない インスパイヤされた 人間の脳によるものですが、最終的には脳が実際にどのように機能するかを忠実に反映しているわけではありません。 特に記憶は、それ自体非常に活発な研究分野です。 私たちが説明する人間の記憶のたとえは、明確にするためにのみ追加されていますが、間違いなく私たちの研究にインスピレーションを与えています。」

そしてそれを忘れないでください!

編集者のおすすめ

  • Facebook の新しい画像認識 AI 10億枚のInstagram写真を使ってトレーニングされています
  • Facebookの新しいAI 画像認識をまったく新しいレベルに引き上げます
  • どのようにA.I. まだ存在すらしていないマルウェアを撃退できる