なぜ神経記号的人工知能が AI なのか 未来の

トレイをイメージしてください。 トレイの上には、立方体、球体など、さまざまな形が並べられています。 形状はさまざまな素材で作られており、さまざまなサイズが表現されています。 おそらく合計 8 つのオブジェクトがあります。 私の質問：「物体を見て、大きな物体と金属の球体は同じ数だけありますか？」

ひっかけ質問ではありません。 あたかもそのように聞こえるという事実は、それが実際にどれほど単純であるかを明確に示しています。 それは未就学児なら簡単に答えられる類の質問です。 しかし、今日の最先端のニューラル ネットワークではそれはほぼ不可能です。 これを変える必要があります。 そしてそれは、私たちが知っている人工知能を再発明することによって実現する必要があります。

それは私の意見ではありません。 それはの意見です デビッド・コックス、MIT-IBMワトソンAIのディレクター。 マサチューセッツ州ケンブリッジの研究室。 コックス氏の前世はハーバード大学の教授で、彼のチームは神経科学から得た洞察を利用して、より優れた脳にヒントを得た機械学習コンピューター システムの構築を支援しました。 IBM での現在の役割では、AI を推進する MIT と IBM の間のユニークなパートナーシップを監督しています。 IBM の Watson AI を含む研究 プラットホーム。 知らない人のために説明すると、ワトソンは AI でした。 ゲームショーのトッププレーヤー2人を破ったことで有名です テレビのクイズ番組で歴史に残る 危険. Watson は主に機械学習システムでもあり、人間が導き出したルールではなく、大量のデータを使用してトレーニングされます。

したがって、コックス氏が世界はAIについて再考する必要があると言うと、 新しい10年に向かう今、それはなんだか奇妙に聞こえる。 結局のところ、2010 年代は間違いなく AI 分野で最も成功した 10 年間でした。 歴史: 毎週のように画期的な出来事が起こり、冷ややかな兆しがない時代。

A.I. 冬 洞察力。 まさにこれが、彼が A.I. を考える理由です。 ただし、変更する必要があります。 そして、その変化に対する彼の提案、現在は「神経象徴的AI」と呼ばれるあいまいな用語は、2020年代が終わりを迎える頃には、私たちがよく知るフレーズの1つになる可能性があります。

シンボリック A.I. の隆盛と衰退

神経象徴的な A.I. 厳密に言えば、これは AI のまったく新しい方法ではありません。 これは、思考マシンを構築するための 2 つの既存のアプローチを組み合わせたものです。 かつては不倶戴天の敵として対立していた者たち。

名前の「象徴的」部分は、人工知能を作成するための最初の主流のアプローチを指します。 1950 年代から 1980 年代にかけて、象徴的な A.I. 至高を支配した。 象徴的なA.I. 研究者によると、知能は内部の象徴的表現を形成することによって周囲の世界を理解する人間の能力に基づいています。 次に、これらの概念を扱うためのルールを作成します。これらのルールは、日常の知識を取り込む方法で形式化できます。

脳がコンピューターに似ている場合、これは、私たちが遭遇するすべての状況は、私たちが実行しているプログラムに依存していることを意味します。 完全に基づいて操作を実行する方法を段階的に説明する内部コンピューター プログラム。 論理。 この場合、象徴的な A.I. 研究者らは、これらと同じルールがあると信じています。 世界の組織を発見し、アルゴリズムの形でコンピューター用に体系化することができるかもしれない 実行する。

シンボリックAI かなり印象的なデモンストレーションが行われました。 たとえば、1964 年にコンピューター科学者のバートラム ラファエルは、SIR と呼ばれるシステムを開発しました。意味情報の検索」 SIR は、実際の知能に似た方法でオブジェクト間の関係を学習できるように見える計算推論システムでした。 たとえば、「ジョンは男の子です。ジョンは男の子です。」と言ったとしましょう。 少年は人間です。 人には両手があります。 「手には指が 5 本あります」と言うと、SIR は「ジョンには指が何本ありますか?」という質問に答えます。 正しい番号は 10 です。

シンボリックAIに基づくコンピュータシステム 1980年代に彼らの権力は最高潮に達しました（そして衰退しました）。 これは、ルールベースのシステムを使用して次のような現実世界の問題を解決しようとする、いわゆる「エキスパート システム」の 10 年でした。 有機化学者が未知の有機分子を特定するのを支援したり、医師が抗生物質の適切な用量を推奨するのを支援したりする 感染症。

これらのエキスパート システムの基礎となるコンセプトはしっかりしていました。 しかし、彼らには問題がありました。 システムは高価で、定期的な更新が必要で、最悪の場合、ルールを組み込むほど実際の精度が低下する可能性がありました。

ニューラル ネットワークの世界

神経象徴的な A.I. の「ニューロ」部分 を指します 深層学習ニューラルネットワーク. ニューラル ネットは、多くの AI を駆動する脳にヒントを得たタイプの計算です。 過去 10 年間に見られた画期的な進歩。 A.I. 車を運転できるの？ ニューラルネット。 A.I. テキストを何十もの異なる言語に翻訳できるのはどれでしょうか? ニューラルネット。 A.I. 家のスマート スピーカーがあなたの声を理解するのに役立つものはどれですか? ニューラルネットは感謝すべきテクノロジーです。

ニューラル ネットワークはシンボリック AI とは動作が異なります。 なぜなら、ルールベースではなくデータドリブンだからです。 象徴的なAIに何かを説明するには システムとは、正しい識別を行うために必要なあらゆる情報をシステムに明示的に提供することを意味します。 例えとして、母親をバス停まで迎えに行くために誰かを派遣する場合を想像してください。ただし、友人が群衆の中から母親を選び出せるような一連のルールを提供して彼女のことを説明する必要があります。 これを行うようにニューラル ネットワークをトレーニングするには、問題のオブジェクトの何千枚もの写真を表示するだけです。 十分に賢くなると、そのオブジェクトを認識できるだけでなく、 独自の同様のオブジェクトを作成できます。 現実世界には決して存在しなかった.

「確かに、ディープラーニングは驚くべき進歩を可能にしました」とデイビッド・コックス氏はデジタルトレンドに語った。 「同時に、壁には懸念すべき亀裂が目立ち始めています。」

これらのいわゆるクラックの 1 つは、まさに今日のニューラル ネットワークを非常に強力にしたもの、つまりデータに依存しています。 人間と同じように、ニューラル ネットワークは例に基づいて学習します。 しかし、人間がオブジェクトを正しく記憶するには、そのオブジェクトのトレーニング例を 1 つまたは 2 つ見るだけで十分かもしれませんが、AI はオブジェクトのトレーニング例を 1 つまたは 2 つ見るだけで済みます。 さらに多くのものが必要になります。 精度は、新しいタスクを学習するために使用できる大量の注釈付きデータの有無に依存します。

燃えている信号機

そのため、統計的にまれな「ブラック スワン」問題が苦手になります。 ブラックスワンイベントを広めたもの ナシム・ニコラス・タレブ、これは統計的にまれな例外的なケースです。 「今日の当社の深層学習ソリューションの多くは、素晴らしいものであると同時に、80 対 20 のようなソリューションです」と Cox 氏は続けました。 「彼らはケースの 80% を正しく判断しますが、特殊なケースが重要な場合は失敗する傾向があります。 「ある場所に本来あるべきではない物体や、ちょっと変わった向きの物体が見えたら、どんなに素晴らしいシステムでも倒れてしまいます。」

IBM に入社する前に、コックスは会社を共同設立しました。 知覚オートマトン、自動運転車用のソフトウェアを開発しました。 チームには Slack チャンネルがあり、データ収集中に偶然見つけた面白い画像を投稿していました。 そのうちの1枚は交差点で撮影されたもので、信号機が燃えている様子が写っていた。 「これは、一生に一度も目にすることのないケースの一つです」とコックス氏は語った。 「Waymo と Tesla が使用しているデータセットに信号機が燃えている画像があるかどうかはわかりません。 彼らのニューラルネットワークを訓練することはできますが、私は賭けてもいいと思います…もし彼らが持っていたとしても、彼らは非常に優れたものしか持っていないでしょう 少し。"

特殊なケースが重要ではないことは、めったに起こらず、実際に起こってもそれほど問題ではないため、別のことです。 悪いレストランを勧められるのは理想的ではないかもしれませんが、それだけで一日が台無しになるほどで​​はないでしょう。 システムが作成した過去 99 件の推奨事項が適切である限り、フラストレーションが発生する本当の原因はありません。 信号機や馬車が燃えているために自動運転車が交差点で適切に反応しないと、一日が台無しになるだけではありません。 それが起こる可能性は低いかもしれませんが、もし起こった場合、システムがそれに対処できるように設計されているかどうかを知りたいと思います。

「これまでに見たことを超えて推論し推定する能力があれば、こうしたシナリオに対処できます」とコックス氏は説明した。 「私たちは人間がそれを行うことができることを知っています。 信号機が燃えているのを見たら、たくさんの知識を得ることができます。 たとえば、光は私に立ち止まるべきか行かなければならないかを教えてくれるわけではないことを私は知っています。 [周りのドライバーが混乱する]ので、注意する必要があることはわかっています。逆方向から来るドライバーは、ライトが点灯している可能性があるため、通常とは異なる行動をしている可能性があることはわかっています。 行くべき場所に行くための行動計画を立てることができます。 このようなセーフティクリティカルかつミッションクリティカルな環境では、ディープラーニングがまだ完全には役に立っていないと私は考えています。 だからこそ、追加のソリューションが必要なのです。」

補完的なアイデア

神経象徴的な A.I. のアイデア これらのアプローチを統合して、学習とロジックの両方を組み合わせることが重要です。 ニューラル ネットワークは、シンボリック AI の作成に役立ちます。 人間のプログラマーに頼るのではなく、世界をシンボルに分割することでシステムをよりスマートにします。 一方、象徴的なA.I. アルゴリズムは、常識的な推論とドメイン知識を深層学習に組み込むのに役立ちます。 その結果は、AI の大幅な進歩につながる可能性があります。 自動運転車から自然言語処理まであらゆるものに関連する複雑なタスクに取り組むシステム。 しかも、トレーニングに必要なデータははるかに少なくなります。

「ニューラル ネットワークと象徴的なアイデアは、本当に素晴らしく相互補完的です」とコックス氏は言います。 「ニューラル ネットワークは、現実世界の混乱から世界の象徴的な表現に到達し、画像内のすべての相関関係を見つけるための答えを提供してくれるからです。 その象徴的な表現を取得したら、推論という点でかなり魔法のようなことができるようになります。」

たとえば、この記事の冒頭で取り上げた形状の例では、神経記号システムはニューラル ネットワークのパターン認識機能を使用してオブジェクトを識別します。 その場合は、記号的な AI に依存することになります。 論理と意味論的推論を適用して、新しい関係を明らかにします。 このようなシステムには、 効果的に機能することがすでに証明されている.

これが役立つのは特殊なケースだけではありません。 AI の重要性がますます高まっています。 システムは必要に応じて説明可能です。 ニューラル ネットワークは特定のタスクを非常にうまく実行できますが、その内部推論の多くは「ブラックボックス化」されており、ニューラル ネットワークがどのように決定を下したのかを知りたい人にとってはわかりにくくなっています。 繰り返しになりますが、Spotify で間違った曲を推奨するボットの場合、これはあまり重要ではありません。 しかし、銀行融資を拒否されたり、求職活動を拒否されたり、交通事故で誰かが怪我をしたりした場合は、 自動運転車に関係する事故の場合、特定の推奨事項がなぜ推奨されたのか説明できるほうがよいでしょう。 作った。 そこに神経象徴的な AI が登場します。 入ってくるかもしれない。

A.I. 研究：次世代

数十年前、シンボリック AI の世界は、 そしてニューラルネットワークは互いに対立していた。 このアプローチを擁護した著名な人物たちは、自分たちのアプローチが正しいと信じただけではありません。 彼らは、これは他のアプローチが間違っていることを意味すると信じていました。 彼らがそうすることが必ずしも間違っていたわけではありません。 同じ問題の解決に競い合い、回せる資金も限られているため、両校の AI は同じ問題を解決しようと競い合っています。 基本的に互いに対立しているように見えました。 今日では、その逆が真実であることが判明する可能性があるようです。

「若い世代を見るのは本当に興味深い」とコックス氏は語った。 「（私のチームのメンバーの多くは）比較的若い人たちです。新鮮で、興奮していて、博士号を取得したばかりです。 彼らにはそのような歴史がまったくありません。 彼らは（2 つのアプローチが対立していることを）まったく気にしません。そして、気にしないということは、心を開いて偏見を取り除くので、本当に強力です。 彼らは喜んで交差点を探索します…彼らはただ AI を使って何かクールなことをしたいだけなのです。」

すべてが計画通りに進めば、私たち全員がその結果から恩恵を受けることになります。

編集者のおすすめ

• アナログAI？ クレイジーに聞こえるかもしれないが、それは未来かもしれない
• 不気味に美しい AI の「合成聖典」を読んでください。 それは神だと思っている
• アルゴリズム アーキテクチャ: AI を使用させるべきか 私たちのために建物を設計してくれるでしょうか？
• 言語スーパーモデル: GPT-3 がどのようにして静かに A.I. の到来をもたらしているのか 革命
• バイトを持つ女性たち: AI を使って「人間の厄介な問題」を解決するヴィヴィアン・ミンの計画