それをスカイネット仮説、汎用人工知能、あるいはシンギュラリティの到来などと呼んできましたが、AI の専門家や研究者たちは何年もの間、 非専門家も同様に、人工知能がいつかより賢くなるかもしれないという考えを不安に思っている（そして、少数のグループにとっては祝っている）。 人間よりも。
理論によれば、AI の進歩、特に新しいものに取り組むことができる機械学習タイプの進歩は、 情報を取得し、それに応じてコードを書き換えます。最終的には、生物学的ソフトウェアのウェットウェアに追いつくでしょう。 脳。 この出来事の解釈において、あらゆる AI は、 危険-受賞したIBMマシンを 大規模 AI 言語モデル GPT-3 人類は存亡の脅威に一歩近づきつつあります。 私たちは文字通り、 もうすぐ生まれてくる後継者たち.
おすすめ動画
それは決して起こらないことを除いて。 少なくとも、この新しい本の著者らによれば、 なぜ機械は世界を支配できないのか: 恐れのない人工知能.
共著者 バッファロー大学哲学教授 バリー・スミス そして ヨブスト・ランドグレーブ、ドイツのAI企業コグノテクトの創設者は、人類の知性が「不死身の独裁者」に近い将来、あるいは今後も追い抜かれることはないと主張している。 彼らは言いました デジタルトレンド 彼らの理由。
デジタル トレンド (DT): このテーマはどのようにして注目されましたか?
ジョブスト ラングレーブ (JL): 私は訓練を受けた医師であり生化学者です。 私はキャリアをスタートしたとき、大量のデータを生成する実験を行いました。 私はこれらのデータを解釈できるように数学を勉強し始め、数学を使って生物学的システムをモデル化することがいかに難しいかを知りました。 数学的手法と生物学的データの間には常に不適合性がありました。
30代半ばで、私は学界を辞め、人工知能ソフトウェアシステムに携わるビジネスコンサルタントおよび起業家になりました。 私は人間ができることを模倣する AI システムを構築しようとしていました。 私は、生物学の分野で何年も前に抱えていたのと同じ問題に直面していることに気づきました。
顧客は私に、「チャットボットを構築してみませんか?」と言いました。私は「チャットボットは機能しないからです」と答えました。 このタイプのシステムを適切にモデル化することはできません。』それが最終的にこの本を書くきっかけになりました。
バリー・スミス教授 (理学士): とても興味深い問題だと思いました。 私はすでに AI に関する同様の問題を薄々感じていましたが、それについて深く考えたことはありませんでした。 当初、私たちは「」という論文を書きました。人工知能を再び意味のあるものに（これはトランプ時代のことです。）それは、なぜニューラル ネットワークが言語モデリングに失敗するのかについてでした。 そこで私たちは、この論文を拡張して、この主題をより深く探究する本を出版することにしました。
DT: あなたの本では、現代の深層学習にとって重要なニューラル ネットワークが人間の脳をエミュレートする方法について懐疑的です。 これらは生物学的な脳の仕組みの正確なモデルではなく、近似値です。 しかし、もし私たちが脳を詳細に理解できたとしたら、その可能性があるという中心的な前提を受け入れますか? 十分な詳細があれば、それは人工的に複製される可能性があり、これにより知性や 感覚？
JL: 「ニューラル ネットワーク」という名前は完全な誤称です。 私たちが現在持っているニューラルネットワークは、たとえ最も洗練されたものであっても、脳の働きとは何の関係もありません。 ニューラル ネットワークが構築される方法において、脳は相互接続されたノードのセットであるという見方はまったく素朴です。
最も原始的な細菌の細胞を見ても、それがどのように機能するのかさえまだ理解できません。 私たちはその側面のいくつかを理解していますが、それがどのように機能するのかについてのモデルはありません。はるかに複雑なニューロンや相互接続された数十億のニューロンは言うまでもなくです。 科学的にそうなってると思うよ 不可能 脳がどのように機能するかを理解するために。 私たちは特定の側面を理解し、それらの側面に対処することしかできません。 私たちは脳がどのように機能するかを完全には理解していませんし、今後も理解することはできません。
脳の各分子がどのように機能するかを完全に理解していれば、おそらくそれを再現できるでしょう。 それはすべてを数式に当てはめることを意味します。 次に、コンピュータを使用してこれを再現できます。 問題は、それらの方程式を書き留めて作成することができないことです。
BS: 世界で最も興味深い出来事の多くは、私たちが近づくことのできない粒度のレベルで起こっています。 私たちは脳の非常に細かいレベルで起こっていることのほとんどを捉えるための画像装置を持っていないだけであり、おそらく今後も画像装置を手に入れることはないだろう。
これは、たとえば、何が意識の役割を担っているのかがわからないことを意味します。 実際、一連の非常に興味深い哲学的問題が存在しますが、私たちが従う方法によれば、それらは常に解決不可能であるため、無視する必要があります。
もう一つは、意志の自由です。 私たちは人間には意志があるという考えに非常に賛成です。 私たちは意図や目標などを持つことができます。 しかし、それが自由意志であるかどうかはわかりません。 それは脳の物理学に関係する問題です。 私たちが入手できる証拠に関する限り、コンピューターは意志を持つことができません。
DT: この本の副題は「恐怖のない人工知能」ですが、あなたが言及している恐怖とは具体的に何ですか?
BS: それは、あなたもよくご存じだと思いますが、特異点に関する文献によって引き起こされました。 ニック・ボストロム、デビッド・チャーマーズ、イーロン・マスクなど。 現実世界の同僚と話したとき、実際に存在することが明らかになりました。 AI が最終的に乗っ取り、世界を不利益に変えるようになるのではないかという、国民の間にある種の恐怖 人間。
この本にはボストルム型の議論についてかなり多くのことが書かれています。 彼らに対する主な議論は、機械が意志を持つことができないのであれば、邪悪な意志を持つこともできないということである。 邪悪な意志がなければ、何も恐れることはありません。 もちろん、銃を恐れるのと同じように、私たちは依然として機械を恐れる可能性があります。
しかしそれは、その機械が邪悪な目的を持つ人々によって管理されているからです。 しかし、悪いのは AI ではありません。 AIを構築しプログラムするのは人々です
DT: シンギュラリティや汎用人工知能という概念が、なぜ人々にこれほど関心を持たれるのでしょうか? 怖がっているのか、魅了されているのかは別として、このアイデアには幅広いレベルで人々の共感を呼ぶ何かがあります。
JL: 19世紀初頭に始まり、その世紀末にニーチェによって宣言された、神は死んだという考えがあります。 私たちの社会のエリートたちはもうクリスチャンではないので、彼らに代わる者が必要でした。 カール・マルクスと同じくヘーゲルの弟子だったマックス・シュティルナーは、このことについて本を書き、「私は私自身の神である」と述べました。
あなたが神であるなら、あなたも創造者になりたいと思っています。 もし超知性を創造できたら、あなたは神のようなものです。 それは私たちの文化における極度のナルシスト傾向に関係していると思います。 この本ではこれについては触れていませんが、頼るべき超越的な存在がもう存在しない現代において、なぜこのアイデアが非常に魅力的なのかが説明されています。
DT: 興味深いですね。 つまり、AI の作成、または AI を作成する目的は、ナルシスト的な行為であるという考えです。 その場合、これらの創造物がどういうわけか私たちよりも強力になるという概念は、それに対する悪夢のような展開です。 子が親を殺すのです。
JL: ちょっとそれっぽいですね、はい。
DT: もし誰もがあなたの主張に納得したら、あなたの本の最終的な成果は何になると思いますか? それはAI開発の将来にとって何を意味するのでしょうか?
JL: とても良い質問ですね。 私は何が起こると思うか、そして実際に起こることを正確に言うことができます。 中期には人々が私たちの主張を受け入れてくれると思います、そしてそれによってより応用可能な数学が生み出されるでしょう。
すべての偉大な数学者や物理学者が完全に認識しているのは、数学的に達成できることには限界があるということです。 彼らはこのことを認識しているため、特定の問題だけに焦点を当てます。 限界をよく知っているなら、世界中を歩き回って問題を探し、解決するでしょう。 アインシュタインはこのようにしてブラウン運動の方程式を見つけました。 彼はどのようにして相対性理論を思いついたのか。 プランクがどのように黒体放射を解決し、物質の量子論を開始したか。 彼らは、どの問題が数学で解決できるか、どの問題がそうでないかを直感的に判断していました。
もし人々が私たちの本のメッセージを学べば、より良いシステムを設計できるようになるだろうと私たちは信じています。 本当に実現可能なことに集中し、実現不可能なことにお金と労力を浪費するのをやめます。 達成。
BS: 私たちの発言のせいではなく、メッセージの一部はすでに伝わっていると思います。 AI プロジェクトに多額の資金を提供し、その後 AI プロジェクトが失敗したときに人々が経験するものです。 共同人工知能センターについてはご存知かと思います。 正確な金額は覚えていませんが、有名な請負業者に渡したのは 100 億ドルくらいだったと思います。 結局、彼らはそこから何も得ることができなかった。 彼らは契約をキャンセルした。
（編集者注：アメリカ軍の一部門である JAIC は、「任務への影響を達成するための AI の導入と導入」を加速することを目的としていました） 規模的に。」 今年6月には、最高デジタル・人工知能責任者というより大きな統合組織となり、他の2つのオフィスが設置された。 JAICは独立した組織として消滅しました。）
DT: この本の中であなたが述べている最も説得力のある議論は、大まかに言えば何だと思いますか?
BS: すべての AI システムは本質的に数学的です。 私たちは意識、意志、知性を数学的にモデル化できないため、これらを機械を使用してエミュレートすることはできません。 したがって、機械はインテリジェントになることはなく、ましてや超インテリジェントになることはありません。
JL: 私たちの脳の構造では、限られた自然モデルしか許可されていません。 物理学では、数学的モデリング能力に適合する現実のサブセットを選択します。 ニュートン、マクスウェル、アインシュタイン、シュレディンガーはこのようにして有名で美しいモデルを入手しました。 しかし、これらは少数のシステムを記述または予測することしかできません。 当社の最良のモデルは、テクノロジーを設計するために使用されるモデルです。 私たちは生き物の性質の完全な数学モデルを作成することはできません。
このインタビューは長さと明瞭さのために編集されています。
編集者のおすすめ
- トップクラスの著者がAI企業に作品の使用料を要求
- Bing Chat が職場での AI 禁止に反撃
- Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
- イーロン・マスク氏の新しいAI企業は「宇宙を理解する」ことを目指す
- ChatGPT の記録的な成長は、新しいバイラル アプリによって奪われたばかりです
