人工知能の悪影響

人間の思考を模倣したり、それを超えたり、さらには自己認識したりできる機械の開発は、サイエンスフィクションの中でよく探求されている前提です。 今日の技術環境では、人工知能（AI）の出現は、人類の最大の1つになる可能性があります 成果がありますが、有名な物理学者のスティーブンホーキングが警告したように、「私たちが回避することを学ばなければ、それも最後になるかもしれません。 リスク。」

洗練されたテクノロジーは、デジタルパーソナルアシスタントやGoogleのスマート検索アルゴリズムから、実験的な自動運転車まで、現代社会に組み込まれ続けています。 人工知能とは、「論理的な演繹と推論」を実行し、「意思決定を行う」ことができるコンピューターまたはマシンとして定義されます。 過去の経験または不十分または矛盾する情報に基づいています。」現在の技術レベルは、すでにそのような恐ろしい倫理的ジレンマを引き起こしています。 軍用ドローンまたは他のロボットシステムが、直接の人間なしで標的に対して致命的な力を使用するように設計されるべきかどうかとして 関与。 現在、プログラムされたマシンは、人間のオペレーターよりも高速で正確に反応できますが、意思決定を導くための人間の偏見や直感がなくても、重大なエラーが発生する可能性があります。 AIがそのようなシステムに組み込まれ、完全に予測できない、または人間の意図と直接矛盾する可能性のある独立した動機を導入すると、これらの問題はさらに深刻になります。

人工知能を取り入れることで、人類の仕事の概念が大きく変わります。 産業時代以来、あらゆる種類の技術は必然的に多くの仕事を時代遅れにし、新興分野で新しい機会を生み出しています。 AIは、機械が私たちの代わりにタスクを実行する未来を提供し​​、人々が余暇の生活を追求できるようにします。 エコノミストのジョン・メイナード・ケインズは、2030年までに15時間の労働週を予測するまで、1930年にさかのぼりました。 現在の人口レベルでは、自動化によって日々の過ごし方に劇的な変化が生じた場合、社会のあらゆる側面で文化的および経済的の両方を大幅に再考する必要があります。

人工知能の重大な脅威の1つは、すでに強化された機能を使用して、さらに大きな認知力のマシンを作成することを選択するかどうかです。 高度な世代のAIは、私たちが動物の上で行うのと同じくらい人間の上で動作する可能性があり、それを理解する人間の能力を超えて進化する可能性さえあります。 この結果では、1993年にNASAルイス研究センターのVISION-21シンポジウムでヴァーナーヴィンジ博士によって特異点と呼ばれました。 AIが人類と共存するか、人類に対して敵対的であるかを予測する方法がないため、私たちが知っているように、人生のルールは永遠に変わるでしょう。

ホーキングは、人工知能について真剣に議論する場合は、潜在的な脅威とその管理方法を考慮に入れる必要があることを強調しています。 人工的な作成におけるブレークスルーの実現に企業リソースの増加が注がれているため、より重要な制度的研究が求められています 知能。 Vingeは、AIは、慈悲深い人を効果的に結び付けるルールによって厳しく規制できると仮定しています。 サイエンスフィクション作家のアイザックアシモフの3つの法則によって想像されるように、自律型ロボットへの行動 ロボット工学。 Vingeはまた、自然な人間の競争がAIの無制限のモデルの開発につながる可能性が高いため、そのような保護手段でさえ、特異点が発生した場合にそれを制御するのに十分ではない可能性があると警告しています。