技術リーダーが GPT-4.5、GPT-5 の開発一時停止を呼びかけ

生成 AI はここ数カ月間、信じられないほどのスピードで進歩しており、次のようなさまざまなツールやボットが登場しています。 OpenAIのChatGPT, グーグル吟遊詩人、 もっと。 しかし、この急速な発展は、AI 分野のベテランの間で深刻な懸念を引き起こしています。 そのうちの1,000人以上が、AI開発者にこの問題を非難するよう求める公開書簡に署名している。 ブレーキ。

書簡はウェブサイトに掲載された 未来の生命研究所は、「生活に利益をもたらし、極度に大規模なリスクを回避する方向に革新的なテクノロジーを導く」ことを使命としている組織です。 間で 署名者には、Apple共同創設者のスティーブ・ウォズニアック氏、TwitterのCEOイーロン・マスク氏、政治家のアンドリュー氏など、著名な学者やテクノロジー界のリーダーが名を連ねている。 ヤン。

この記事では、すべての企業が AI モデルよりも強力な AI モデルに取り組むよう呼びかけています。 最近リリースされたGPT-4 少なくとも6か月間は直ちに仕事を中止すること。 この一時停止は「公開され、検証可能」であるべきであり、「共有の一連の機能を共同で開発および実装する」ための時間が与えられるでしょう。 高度な AI の設計と開発のための安全プロトコル。独立した外部機関によって厳格に監査および監督されています。 専門家。"

書簡には、「人間と競争する知性を備えた AI システムは社会と人類に重大なリスクをもたらす可能性がある」ため、これが必要であると述べられている。 それらの リスクには、プロパガンダの蔓延、雇用の破壊、人命の代替と陳腐化の可能性、および「制御の喪失」が含まれます。 私たちの文明の。」 著者らは、この未来に突き進むかどうかの決定を「選ばれなかった技術者」に任せるべきではないと付け加えた。 指導者たちよ。」

AIは「すべての人の明らかな利益のために」

この手紙は、ChatGPT を支える技術の次期バージョンである GPT-5 が主張された直後に送られてきました。

さらに、この書簡は、「ここ数カ月でAIの普及が進んでいるにもかかわらず、AIシステムの開発に関する責任ある計画と管理が行われていない」と主張している。 研究室は、誰も、その作成者さえも理解、予測、または確実に理解できない、これまで以上に強力なデジタルマインドを開発および導入する制御不能な競争に閉じ込められています。 コントロール。"

代わりに、この書簡は、AIの開発を規制し、人々がAIによって作成されたものとAIによって作成されたものを区別できるようにする新しいガバナンスシステムを構築する必要があると主張しています。 人間が作成したコンテンツ、それが引き起こすあらゆる害に対してOpenAIのようなAI研究所に責任を負わせ、社会がAIの破壊（特に民主主義に対する）に対処できるようにする。 もっと。

著者らは最後に肯定的な言葉で締めくくっており、「人類はAIによって繁栄する未来を享受でき、その恩恵を享受できる。 すべての人々に明らかな利益をもたらすためにこれらのシステムを設計し、社会に適応する機会を与えてください。」 AI システムで一時停止を押すとさらに強力になります よりも GPT-4 こうしたことが起こることを許してしまうだろう、と彼らは述べている。

手紙は意図した効果を発揮するでしょうか？ それは言いにくいです。 OpenAI には、財務面でも評判の面でも、先進的なモデルに取り組み続けるインセンティブがあることは明らかです。 しかし、潜在的なリスクが非常に多く、しかもそれがほとんど理解されていない中で、この手紙の著者らは明らかに、こうしたインセンティブを追求するには危険すぎると感じている。

編集者のおすすめ

• Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
• ChatGPT Webサイトのトラフィックが初めて減少
• 81% が ChatGPT はセキュリティ リスクであると考えていることが調査で判明
• ChatGPT にボード ゲームを教えてもらいましたが、もう戻ることはできません
• ニューヨークの弁護士、法的準備書面で偽のChatGPT訴訟を使用したとして罰金刑

ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。