Nvidia は AI 開発者向けに新しい NeMo Guardrails ツールを導入しており、AI チャットボットを次のようなものにすることを約束しています。 チャットGPT 狂気が少し減りました。 このオープンソース ソフトウェアは開発者が現在利用可能であり、AI チャットボットをより便利にし、不安を軽減する 3 つの領域に焦点を当てています。
このツールは、ユーザーとユーザーが対話する大規模言語モデル (LLM) の間に位置します。 これはチャットボットにとって安全であり、言語モデルに到達する前に応答を傍受して、モデルの応答を停止するか、応答方法に関する具体的な指示を与えます。
Nvidia によれば、NeMo Guardrails は話題、安全、セキュリティの境界に焦点を当てているという。 トピックに焦点を当てると、LLM が特定の範囲の応答にとどまるようになるため、最も有用であると思われます。 Nvidia は、同社の HR データベースでトレーニングされたチャットボットを示して、Guardrails をデモしました。 Nvidia の財務について質問すると、NeMo Guardrails でプログラムされた定型応答が返されました。
関連している
- トップクラスの著者がAI企業に作品の使用料を要求
- GPT-4: ChatGPT 顔負けの AI チャットボットの使い方
- Nvidia は物議を醸している新しい GPU についてあなたに知られたくない
AI チャットボットからいわゆる幻覚が数多く見られるため、これは重要です。 MicrosoftのBingチャット、 例えば、 いくつかの奇妙なものを私たちに提供してくれました 最初のデモでは事実上間違った応答があった。 LLM が理解できない質問に直面すると、多くの場合、LLM は質問に答えようとして応答をでっちあげます。 NeMo Guardrails は、こうしたでっちあげの反応を阻止することを目的としています。
おすすめ動画
安全性とセキュリティの原則は、LLM からの不要な応答をフィルタリングして、ユーザーによる悪用を防ぐことに重点を置いています。 すでに見たように、次のことができます。 脱獄ChatGPT およびその他の AI チャットボット。 NeMo ガードレールはこれらのクエリを受け取り、LLM に到達することをブロックします。
NeMo ガードレールは、チャットボットを話題に沿って正確に保つために構築されていますが、万能のソリューションではありません。 Nvidiaは、これが第2の防御線として最も効果的であり、チャットボットを開発および導入する企業は依然として一連の安全策に基づいてモデルをトレーニングする必要があると述べている。
開発者は、アプリケーションに合わせてツールをカスタマイズする必要もあります。 これにより、NeoMo Guardrails は、AI チャットボットがユーザーと対話する方法のフレームワークをすでに提供している LangChain など、AI モデルがすでに使用しているミドルウェアの上に位置することができます。
オープンソースであることに加えて、Nvidia は NeMo ガードレールもサービスの一部として提供しています。 AI基盤サービス. このパッケージは、独自のモデルをトレーニングして維持するための時間やリソースがない企業向けに、いくつかの事前トレーニングされたモデルとフレームワークを提供します。
編集者のおすすめ
- GPT-4 が時間の経過とともに愚かになる可能性があると人々が考える理由は次のとおりです
- ChatGPT: 最新のニュース、論争、知っておくべきヒント
- ChatGPT の DAN プロンプトとは何ですか?
- Wix は ChatGPT を使用して、ウェブサイト全体を迅速に構築するのに役立ちます
- Google Bard は話せるようになりましたが、ChatGPT をかき消すことができるでしょうか?
ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。
