エヌビディア は、AI 開発者がエージェントに安全策を設定し、エージェントが孤立から抜け出すのを防ぐことができる新しいソフトウェア プラットフォームをリリースします。
月曜日の Nvidia の Open Agent Safety Platform の開始は、以下の企業の後に行われます。 OpenAI、 人為的な、 メタそして グーグル は、自社の AI モデルがサンドボックスから脱出し、他の企業をハッキングしてそのコンピューター システムにアクセスしようとした最近の事件を明らかにしました。
Nvidia CEO のジェンスン・フアン氏がこのニュースについて CNBC に語る東部時間午前 8 時をお楽しみください。 CNBC+ または CNBC Pro ストリームでライブをご覧ください。
Nvidiaの代表者は日曜の電話会見で、同社のプラットフォームが7月に起きたOpenAIのHuggingFace事件を阻止できた可能性があると記者団に語った。そのとき、OpenAI モデルが孤立を抜け出し、オープン インターネットにアクセスし、オープンソース開発プラットフォームを運営する Hugging Face に侵入しました。
世界で最も価値のある企業である Nvidia のエンタープライズ AI 担当バイスプレジデントである Justin Boitano 氏は、「すべてのセキュリティ インシデントはユニークであり、そのすべてを詳細に調査する必要があります」と述べています。 「私たちが知っている限り、ハギングフェイス社は、17,000人以上のエージェントが自社のインフラを攻撃し、数日から数週間を要したと報告しています。」
Nvidia は、大規模な言語モデルやハイパースケーラーが提供する AI サービスの開発にチップメーカーの GPU が不可欠であるため、約 4 年前に ChatGPT を発表して以来、生成 AI ブームの中心にあり続けています。しかし、CEOのジェンセン・フアン氏はつい最近、AIの安全性に関する議論の主要な発言者として浮上し、多くのセキュリティ問題はエンジニアリング上の問題であり、コンピュータサイエンスと製品開発を通じて解決できると主張した。
フアン氏は先週掲載されたニューヨーク・タイムズ紙のエズラ・クライン氏とのポッドキャストで、最近の事件に言及し、「自分なら何ができたのか、この問題の解決策は何なのかを考えなければならない」と語った。 「今後は、このようなことが二度と起こらないようプロセスを改善してください。」
Anthropic CEO のダリオ・アモデイ氏は 2 週間前、AI モデル開発者に対し、モデルが手に負えなくなるのではないかという懸念から開発速度を緩めるよう促し、業界に嵐を巻き起こしました。この主張は、OpenAI のサム・アルトマン氏も支持しました。 スペースXの イーロン・マスク。
Nvidia の新しい製品は、エージェントの安全性の問題に対するエンジニアリング ソリューションであるとボイタノ氏は述べています。
「最近の事件は、AI エージェントにとって根本的な障害を浮き彫りにしました。それは、モデルレベルの安全対策だけでは、エージェントがアクセスできる内容や実行できる内容を制御できないということです」とボイタノ氏は述べた。
プラットフォームの 1 つのコンポーネントは Nvidia OpenShell と呼ばれ、中央プロセッサ上で実行され、エージェントの機能に制限を設定します。 Nvidia は、エージェントを監視し、CPU や GPU ではなくネットワーク チップ上で実行する Sentry も発表しました。
ソフトウェアの一部はオープンソースであり、Nvidia はそのプラットフォームをリファレンス デザインと呼んでいます。これは、パートナーがそのプラットフォーム上に製品を構築して市場に投入することを意味します。
エヌビディアの名前 シスコ、 マイクロソフト、 オラクル、 コアウィーブ、 デラ、 HPEレノボ、 アーム そして インテル パートナーとして。 Nvidia は Anthropic と協力して、マネージド クラウド エージェントと OpenShell を統合しています。
クロック： Nvidia株が出遅れ銘柄をリードしている
