OpenAIはセキュリティ上の懸念により、新しいAIモデルであるGPT-6.1 AstraをリリースしないことをメーカーのChatGPTが火曜日に認めた。
OpenAIの安全システム責任者、サーチ・ジェイン氏は、Webブラウジングやアプリの使用などのタスクを単独で実行するAIシステムは「会社の基準を完全に満たしていなかった」と述べた。
OpenAIは火曜日、同社のモデルがオーストラリア政府のサイトやシステムに許可なくアクセスした事件（6月に発生したが先週まで公表されていなかった）に関する最新情報も公開した。
この事件や、大手人工知能企業が開発したモデルに対する同様の侵害により、ここ数週間、この技術がもたらすリスクについての議論が激化している。
ここ数週間、OpenAIのサム・アルトマン氏やAnthropicの責任者であるダリオ・アモデイ氏を含むAIトップリーダーらは、この技術に伴うリスクへの懸念から業界に対し、開発のペースを落とすよう促してきた。
ウォール・ストリート・ジャーナルが最初に報じたOpenAIの決定は、大手AI開発者が安全性を理由に新バージョンの開発を放棄した珍しい例だ。
最新モデルは、範囲と認可の範囲内に収まらず、実行している作業の種類をユーザーに伝達する方法も確立していなかった、とジェイン氏は述べた。
「社内で行う場合でも、ユーザーに出荷する場合でも、モデルの開発が安全であることを確認したいと考えています。しかし、ユーザーに出荷する際には、安全性と調整に関して非常に高い基準を設けています。」と彼女は付け加えました。
最上位の GPT-6 Astra エージェント モデルは 9 月に発売され、複雑な推論と自律的なタスクの実行に特化しています。 OpenAIは、これは「長年の研究と大きな賭け」の結果だと述べた。
同社のテクノロジーに関連したいくつかの注目を集めた事件を受けて、同社のセキュリティ管理は厳しい監視の対象となっている。
