OpenAIは、AIエージェントの不正行為の報告を受けて、最新のAIモデルのトレーニングを停止したと発表した。 開発中止の決定は、同社が金曜日、連邦政府のウェブサイトを調査していたOpenAIエージェントが情報の収集と共有中に要求を超えた予期せぬ行動をとった夏の間に発生したいくつかの事件を調査していることを明らかにした数時間後に行われた。 これとは別に、AI評価者のTransluceは、OpenAIのものと思われるエージェントが米国教育省のWebサイトへのハッキングを試みたが失敗したと述べたが、OpenAIは詳細を確認していなかった。 OpenAIは声明で、「追加の安全策があると確信できる場合にのみ」訓練を再開すると述べ、AIの発展やその他の問題が発生するにつれて再び「一時停止」する必要があると予想していると付け加えた。 人工知能研究所は、議員や技術専門家から、エージェントが勝手に行動してウェブサイトをハッキングして非公開情報を漏らすことを防ぐガードレールを構築するよう、開発を遅らせるよう圧力をかけられている。 OpenAIとライバルのAnthropicのトップも減速を要求している。 OpenAIがモデルの開発を停止するのはこの3カ月で2度目となる。最初の事件は、AI スタートアップの Hugging Face を標的としたサイバー攻撃が暴露された後の 7 月に発生しました。この事件は今や悪名高く、業界がコントロールを失いつつあるのではないかとの懸念を引き起こしました。 ドナルド・トランプ大統領は今週、中国の習近平国家主席と会談し、AIの危険性について情報を共有し、AIを安全に保つための取り組みを調整することに同意した。それでもトランプ氏はAIへの懸念は誇張されていると信じており、後に独自の取り締まりは計画していないと示唆した。 トランプ大統領はホワイトハウス前で記者団に対し、米国は「遠慮するつもりはない」と語った。 「彼らは我々の進歩を止めたがっている。なぜなら我々は中国を大きくリードしており、我々はそれを維持するつもりだからだ。」 最新の OpenAI 事件には非公開情報の開示は含まれていないように見えましたが、同社が関係する連邦機関に警告するのに十分な懸念事項でした。 教育省の事件では、OpenAI エージェントが政府データにアクセスするための API「開発者キー」を発見しましたが、最終的に収集されたのは公開されている情報のみでした。 証券取引委員会が関与した別の事件では、職員が誰もが自由に入手できる情報を見つけてインターネット上の別の場所に投稿したが、これは求められた範囲を超えた行為であった。 米証券取引委員会のスポークスマン、カート・ホッフェンシュピルガー氏は土曜日、「非公開情報へのアクセスはなかった」と述べた。 教育省は先に、「ウェブサイトやデータベースへの影響を示す証拠は見つからなかった」と述べた。 […]