米国裁判所、国防総省のAnthropicのブラックリスト登録を支持

ブリティッシュ・コロンビア州は、同州の学校での銃乱射事件は、同社が銃撃犯がChatGPTを利用して虐殺計画を立てたことを地元当局に警告していれば防げた可能性があるとして、カリフォルニア州でOpenAIを訴えた。 月曜日にサンフランシスコの連邦裁判所に起こされた訴訟では、OpenAIとそのCEOであるサム・アルトマンが被告として指名されている。彼女は、2月の襲撃事件後の同州での復旧活動に資金を提供するための損害賠償と、暴力につながる可能性のあるChatGPT会話の同社の処理方法の変更を指示する命令を求めている。 ブリティッシュコロンビア州タンブラーリッジの学校銃乱射事件では、ほとんどが子供である9人が死亡した。銃撃犯のジェシー・ヴァンルーツェラー氏は、銃による暴力について会話したため同社のセキュリティチームから通報を受けていたが、同社は警察に通報しなかった。 アルトマン氏はコミュニティに宛てた書簡で、OpenAIが法執行機関に連絡しなかったことを「深く遺憾に思う」と述べた。訴状によると、同氏は改革を約束したが、ブリティッシュ・コロンビア州司法長官の関与にもかかわらず、実行されなかった。 訴状によると、銃撃が起きた学校は取り壊しが進められており、州は代替学校の費用、精神医療費、銃撃によるその他の影響を負担しなければならなかったという。 OpenAIの広報担当者ドリュー・プサテリ氏は、タンブラーリッジでの銃乱射事件は言葉では言い表せない悲劇だと述べた。 「OpenAIは今後も政府および法執行当局と協力し、継続的なセキュリティ活動を推進し続けることに尽力していきます。」 ブリティッシュ・コロンビア州での訴訟は、銃撃を阻止する機会を放棄したとして同社を非難して、被害者の家族や襲撃の影響を受けた人々30人以上がカリフォルニア州で訴訟を起こしたことを受けて起きた。 警察によると、ファン・ルーツェラーさんは自宅で母親と異母兄弟を射殺し、2月10日に元学校で教育助手と12、13歳の生徒5人を殺害した。その後、18歳だったファン・ルーツェラーさんは自殺した。 Van Rootselaar氏とChatGPTとのやりとりは、2025年6月に同社によって初めて報告された。セキュリティチームのメンバーは警察に連絡するよう勧めたが、アルトマン氏と他のOpenAI幹部がそれを却下したと訴状は、銃撃後にウォール・ストリート・ジャーナルに話を聞いたOpenAI内部告発者の話として述べている。 銃撃犯のアカウントは無効化されたが、彼女は新しいアカウントを取得し、攻撃を計画するためにプラットフォームを使い続けることができた。 ウォール・ストリート・ジャーナルの記事掲載後、同社は「暴力行為を促進するための当社モデルの悪用」を特定するシステムによってアカウントにフラグが立てられたが、問題は法執行機関に報告するための社内基準を満たしていないと述べた。 この訴訟は、昨年のフロリダ州立大学での銃乱射事件に関連した訴訟を含め、ChatGPTが暴力を助長したとの主張をめぐってここ数カ月間、米国の州および連邦裁判所でOpenAIに対する一連の訴訟が提起されてきたことを受けて行われた。 6月、フロリダ州は安全性リスクを巡ってOpenAIを告訴した最初の州となり、ChatGPTプラットフォームの安全性を虚偽表示したとして同社を非難した。訴状では、学校銃乱射事件の犯人に情報を提供したり、若いユーザーに自傷行為や依存症に関する指導を提供したりすることで子供たちに危害を与えたとしている。 OpenAIはこの主張を否定しているが、「暴力を著しく可能にする」可能性のあるリクエストを拒否するようにモデルを訓練しており、会話が「他者に危害を及ぼす差し迫った信頼できるリスク」を示唆する場合には法執行機関に通報すると述べた。 Source link