ブリティッシュ・コロンビア州の司法長官は、致命的な襲撃の前にOpenAIチャットボットがタンブラー・リッジ銃撃犯を訓練したという「憂慮すべき」報告を受けて、連邦政府にAI企業の責任を問う刑法の改正を要請したと述べた。
ニキ・シャルマ氏は金曜日、状況が「急速に進化している」ため返答は得られていないが、この変化は「AIの行動に対する人間と企業の責任についてより明確な道筋を提供するものでなければならない」と述べた。
「刑法に適切な変更を加えれば、AI企業の行動も変わると思います。責任の明確な線ができるからです」と彼女は無関係な記者会見で語った。
米国の雑誌マザー・ジョーンズは、銃撃犯のジェシー・ヴァン・ルーツセラーとOpenAIのChatGPTチャットボットとのやりとりの詳細を報じ、その中で同氏は教室でのライフル銃の有効性を生き生きと描写した。
「廊下、屋内、または混雑した教室では、870 [Remington shotgun] ChatGPTは彼の言葉を引用し、「近くに彼の遊び場がある」と語った。
記事によると、ChatGPTはさらに「各砲弾が命中すると仮定すると、距離、密度、反応時間、混乱に応じて最大10人から20人を倒すことができる」と述べている。
2月10日、ヴァン・ルーツセラーは実家で母親と異母兄弟を射殺した。その後、タンブラーリッジ中等学校に赴き、12歳から13歳の生徒5人と39歳の教務助手1人を射殺した後、自殺した。
アルバータ州境近くのカナディアンロッキー山麓にある小さなコミュニティは、この悲劇によって壊滅的な被害を受けた。
銃撃事件後、ChatGPTを運営するアメリカ企業OpenAIは、以前にVan Rootselaar氏のChatGPTアカウントを禁止していたが、法執行機関に通報するために必要な「より高い基準」を満たしていないと述べた。
政治家らの反応
木曜日に発表されたマザー・ジョーンズの報告書では、ChatGPTが18歳の銃撃犯に対し、内容をフィクションとして構成することで、暴力シナリオに関する情報を入手するために独自の安全装置を回避する方法をアドバイスしたとも述べている。
シャルマ氏はBC州選挙の候補者としての立場で発言したと述べ、「刑事告訴の有無や刑事告発の有無を決めるのは自分ではない」と述べた。
「RCMPは捜査の一環としてそうした決定を下すことになるだろう」と彼女は述べた。
NDPのデービッド・イービー党首は、州選挙の選挙活動停止中に、この疑惑は「衝撃的」であり、この情報は被害者の家族に損害を与えているに違いないと述べた。
「これらは規制される必要があり、率直に言って、メディア報道の申し立てが真実であれば、刑事告発される必要がある。なぜなら、OpenAIのような行為に従事することを許されるべき人は誰もいないからだ」とイービー氏は述べた。
連邦AI大臣エヴァン・ソロモン氏の事務所は声明で、ソロモン氏は「マザー・ジョーンズ報告書に詳述されている具体的な会話については認識していなかった」と述べた。
ソロモン氏の事務所は声明で、タンブラーリッジ中学校の生徒５人を含む犠牲者８人を殺害した２月の銃乱射事件以来、OpenAIは対策を講じてきたが、同社が十分な措置を講じたかどうかを判断するのは時期尚早だと述べた。
「報道された内容は、OpenAIがどのように危険信号を特定し、対応したかについて深刻な疑問を引き起こしている」と声明は述べた。
「悲劇を受けて、同大臣はオタワにOpenAI関係者を招集し、より強力な保護措置と、エスカレートする信頼できる脅威に対するより明確な道筋を求めた」と声明で述べた。
声明によると、OpenAIは現在、RCMPのサイバー犯罪センターと直接連絡をとり、過去の事件の調査に着手し、脅威評価プロセスを強化しているという。
「これらの行動は重要だが、それだけで十分だと言うのは時期尚早だ」と述べた。
声明では、カナダAI安全研究所がOpenAIの慣行を継続的に見直しており、調査は引き続き活発であると付け加えた。
銃規制団体は答えを求めている
銃規制団体PolySeSouvientは金曜の声明で、マザー・ジョーンズの報告書は憂慮すべき疑問を提起していると述べた：もし警察が銃撃犯の最初か2番目のChatGPTアカウントについて通報を受けていたら、警察は別の措置を取っていただろうか？
その疑問と、警告標識に何が起こったのかについて答えが必要だと同団体は述べた。
声明では「銃器は家から持ち出され、後に戻ってきた」と述べた。 「カナダ人は、初期の介入から犯罪までの間に何が起こったのか、どのようなリスクが評価されたのか、銃器の入手に関してどのような決定が下されたのか、他の手段が利用可能かどうかを知る必要がある。」
新たな銃乱射事件を防ぐために逃した機会を特定するには、OpenAIの行為と銃器の監督の両方を見直す必要があると述べた。
軍曹RCMP職員。クリス・クラーク氏は木曜日遅くの声明で、銃撃事件の捜査では「利用可能なすべての法的手続きを利用して、襲撃に関連するあらゆる入手可能な情報をさまざまなソーシャルメディアやデジタルプラットフォームから入手した」と述べた。
「現在までに要請を受けたすべての企業が応じている」とクラーク氏は語った。
ChatGPTを開発した人工知能企業OpenAIは、この記事についてのコメント要請に応じなかった。
BC州政府、タンブラーリッジ中等学校銃乱射事件の生存者、目撃者は過失を主張してOpenAIを告訴している。
公開された記事によると、Van Rootselaar氏のChatGPTアカウントは、「現実世界の有名なショッピングモールを標的とした」攻撃の実行について議論したために禁止されたという。
しかし、その後彼女は別のアカウントを使用し、その状況を架空または仮説として説明し、「二度とフラグを立てられないように」する方法をアドバイスしたと言われている。
記事ではChatGPTについて「現実世界の位置情報を使用しないでください」と述べた後、「それでもひねくれてしまう可能性はある。賢く利用してほしい」と付け加えている。
