オーストラリアはOpenAIエージェントがメディケアポータルをハッキングしたと発表

オーストラリアのアンソニー・アルバニーズ首相は、人工知能を巡る「緊急の世界的障壁」を求める共同呼びかけに署名してから1日も経たないうちに、オーストラリア人の健康データを含む政府ウェブサイトが「AIエージェント」によってセキュリティ侵害されたことを明らかにした。

アルバニーズ氏は火曜日、ニューヨークで開催された国連総会（UNGA）の会合に合わせて、カナダ、スペイン、ドイツを含む21の署名国とともに声明「フロンティアAIモデルの管理を求める」に共同署名した。

アルバニーズ氏は水曜日に記者団に対し、OpenAIが開発したエージェントが6月に政府のメディケアポータル上の公開・非公開データにアクセスしたと述べた。

オーストラリアの労働党政府は、新しいオンライン安全法、年齢制限、提案されているデジタル注意義務の枠組みにより、テクノロジー規制を強化しています。

アルバニーズ氏は、ハッキングについてキャンベラ市の「極度の懸念」と、同社が侵害を認めるまでに3カ月かかったことに失望を表明するために、OpenAIの最高経営責任者（CEO）サム・アルトマン氏と話をしたと述べた。

OpenAIは記者会見から数時間以内に返答し、調査中だが患者記録がアクセスされた形跡はないと述べた。

同社の分析では、「モデルが答えを見つけようとしていた」として、いくつかのオーストラリア政府のウェブサイトやサービスに関わる活動が特定されたという。

世界のリーダーがAIの警告に反応

人工知能企業のリーダーらは水曜日、15か国からなる国連安全保障理事会の会合に先立ち、無規制のAI開発のリスクについて警告した。

そのうちの1人、カナダ人で「人工知能のゴッドファーザー」の1人とみなされ、独立国際科学グループの共同議長であるヨシュア・ベンジオ氏は、この技術の「前例のない脅威」と「現実的かつ差し迫った」危険性について語った。

中国のフー・コン国連大使は会議で、中国政府は人工知能分野における規制枠組み、緊急対応、国境を越えた協力の継続的な改善が必要であると考えていると述べた。

英国のアンディ・バーナム首相は、英国はAI標準を設定するための国際的な取り組みを主導する用意があると述べた。

「私たちは皆、注意を払わなければならないという警告を聞いてきた…だから私たちはここまで到達しなければならない」と述べたが、英国がAIの利点を追求することも望んでいると付け加えた。

フランスのエマニュエル・マクロン大統領は水曜日の議会での演説で、AIを巡る意思決定を米国と中国に独占させないよう警告した。

ドナルド・トランプ米大統領は、AIの危険性を気候変動に例え、それをでっち上げだと主張し、多くの大統領と対立している。

同氏はまた、火曜日のUNGAでの講演の中で、AIという用語をSI（「スーパー・インテリジェンス」）にブランド名を変更することを提案し、以前にはAIアドバイザーを任命する予定であると述べた。

トランプ大統領は月曜日のトゥルース・ソーシャルへの投稿で、米国が中国に対するAI競争をリードしており、中国が「成長を阻害することはない」としながらも、米国は慎重になるだろうと付け加えた。

ホワイトハウスの科学技術顧問マイケル・クラシオス氏も水曜日、国連安全保障理事会での発言でトランプ大統領に同調した。

「理解できないテクノロジーを統治することはできない。この機関や同様の機関は、世界的な規制スキームを確立することではなく、国の能力を構築するためのベストプラクティスの共有に焦点を当てるべきだ」と同氏は述べた。