フロンティアテクノロジーが人類を壊滅的なリスクにさらすのではないかとの懸念が高まる中、ドナルド・トランプ米大統領とハイテク企業のトップは、人工知能に対する保護措置を強化することを約束する協定に署名した。
トランプ大統領は火曜日、AI指導者らをホワイトハウスに集めて昼食をとった後、急速に進歩するテクノロジーに対する政府の規制に対する政権の懐疑を再確認した後、自主協定を発表した。
注目のストーリー
3 項目のリストリストの終わり
トランプ大統領はハイテク企業幹部らと同席し、「大幅な自主規制が必要だという考えがあり、自動的に司法省やFBIなどとの規制が設けられている」と語った。
「境界責任に関する共同コミットメント」に基づき、Anthropic、OpenAI、Google、Meta、xAI、Nvidiaのトップは、AIモデルを監視するための「堅牢な」制御を実装し、「すべての制御、監視、検出が意図したとおりに機能し、問題が解決されることを保証する」社内チームを任命することを約束した。
両社はまた、安全対策が意図したとおりに機能していることを確認するために独立した外部監査人と協力し、「システムの安全性を向上させるための基準とベストプラクティスを確立する」ために定期的に会合することも約束した。
この協定には第三者による審査を誰が実施するかは規定されていないが、将来のある時点で措置を正式な法律や規制に成文化することが「理にかなっているかもしれない」と述べている。
「企業がそうする必要があるかどうかにかかわらず、私たちはこれらの管理と監査を実施することがすべての人に安全な未来を確保するために重要であると信じており、私たちの各企業はそうすることに全力で取り組んでいます」と協定には記載されています。
署名者はAnthropicのDario Amodei氏、OpenAIのGreg Brockman氏、GoogleのSundar Pichai氏、MetaのMark Zuckerberg氏、xAIのElon Musk氏、NvidiaのJensen Huang氏の6人だ。
この協定は、開発者らに速度を緩めて「一線を越える」よう呼び掛けたAnthropic社のアモデイ氏を含む業界の主要人物や、国際社会からのAI規制に向けた緊急行動を求める声とトランプ政権が対立している中で行われた。
20カ国と欧州連合は先週、基準を設定し施行するための監視機関の創設の可能性も含め、AIが人間の管理下に留まり続けることを確保するための世界的な調整の呼びかけを開始した。
トランプ大統領は超国家的な規制を求める声を拒否し、先週の国連総会で、政権はAIを「制御するためのグローバリスト計画を構築するいかなる試みにも反対する」と述べた。
トランプ大統領はまた、中国に対する指導力を維持する必要性を理由に、破滅的、さらには存続のリスクを警告しているにもかかわらず、開発の減速を求める業界内からの声を一蹴している。
AIエージェントが凶暴化し、組織や政府機関に対するサイバー攻撃を主導した一連の事件を受けて、AIが人間の制御から逃れるリスクが精査されている。
OpenAIは月曜日、内部テスト中にセキュリティリスクを特定したため、最新のAIモデルをリリースしないと発表した。
ChatGPTの作成者はまた、AIエージェントが国家医療データベースを含むオーストラリア政府のウェブサイトに不正アクセスした一連の事件の対応について、別途公的謝罪を発表した。
トランプ大統領の合意は火曜日にはさまざまな反応を呼び、批評家は拘束力のない性質と限定的な詳細を指摘した。
かつてトランプ大統領のAI皇帝だったシリコンバレーの投資家デビッド・サックス氏は、この協定は「おそらく実現しないだろう」国際協定よりも「はるかに良い」と述べた。
サックス氏はXへの投稿で、「トランプ大統領は、米国民を第一に考え、米国がテクノロジーのリーダーであり続けることを保証し続けている」と述べた。
アジア社会政策研究所中国分析センターの上級研究員アルビン・ワン・グレイリン氏は、業界リーダーらの関与を歓迎したが、それは必要なものには達していないと述べた。
「アメリカ人にとって最も深刻なリスクは中国の超諜報機関ではない。それは非国家の手に渡った小規模なモデルであり、生物的、化学的、またはサイバー被害に利用される」とグレイリン氏はアルジャジーラに語った。
「ザッカーバーグ氏とファン氏がアモデイ氏と同席し、これを紙に書き出すことは、『中国が規制しないから規制できない』という一年が続くよりは良い」とグレイリン氏は語った。
「欠けているのは独立性と一線を越えるものだ。企業は原則を策定し、監査人を雇い、関与は任意だが、ある日ホワイトハウスは手すりを支持しないと発表した」と同氏は付け加えた。
オーストラリアのシドニーにあるUNSW AI研究所所長のトビー・ウォルシュ氏は、AI企業は「自社の管理が無能でずさん」であることがすでに証明されていると述べた。
「他に何兆ドル規模の産業が宿題に取り組んでいるでしょうか？」ウォルシュ氏はアルジャジーラに語った。
ウォルシュ氏は「手を抜きたくなるのはあまりにも誘惑的だ」と述べ、経営陣は自社の作品が引き起こす損害について責任を負うべきだと付け加えた。
「こうしたサイバー攻撃の特定と修復に費やした時間すべてを彼らに請求すべきだ」と同氏は述べた。
