一言で言うと
Googleは軍事AIから手を引いたのではありません。人間が監視する形での利用は認める一方で、自律型兵器や大規模監視のような使い方は契約で禁じる、という線を引いたのです。
何が起きているのか
Googleは米国防総省との既存契約を修正しました。同社のAIモデルGeminiを、政府の機密ネットワークでも使えるようにする内容です。これにより国防総省は、Geminiを「あらゆる合法的な政府目的」で展開できるようになりました。
契約には条件もついています。政府の要請があれば、GoogleはGeminiの安全設定やフィルターの変更を支援する義務があります。一方で、適切な人間の監視と制御がない状態で、国内の大規模監視や自律型兵器に使われてはならないという文言も明記されています。
これと並んで、別の動きがあります。Bloombergが同日報じた内容によれば、Googleは2月、1億ドルの音声制御自律型ドローン群開発プログラムから撤退していました。社内の倫理審査が引き金になったと報じられています。
国防総省側のコメントもあります。米国防総省のAI担当責任者Cameron Stanley氏は、単一の取引先企業に依存するのを避けるのが優先事項だと語りました。すでにOpenAIやElon Musk氏のxAIも国防総省にAIアクセスを認めています。
AI業界の文脈では
このニュースの本質は、Google が軍事AIを全面的に認めたか、全面的に拒んだかではありません。どこまでの用途なら進め、どこから先は止めるのかを、契約の言葉として外に出し始めたことです。
今回の契約文言で認められている Gemini の利用範囲は「あらゆる合法的な政府目的」で、情報処理や行政事務も含む広いものです。一方で、適切な人間の監視と制御がない状態での大規模監視や自律型兵器への利用は禁じられています。
同じ日に報じられたドローン群開発プログラムからの撤退は、この線引きをさらに分かりやすくしています。音声で動く自律型ドローン群は、人間が一つずつ判断するのではなく、機械が物理空間で自律的に動く用途です。Googleが引いた線は、軍事利用かどうかではなく、機械に物理空間での自動判断をどこまで任せるか、という点にあります。
私の見立て
ここで効いているのは、国防総省、Google、Googleの従業員が、それぞれ違う点を重視していることです。国防総省は、AI企業を一社に絞らず複数社を確保したい。Googleは、Gemini を機密ネットワークに広げたい。一方で Google の従業員の強い反発は、自律型ドローン群のように機械が物理空間で自律的に動く用途に集まっていました。
その結果、情報処理を人間の監視下で使う契約は進めるが、自律型兵器や大規模監視のような用途には線を引く、という形が外に出てきました。OpenAI や xAI も国防総省と動いている以上、この線引きは Google 一社だけの話では終わらない可能性があります。
ただし、この線引きがそのまま安全を保証するわけではありません。「人間の監視と制御」という言葉の中身が曖昧なままなら、自律型と似た運用が別の名前で通る余地が残ります。政府要請に応じて安全設定やフィルター変更を支援する義務も、運用次第では政府側の調整権限を広げる入口になりえます。
→ 何が変わるか: AI企業の防衛契約は今後、何に使うかだけでなく、人間の監視をどこまで残すかという条件でも分かれていきます。安全設定の変更を契約条件に書き込む慣行も、他社に広がる可能性があります。
→ 何をすべきか: 企業の導入担当者は、利用するAIサービスの規約に、政府要請でフィルターや動作が変えられる可能性が混ざっていないかを点検しておくべきです。AIへの信頼も、情報処理の用途と、物理空間で判断を伴う用途を分けて考える必要があります。