自律型AI兵器の議論が「リアル」になった瞬間

Anthropicとアメリカ国防総省(DoD)の契約交渉が決裂した。この話が重要なのは、単に「AI企業と軍が揉めた」という話ではなく、民間AI企業が軍事用途の境界線を自社で設定し、それが法廷闘争にまで発展したという前例のない構図になっているからだ。

カリフォルニア大学バークレー校のアンドリュー・レディ氏が指摘するように、Anthropicは「マンハッタン計画のような政府主導の技術でも、ノースロップ・グラマンのような従来の軍事サプライヤーでもない」。それが今、軍事調達の話の中心に立っている。


何が起きたのか、事実を整理する

2025年7月、Anthropicは国家安全保障を名目にDoDと最大**2億ドル(約320億円)**の契約を締結した。ただし同社は2つの条件を拒否している。

  1. アメリカ国内での大規模監視へのAI利用
  2. 人間の介入なしに標的を識別・追跡・殺害できる兵器へのAI利用

この拒否がきっかけで関係は悪化。2026年3月、DoDはAnthropicを「国家安全保障に対するサプライチェーンリスク」に正式指定し、トランプ大統領は全政府機関に対しAnthropicのClaude利用禁止を宣言した。Anthropicは対抗してDoDを提訴し、記事執筆時点でも法廷闘争は継続中だ。

一方、OpenAIはAnthropicが拒否した条件に「すぐさま同意した」とThe Vergeは報じている。

この構図、なかなか示唆深い。


「完全自律型」の定義が、実はすでに崩れている

議論の中心には国防総省指令3000.09がある。2012年に策定されたこの指令は、致死性自律兵器を「一度起動されると、オペレーターによるさらなる介入なしに標的を選択して攻撃できるもの」と定義し、完全自律型・半自律型を問わず「人間が適切なレベルの判断を下せるよう設計すべき」と規定している。

ただし、The Vergeはこの定義がすでに現実と乖離していると指摘する。例として挙げられているのが**近接防空システム「ファランクス」**だ。飛来するミサイルから艦艇を守るこのシステムは、ミリ秒単位で応答する必要があるため、人間が介入する設計では機能しない。つまり、定義上はすでに指令の要件を満たせていない兵器が実戦配備されている。

レディ氏はこの状況について「我々はまだ越えていないふりをしているが、実際にはもう越えてはいけない一線を越えてしまっている」と述べている。


ここからは見方の話になるが

このニュースで一番読み違えやすいのが、「AnthropicはAI兵器に反対している」という解釈だ。

CEOのダリオ・アモデイは自身のブログで明確にこう書いている。「完全自律型兵器(人間を完全に排除し、標的の選択と攻撃を自動化する兵器)は、我が国の防衛にとって極めて重要となる可能性がある」「これらのシステムの信頼性を向上させるための研究開発において、国防総省と直接協力する」と。

つまりAnthropicが拒否したのは「完全自律型兵器そのもの」ではなく、「今のClaudeがその用途に使われること」だ。概念的にも倫理的にも反対しているわけではない、というのがアモデイ本人の立場である。

これは倫理の話というより、プロダクトの信頼性とリスク管理の話に近い。「まだ準備ができていない技術を、取り返しのつかない用途に使わせたくない」という論理は、軍事に限らずどのシステム開発でも馴染みのある感覚だ。

問題は、その「準備ができている」の判断を誰がどの基準でするか、が一切定まっていないことである。


実務的に考えると、次の論点はここだ

この件をAI開発・調達の現場視点で見ると、浮かび上がる論点がある。

①「何を売らないか」が差別化になる時代
Anthropicのような企業が利用規約やセーフガードで「拒否条件」を明示し始めると、それ自体が企業評価の軸になる。軍事用途を歓迎するOpenAIとの比較が際立つのはその典型だ。これは倫理的な優劣の話ではなく、ビジネス戦略とリスク設計の話として読むべきだ。

②定義の問題が規制より先にくる
ファランクスの例が示すように、「人間の介入」の定義次第で現行兵器のほとんどが指令3000.09を満たせなくなる可能性がある。AIが絡む前から定義が曖昧なまま運用されてきた。AIが入ることで、その曖昧さが一気に顕在化している。次に注目すべきは規制の中身より「定義のアップデートが行われるかどうか」だ。

③研究コミュニティの孤立という問題
OpenAIの元地政学チームリーダーであるサラ・ショーカー氏は、「自律型兵器システムのリスクを研究している人々とは、OpenAI内でもほとんど交流がなかった」と証言している。AI企業の内部でも、安全保障リスクの議論が主流の開発サイクルから切り離されているとすれば、これは構造的な問題だ。


軽くまとめると

AnthropicとDoDの件は、AI倫理の教科書に載るような話ではなく、「民間技術が軍事調達に入り込んだとき、誰がどこで止めるのか」という実務的な問いとして見た方がいい。

2017年にCCWCで「殺人ロボット」の話を誰も真剣に聞かなかったのが10年も前のことだ。その間にProject Mavenは実用段階に入り、ウクライナの戦場では数万円のドローンが実際に使われ、AI企業が軍を提訴するまでになった。

「どこかで一線を引かなければならない」という話は続くだろう。だが今必要なのは、その一線を誰が・どんな定義で・どのプロセスで引くのかを問い続けることだ。現時点でその答えを持っている組織は、どこにも存在しない。


参考元: AIによる「自律型戦争」は既に始まっている、Anthropicと国防総省との争いが自律型AI兵器のリスクを浮き彫りに(GIGAZINE)