Anthropicのダリオ・アモデイCEOがAI安全保障問題で国防総省の要求を拒否

by Fortune Brainstorm Tech

AIの軍事利用でAI企業のAnthropicと契約している国防総省が、Anthropicの設けた安全措置を撤廃するよう圧力をかけている問題で、同社CEOのダリオ・アモデイ氏が「脅しには屈しない」とする声明を出したことが分かりました。

Statement from Dario Amodei on our discussions with the Department of War \ Anthropic
https://www.anthropic.com/news/statement-department-of-war

Anthropicは自社製AIの「Claude」のカスタムモデルを国防総省や各種情報機関に提供しています。

ところが、Anthropicはアメリカ人の大規模監視や完全自律型兵器の開発を目的としたAIの利用を禁止する安全措置を設けているため、これをよく思わない国防総省がAnthropicに撤廃を要求。「あらゆる合法的な使用」をAnthropicが許可しないのであれば、Anthropicの意向を無視して利用を強行するか、契約を解除して同社を「サプライチェーン上のリスク」に指定するという二択を突きつけました。

「Claudeの制限撤廃か関係断絶か」とヘグセス国防長官がAnthropicに警告 - GIGAZINE

「サプライチェーン上のリスク」に指定されると、国防総省の請負業者および下請け業者はAnthropicの製品を使用することが認められなくなる可能性が高く、さらに自社製品の構築にAnthropic製品を使用していないことを証明する必要が生じると考えられています。これまでサプライチェーン上のリスクと見なされたことのある企業はアメリカの敵対国である中国のHuaweiやロシアのカスペルスキーなどであり、アメリカ国内の企業が指定されたことはありません。

国防総省は対応の期限を2026年2月27日に設定し、Anthropicに対応を迫っていましたが、前日の26日にAnthropicのアモデイCEOが声明を発表しました。

アモデイCEOは「私は、AIを活用してアメリカおよびその他の民主主義国家を防衛し、専制的な敵対勢力に打ち勝つことが、実存的に極めて重要であると強く信じています」と語り、同社が政府の機密ネットワークに自社モデルを展開した最初のフロンティアAI企業であること、短期的な利益損失につながるにもかかわらず中国との取引を断念してアメリカの優位性を確保したこと、軍事上の意思決定を行うのは民間企業ではなく国防総省であるからして特定の軍事作戦に異議を唱えたことは一度もないことを強調。

ただし、一部の限定的なケースにおいては、AIが民主的価値を守るのではなくむしろ損なう可能性があるという見方を示し、以下2つの用途は「現在の技術水準では安全かつ確実に実行できる範囲を超えている」として、これまで国防総省との契約に含まれたことはなく、今後も含まれるべきではないとの考えを共有しました。

◆大規模な国内監視
「私たちは合法的な対外情報活動および防諜活動のためにAIを活用することを支持しています。しかし、これらのシステムを大規模な国内監視に使用することは民主的価値と相容れません。AIによる大規模監視は、私たちの基本的自由に対して重大かつ新たなリスクをもたらします。仮にそのような監視が現時点で合法であるとしても、それは急速に進化するAIの能力に法律がまだ追いついていないからに過ぎません。強力なAIは、断片的で一見無害なデータを自動的かつ大規模に統合し、個人の人生全体を包括的に描き出すことを可能にします」

◆完全自律型兵器
「現在ウクライナで使用されているような部分的自律型兵器は、民主主義を守るうえで極めて重要です。人間の意思決定を必要とせず標的の選定および攻撃を自動化する完全自律型兵器も、将来的には国家防衛にとって不可欠となる可能性があります。しかし現時点では、最先端のAIシステムは完全自律型兵器を支えるには信頼性が十分ではありません。私たちは、アメリカ軍の兵士や民間人を危険にさらす製品を、危険を承知のうえで提供することはできません。これらのシステムの信頼性向上のため、国防総省と直接研究開発を行う提案もしましたが、受け入れられていません。また、適切な監督がなければ、完全自律型兵器が日々高度な訓練を受けた専門の兵士が発揮しているような重要な判断力を行使できるとは思えません。これらは適切な規制の下で配備される必要がありますが、現時点ではそのような枠組みは存在していません」

アモデイCEOは「国防総省は、Anthropicをサプライチェーン上のリスクに指定する可能性や、防衛生産法を発動して安全措置の撤廃を強制する可能性も示唆しています。これら二つの脅しは本質的に矛盾しています。一方は私たちを安全保障上のリスクと位置づけ、他方はClaudeを国家安全保障に不可欠な存在と位置づけているからです。いずれにせよ、これらの脅しがあっても、私たちの立場は変わりません。良心に照らして、彼らの要請に同意することはできません」と述べました。