AnthropicのCEO、ダリオ・アモディは「経済学人」の編集長ザニー・ミントン・ベドーズとのインタビューで、なぜAnthropicが米国防総省の一部契約条項に反対しているのかを説明しました。彼は、Anthropicの立場は民主的価値観に基づくだけでなく、現行のAIモデルが軍事防衛に十分信頼できるかどうか、また最終的に誰が制御すべきかについて懸念を抱いていることに根ざしていると述べています。アモディはまた、政府との対話の余地を望み、より明確なAI規定の策定について協議したい意向も示しました。
アモディ：Claudeは軍事の完全自動化モデルにはまだ適さない
AnthropicのCEO、アモディは、Claudeが大規模監視や自主武器に使用されることを拒否した後、トランプ政権下で連邦機関による同社のモデルツールの使用禁止命令が出されました。現在、Claudeは米国のAIリスク供給者として位置付けられています。アモディは、Anthropicの主要モデルであるClaudeは、完全自動軍事用途にはまだ準備ができていないと述べています。私企業のAI供給者として、政府顧客に対してモデルの適切な使用方法を説明するのは容易ではないとしつつも、安全保障の観点から必要な措置だと考えています。
アモディは、Anthropicと米国防総省との契約は範囲が限定されており、現時点では問題は生じていないと明言しました。しかし、懸念は今後の使用範囲にあります。軍事の完全自動化は、AIが数百万の無人機を制御し、従来の軍事規範を無視して運用できるシナリオを生み出す可能性があり、その適用範囲を規制しなければ制御不能になる恐れがあります。
Anthropicは武器使用範囲の制限を合理的と証明できるのか？
アモディは、「経済学人」との対話の中で、Claudeによる無人機の全自動武器運用を制限すべき理由を二つ挙げました：一つはClaudeの信頼性不足、もう一つは人間の監督枠組みの欠如です（動画0:00-0:18、5:48-5:58）。
信頼性不足：アモディは、Claudeモデルは完全自動軍事用途には不十分だと考えており、これは飛行機の操縦方法の一部が危険であると公表されるのと似ていると例えています（動画0:05-0:49）。
人間の監督枠組みの欠如：無人機を用いた軍隊を管理するための人間の規範が欠如していることを懸念しており、その結果、一人の人物が数百万の武器を制御できる状況になり、従来の軍事責任を負わなくなる可能性を指摘しています（動画5:48-6:55）。
軍事AIに関する意見の相違をどう扱うか？
アモディは、「経済学人」との対話を通じて、米国政府に対し、AIの適用に関する意見の相違をより詳細に協議し、解決策を模索したいと示しました。彼は、AI供給者と政府は、現行モデルの信頼性やガバナンス規範について十分に議論すべきだと強調しています。AIのリスクに対応するため、供給者は特定の高リスク用途においてモデルの成熟度を明示する責任があると考えています。
アモディは、まず合意されたユースケースを対象とした限定契約を締結し、その範囲内でモデルの運用規範を確立した上で、より議論の難しい任務への適用拡大を進めることを提案しています。ただし、現段階では、合意とバランスを見つけるための議論を進める必要があります。私企業の権力が過度に強くなることも、政府の権力が絶対的になりすぎることも避けなければなりません。
「Anthropic」という名称は「人類学」に由来し、創業者アモディの理念を示しています：人間中心のAI企業を築くこと。この信念により、彼は米国政府に公然と異議を唱え、中国がClaudeの技術を盗用していると指摘する数少ないハイテク企業のCEOの一人となっています。Anthropicが理念の堅持と国家安全保障とのバランスをどう取るかは、AIの軍事化の今後を左右する重要な分岐点となるでしょう。この技術的主権と倫理の境界を巡る膠着状態は、どのように解決されるのか、世界が注目しています。
この文章は「Anthropic執行長：Claudeは軍事には不十分、より明確な規定の署名を期待」が最初に掲載された「鏈新聞 ABMedia」に由来します。
