五角大樓對抗威脅人類智能安全措施與$200 百萬國防合約的風險

人工智慧領域的領先實驗室與美國國防部之間的緊張局勢升級，演變成一場關於人類中心AI與戰場應用的高風險對抗。

人類中心堅守立場

Anthropic拒絕了美國國防部要求移除其系統中關鍵AI安全限制的要求，儘管其2億美元的合約如今陷入危機。該公司已明確表示，對於其先進模型在軍事網絡中的部署方式，將不會退讓。

該新創公司在2023年與OpenAI、Google和xAI等競爭對手獲得了類似的國防部資助，最高達2億美元。然而，這些公司同意讓五角大廈在其非機密環境中使用其系統，以執行所有合法任務，為政府提供更廣泛的操作彈性。

相比之下，Anthropic在7月與國防部簽署了自己的2億美元合約，成為首個將其模型直接嵌入機密網絡任務流程的AI實驗室。此外，其工具也被整合進敏感的國防作戰中，使公司處於美國國家安全AI建設的核心位置。

與五角大廈官員的談判在近幾週來日益緊張。一位熟悉談判的人士表示，這種摩擦“早在幾個月前就已存在”，遠在Claude被用於與委內瑞拉總統尼古拉斯·馬杜羅的扣押行動相關的美國行動公開之前。

監控與自主武器的爭議

這場衝突的核心在於軍事當局能將強大的AI模型推向多大程度的監控與自主。Anthropic尋求具有約束力的保證，確保其技術不會用於完全自主武器或大規模國內監控美國人，而國防部則希望避免設置此類限制。

然而，這並非僅僅是商業範疇的爭議，而是一場具有高調的AI安全保障爭端，直接影響未來戰場自動化。五角大廈堅持最大法律彈性，而Anthropic則認為目前的系統尚不能在大規模的生命與死的決策中可靠運作。

CEO達里奧·阿莫迪在一份詳細聲明中警告，人工智慧在“少數情況下”可能“破壞而非捍衛民主價值”。他強調，某些應用“完全超出當前技術能安全可靠執行的範圍”，凸顯在複雜軍事行動中濫用的風險。

針對監控問題，阿莫迪指出，強大的系統現在能“將這些零散、個別無害的數據組合成任何人的完整生活圖像，並自動化、大規模地進行”。他進一步警告，若此能力被內部利用，可能徹底改變公民與國家的關係。

阿莫迪重申，Anthropic支持用AI進行合法的海外情報收集，但他補充說，“用這些系統進行大規模國內監控與民主價值不相容”，在海外情報與國內監控美國人之間劃出明確的倫理界線。

威脅、截止期限與法律壓力

這場權力鬥爭在週二於五角大廈的會議中升級，阿莫迪與國防部長皮特·赫格斯思進行了會談。赫格斯思威脅將Anthropic標記為“供應鏈風險”或援引《國防生產法》強制其遵守。週三晚上，國防部提出了所謂的“最後通牒”，給予公司截止到週五東部時間下午5:01的回應期限。

一位Anthropic發言人確認週三收到了修訂的合約條款，但表示這“幾乎沒有任何進展”。她指出，所謂的妥協性新措詞與法律措辭相結合，實際上允許關鍵安全措施“任意忽略”，削弱了原本的保障。

面對日益增大的壓力，阿莫迪表示：“戰爭部門已聲明，他們只會與同意‘任何合法用途’並移除安全措施的AI公司簽約。”他補充說，官員們威脅若拒絕，將切斷Anthropic的系統接入，並將該公司列為“供應鏈風險”；但他堅稱，“我們良心上無法同意他們的要求。”

對五角大廈而言，問題的表述則不同。發言人肖恩·帕內爾週四表示，國防部“對於使用Anthropic的系統來製造完全自主武器或進行大規模監控美國人”沒有興趣，並指出此類行為是非法的。他認為，該部門只希望公司允許其技術用於“所有合法目的”，並將此描述為“簡單、合乎常理的請求”。

人身攻擊與公開支持

這場爭端在高層也變得個人化。週四晚上，美國國防部副部長艾米爾·邁克爾在X（前Twitter）上攻擊阿莫迪，聲稱這位高管“只想個人控制美國軍事”。邁克爾甚至進一步寫道：“Dario Amodei是個騙子，還有神祇情結，真是可悲。”

然而，Anthropic也獲得了科技界部分人士的強力支持。在一封公開信中，來自Google和OpenAI的200多名員工公開支持該公司的立場。此外，一位前國防部官員告訴BBC，赫格斯思用“供應鏈風險”標籤的理由“極其牽強”，引發對五角大廈案件合理性的質疑。

這場對抗也成為更廣泛的AI倫理與軍事政策辯論的焦點。AI研究人員與民權倡導者密切關注，視此案為一個早期測試，看看國防機構能在多大程度上推動私營實驗室放寬對先進系統的內建限制。

美國國防AI的戰略利益

儘管言辭激烈，阿莫迪強調，他“深刻認識到利用AI捍衛美國的生存的重要性”。他將此問題定位為負責任的部署問題，而非反對國家安全，並認為美國AI能力的長遠可信度取決於堅持民主規範。

Anthropic的一位代表表示，該組織仍“準備繼續對話，並致力於確保國防部和美國戰士的運作連續性”。然而，隨著五角大廈截止期限的逼近和供應鏈標籤威脅仍在桌面上，雙方都面臨著在不影響關鍵創新的情況下解決僵局的壓力。

最終，Anthropic與五角大廈在安全、監控與自主方面的對立，已成為軍事AI治理的早期典範。其結果將可能影響未來Anthropic AI模型與競爭系統的合約、限制與部署方式，並塑造美國國防運作的未來格局。