一家領先的人工智能實驗室與美國國防機構之間的緊張關係不斷升級，已經演變成一場關於類人人工智能和戰場應用的高風險衝突。
儘管價值2億美元的合同岌岌可危，但Anthropic公司仍拒絕了美國國防部要求其移除系統中關鍵人工智能安全限制的要求。該公司已明確表示，在與國防部就其先進模型如何在軍事網絡中部署的爭議中，不會做出讓步。
這家初創公司的競爭對手OpenAI 、谷歌和xAI在2023 年也獲得了國防部高達 2 億美元的類似合同。然而，這些公司同意讓五角大樓在軍事非機密環境中將其系統用於所有合法任務，從而賦予政府更大的行動靈活性。
相比之下，Anthropic公司在7月份與美國國防部簽署了一份價值2億美元的合同，成爲首家將其模型直接嵌入機密網絡任務工作流程的人工智能實驗室。此外，其工具還被整合到敏感的國防行動中，使該公司成爲美國國家安全人工智能建設的核心力量。
近幾周來，與五角大樓官員的談判日益緊張。一位知情人士透露，摩擦“可以追溯到幾個月前”，遠早於克勞德參與美國與委內瑞拉總統尼古拉斯·馬杜羅被捕有關的行動的消息公開之前。
這場衝突的核心在於，軍方究竟能在多大程度上推動強大的AI模型走向監視和自主應用。Anthropologie公司尋求具有約束力的保證，確保其技術不會被用於製造完全自主的武器或對美國公民進行大規模的國內監視，而美國國防部則希望避免此類限制。
儘管如此，這並非一起普通的商業糾紛，而是一場備受矚目的人工智能安全保障爭議，對未來的戰場自動化有着直接影響。五角大樓堅持要求獲得最大的法律自由裁量權，而安人智公司則認爲，目前的系統尚不足以勝任大規模的生死決策。
首席執行官達里奧·阿莫迪在一份詳細聲明中警告說，在“少數情況下” ，人工智能可能會“破壞而非捍衛民主價值觀”。他強調，某些應用“完全超出了現有技術能夠安全可靠執行的範圍”，並着重指出在複雜的軍事行動中濫用人工智能的風險。
阿莫迪進一步闡述了對監控的擔憂，他認爲，如今強大的系統能夠“自動且大規模地將這些分散的、單獨來看無害的數據整合起來，從而全面瞭解任何人的生活”。此外，他還警告說，如果這種能力被用於自身，則可能從根本上重塑公民與國家之間的關係。
阿莫迪重申，人智公司支持將人工智能用於合法的海外情報收集。但他補充說，“將這些系統用於大規模國內監控與民主價值觀不符”，從而在海外情報和對美國公民的內部監控之間劃清了界限，明確了道德規範。
週二，阿莫迪與國防部長皮特·赫格塞斯在五角大樓舉行會晤，雙方的權力鬥爭進一步升級。赫格塞斯威脅要將安斯羅派克公司列爲“供應鏈風險”，或援引《國防生產法》強制其遵守規定。週三晚間，國防部發出所謂的“最終報價”，要求該公司在美東時間週五下午5點01分前作出回應。
安特羅皮克公司的一位發言人承認週三收到了修改後的合同文本，但表示這“幾乎沒有任何進展”。據她稱，新措辭被包裝成一種妥協，但其中卻包含一些法律條款，實際上允許“隨意無視”關鍵的保障措施，從而削弱了合同中規定的保護力度。
面對日益增長的壓力，阿莫迪表示：“國防部已聲明，他們只會與同意‘任何合法用途’並取消上述情況下安全措施的人工智能公司簽訂合同。”他還補充說，官員們威脅說，如果Anthropic公司拒絕，他們將把該公司從系統中移除，並將其列爲“供應鏈風險”；然而，他堅持認爲，“我們不能昧着良心答應他們的要求。”
對五角大樓而言，這個問題則有不同的看法。首席發言人肖恩·帕內爾週四表示，國防部“無意”將安特羅皮克公司的系統用於全自動武器或對美國公民進行大規模監控，並指出此類做法屬於非法行爲。他強調，國防部只是希望該公司允許將其技術用於“所有合法用途”，並稱這是一個“簡單且合乎常理的要求”。
這場爭端也升級爲高層人身攻擊。週四晚間，美國國防部副部長埃米爾·邁克爾在X網站上抨擊阿莫迪，聲稱這位高管“一心只想親自控制美國軍方”。邁克爾的言辭更加激烈，他寫道：“達里奧·阿莫迪是個騙子，而且自視甚高，這真令人遺憾。”
然而，Anthropic公司獲得了部分科技行業的鼎力支持。在一封公開信中，超過200名來自谷歌和OpenAI的員工公開支持該公司的立場。此外，一位前國防部官員告訴BBC ，赫格塞斯使用“供應鏈風險”標籤的理由“極其站不住腳”，這讓人質疑五角大樓論證的可靠性。
這場衝突也成爲人工智能倫理和軍事政策領域更廣泛辯論中的一個關鍵節點。人工智能研究人員和公民自由倡導者都在密切關注事態發展，將此案視爲國防機構能夠迫使私營實驗室放鬆對先進系統內置限制的一次早期測試。
儘管言辭愈演愈烈，阿莫迪仍強調他“深知利用人工智能保衛美國具有生死攸關的重要性”。他將這個問題定義爲負責任的部署，而非反對國防，並認爲美國人工智能能力的長期信譽取決於維護民主規範。
安特羅皮克公司的一位代表表示，該公司仍然“準備繼續談判，並致力於保障國防部和美國作戰人員的行動連續性”。然而，隨着五角大樓設定的最後期限臨近，供應鏈被列入制裁名單的威脅依然存在，雙方都面臨着在不阻礙關鍵創新的情況下解決僵局的壓力。
最終，Anthropic公司與五角大樓就安全保障、監控和自主性問題展開的衝突，已成爲軍事人工智能治理領域早期的一個典型案例。其結果很可能影響未來Anthropic人工智能模型及其競爭對手系統在美國國防行動中的合同簽訂、約束和部署方式。