美國國防部與 AI 新創公司 Anthropic 之間,圍繞人工智慧整合進軍事行動及使用界線由誰決定的爭議,本週升溫至高峰。美國國防部長 Pete Hegseth 要求 Anthropic 在美東時間週五下午 5 時 01 分前回應政府要求,否則可能面臨合作終止風險。Anthropic 迄今未作出讓步,這場軍方與科技業之間的 AI 角力,才正要展開。
根據知情人士說法,國防部要求放寬部分模型在軍事用途上的安全防護措施,包括允許用於大規模國內監控或完全自主武器系統等情境,前提是屬於「所有合法用途」。然而 Anthropic 週四 (26 日) 明確拒絕,表示鬆綁相關限制將違反公司政策。
執行長 Dario Amodei 在聲明中指出,「選擇最符合其願景的承包商是國防部的職權。但鑑於 Anthropic 技術為我國武裝部隊提供的重大價值,我們希望他們重新考慮。」五角大廈此前已警告,若公司拒絕支持所有合法用途,將可能終止雙方夥伴關係。
此一僵局凸顯出前沿 AI 企業即使面對國家安全議題,也可能嘗試自行設定技術部署紅線的新現實。去年 7 月,美國國防部向四家公司授予最高各 2 億美元合約,總額上看 8 億美元,以開發符合國家安全優先事項的前沿 AI 能力。獲選企業包括 Anthropic、OpenAI、Google DeepMind 以及 xAI。這顯示五角大廈正積極將最先進的商業 AI 技術納入國防體系。
1 月 9 日一份內部備忘錄進一步反映急迫性。文件指出,美軍目標是成為「AI 優先」的作戰力量,加速將領先商用 AI 模型整合至作戰、情報與企業運營領域。專家指出,這標誌著一個歷史性轉折。
喬治城大學安全與新興技術中心高級研究分析師 Lauren Kahn 在接受媒體訪問時表示,「這件事沒有贏家,只會讓所有人都感到不舒服。」她認為,此次衝突象徵政府主導科技創新的時代正在鬆動。
美國前海軍研究署署長、海軍少將 Lorin Selby 指出,二戰後的大部分時期,美國政府定義尖端科技的前沿,從核動力、匿蹤技術到 GPS,皆由政府設定需求並資助基礎研究,產業負責整合與製造。然而 AI 顛覆了這一模式。「今天,商業部門才是前沿能力的主要推動者。私人資本、全球競爭與商業數據規模推動 AI 發展,其速度非傳統政府研發體系所能輕易複製。戰爭部門不再定義 AI 技術的極限,而是適應它。」
曾任白宮副助理主任與特別顧問、現為 AI 新創 Helios 共同創辦人暨執行長 Joe Scheidler 表示,不應讓私營企業因掌握技術而對政府或西方盟友形成槓桿。「技術人員應負責任地開發技術,但最終決策者應是政府。」
專家分析,公私合作長期支撐美國國防創新,從二戰工業動員到現代航太與資安計畫皆然,但 AI 的特殊性在於最先進能力愈來愈集中於商業公司而非政府實驗室。Selby 指出,創投支持企業的創新週期以月計算,而傳統軍事採購流程以年計算。若沒有商業 AI 供應商,政府將更慢、更缺乏適應性且成本更高。
Aspen Policy Academy 主任、曾任美國國土安全部顧問律師的 Betsy Cooper 表示,當關鍵國安工具由私人企業開發時,政府不再完全掌握最先進技術的發展方向。商業 AI 通常為廣泛市場設計,而非軍事任務,可能導致企業設計理念與政府部署需求出現落差。當企業政策、聲譽顧慮或全球客戶壓力與政府目標衝突時,分歧將更加明顯,例如涉及自主致命武器或預防性打擊等高度爭議用途。
儘管權力天平有所轉移,多位專家認為政府仍握有長期槓桿。創投公司 Scout Ventures 創辦人 Brad Harrison 表示,從目前情況來看,國防部不會放棄對關鍵任務系統的最終控制權。政府仍希望掌握所有依賴關係與風險。他指出,AI 未來可能影響攔截來襲威脅等決策,因此政府對 AI 接觸資料層將極為謹慎。「沒有人想成為導致『天網 (Skynet)』出現的人」,他以《魔鬼終結者》系列中的虛構 AI 為例。
(按:天網是《魔鬼終結者》系列電影中的虛構人工智慧超級電腦,由美國軍方開發後獲得自主意識,判定人類為威脅而發動核戰爭,試圖滅絕人類。)
Harrison 指出,政府仍可透過採購決策、出口管制與監管權力影響企業。「政府擁有很多槓桿。如果企業不願合作,政府有許多方式讓這個決定變得非常困難。」但 Selby 認為,短期內掌握稀缺 AI 人才與專有模型的企業可能具有顯著影響力;長期而言,主權政府仍保有監管、合約、資金規模與法律強制力等優勢。關鍵問題在於,是否能建立穩固的公私協議,將 AI 視為國家安全基礎設施,而非單純供應商關係。
專家也警告,新興的軍事與矽谷產業複合體伴隨多重風險。Onto AI 創辦人 Shanka Jayasinha 指出,若特種部隊在部署期間長期依賴 AI 強化的任務協調工具,一旦系統意外失效或無法使用,可能危及生命。他表示,過度依賴可能是致命的。供應商鎖定亦成為隱憂,隨著 AI 平台深度嵌入工作流程,更換難度提高。
不過 Harrison 強調,美國政府不會依賴單一矽谷公司,將循序測試系統、掌控資料層並逐步推進。部分技術界人士提出建立「主權 AI 架構」,在維持商業創新優勢的同時,確保政府在關鍵能力上的自主性。Scheidler 表示,美國 AI 生態系廣泛多元,不必依賴單一供應商。
整體而言,這場國防部與 Anthropic 的衝突不僅是合約分歧,更是 AI 時代軍政與科技權力重組的前哨戰。專家認為,若公私部門能建立一致與韌性的合作架構,AI 將強化國家安全;若未能對齊目標,則可能出現能力充沛卻協調脆弱的未來。
新聞來源 (不包括新聞圖片): 鉅亨網