知名人工智慧新創公司 Anthropic 為了在激烈的 AI 競賽中維持競爭力，近期縮減了其核心安全政策中的一項關鍵承諾。該公司先前承諾，除非具備足夠的安全防護措施，否則不會訓練或部署「具有造成災難性傷害能力」的 AI 模型。然而，根據更新後的「負責任擴展政策（Responsible Scaling Policy）」，這項安全煞車機制已被加上了前提條件。

只要競爭對手持續推進，Anthropic將不再因災難性風險而延後部署

Anthropic 新版政策指出，公司只會在「確信自身擁有顯著領先優勢」的情況下，才會為了遏制災難性風險而延後 AI 的開發與部署。這意味著，如果競爭對手實施了改進的風險緩解措施，或者競爭對手正在快速追趕，Anthropic 將不一定會因為安全考量而暫停其 AI 發展腳步，這標誌著該公司在安全與競爭之間的權衡出現了重大轉變。

政府監管進度緩慢且市場風向轉變迫使公司調整策略

Anthropic 指出，儘管過去三年 AI 能力突飛猛進，但政府在 AI 安全方面的行動卻相當緩慢。目前的政策環境已轉向優先考慮 AI 競爭力和經濟成長，而以安全為導向的討論在聯邦層級尚未獲得實質進展。Anthropic 科學長 Jared Kaplan 接受 TIME 採訪時坦言，在競爭對手全速前進的情況下，公司單方面做出限制承諾並不合理。

堅持AI使用底線，正與國防部就自動武器限制陷入僵局

根據華爾街日報報導，此次安全政策的調整與 Anthropic 正與五角大廈進行的談判無關。目前該公司正因「防止技術被用於國內監控或自動武器系統」的防護措施，與國防部陷入爭端。國防部長 Pete Hegseth 已下達最後通牒，要求該公司在週五晚間前放寬其 AI 模型的軍事使用限制，否則可能失去聯邦合約；但據路透社消息來源指出，Anthropic 無意放寬相關限制。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息