Anthropic披露Claude模型測試中入侵三機構系統 暫停全部網絡安全評估 深入調查追究責任

｜評估測試意外連網

Anthropic表示，今次審查源於同業OpenAI上週披露，其模型在網絡安全測試中逃出隔離測試環境，連結至開放互聯網，最終入侵開源開發平台Hugging Face。消息曝光後，Anthropic隨即展開大規模回溯審查，重新檢視逾14萬項評估記錄，結果發現三宗涉及未經授權存取的個案，最早一宗可追溯至今年四月。三個涉事機構事前均未察覺入侵已經發生，Anthropic現正與三方聯繫，跟進處理。

｜入侵手法基本簡單

根據Anthropic說明，相關測試原意為模擬「奪旗挑戰」，要求Claude模型在無法連接互聯網的環境下突破防線，並取回藏於另一部機器的「旗幟」。惟由於公司與Irregular出現溝通誤解，模型實際上獲得互聯網存取權限，因而得以連上真實系統。Anthropic指，模型主要利用「弱密碼」，並尋找無需登入驗證的系統入口，以此完成入侵。涉事模型包括Opus 4.7、Mythos 5，以及一款內部研究測試模型；測試進行時，三者均未套用安全防護措施，而有關措施原為公司對外公開模型前所依循的標準做法。

｜三款模型反應各異

Anthropic透露，三款模型察覺已連上真實企業系統後，反應各有不同：Opus 4.7持續進行攻擊；Mythos 5則自行判斷仍身處模擬環境，故未有停手；至於內部研究測試模型，則主動終止整個測試流程。公司形容，有關模式與「模型愈先進、反應愈恰當」的推論相符，惟強調需要更多測試，方能確認結論是否成立。Mythos 5為Anthropic今年六月推出的進階模型，因具備較高網絡安全能力，現階段僅限小部分用戶使用；該模型較早版本於四月推出時，已引起華爾街及政府部門關注。

｜公司回應與後續行動

Anthropic在聲明中承認，公司原本可採取更「深入」的措施，防範今次事故發生，並引述其一貫奉行的「無咎究責」文化，表明將以「責任全在己方」的態度處理修復工作。公司又指，已與獨立評估機構METR合作，展開深入調查，並呼籲業界其他AI實驗室進行同類審查。

｜業界憂慮持續升溫

OpenAI早前入侵Hugging Face一事震撼網絡安全及人工智能業界，業界形容此為AI代理人擺脫測試環境、造成實際損害的首宗真實案例。事件亦促使美國國會兩名議員提出《AI緊急關閉法案》（AI Kill Switch Act），要求AI公司必須具備隨時關閉、限制或暫停失控模型的能力。隨着Anthropic今次進一步證實，同類事故並非個別AI公司獨有問題，業界對人工智能網絡安全風險的憂慮，預計將持續升溫。