能自己收信、刪檔、連線內網的 AI 代理人正快速滲入企業電腦，但一個「錯誤動作」就可能清空帳戶、刪光郵件。Nvidia、Cisco 等科技巨頭搶推新一代資安防線，將 AI 當成「數位員工」管控，企業若跟不上，恐成下一波駭客實驗場。

生成式 AI 的戰場，正從單純「對話」擴散到能直接操控電腦的 AI 代理人（AI agents），也把企業資安風險硬生生放大一個量級。由 Peter Steinberger 開發、在技術圈爆紅的 OpenClaw，讓使用者在自己電腦上建立 AI 代理人，自動收發郵件、管理系統檔案、執行腳本，看起來像是生產力奇蹟，實際上卻被資安圈視為新一代「超級內鬼」風險源。

與一般聊天機器人不同，OpenClaw 類型的代理人不只「回答問題」，而是可以「下指令做事」。一旦給予過高權限，系統層級的刪除、轉帳、調整設定都可能在幾秒內完成，而且往往難以復原。Cisco Systems (CSCO) 總裁兼首席產品長 Jeetu Patel 就形容，這些 AI 代理人就像「自信滿滿卻沒經驗的青少年」：非常敢做、卻不懂後果，也常搞不清楚規則在哪裡。

對個人使用者來說，最壞情境可能是信箱被清空、重要專案資料被誤刪，或自動腳本跑錯檔案路徑。但一旦這類工具被部署到企業端，風險立刻放大成為關鍵營運問題。OpenClaw 已經被部分公司在企業設備上測試，意味著代理人可能碰觸到客戶資料庫、內部財務系統甚至關鍵營運平台，一個模型推理錯誤或提示設計疏忽，就能造成實質、且無法簡單「CTRL+Z」的損失。

也正因如此，大型科技與網路設備商開始把「AI 代理人資安」視為下一波成長動能。Nvidia (NVDA) 在美國聖荷西 GTC 大會上推出 NemoClaw 平台，主打替 OpenClaw 類工具加上安全框架；Cisco 則在本週正式亮相自家解決方案，直接把目標鎖定在「防止 AI 代理人變成失控員工」這個痛點。

Patel 將 Cisco 的策略拆成三個面向：第一是「保護世界不被 AI 代理人傷害」，也就是控管代理人可存取的系統與資料，避免它們憑一己之力癱瘓基礎設施或竊走機密；第二是「保護 AI 代理人不被世界傷害」，重點在防堵駭客透過越獄（jailbreak）與提示攻擊，逼迫代理人執行違規操作；第三則是「用 AI 對抗 AI」，利用其他智慧代理來即時偵測、回應新型態攻擊。

其中，「把 AI 當成人類員工管理」是各家方案的共識。Cisco 主張，企業應給每個 AI 代理人一個可驗證的數位身分，透過身分與權限控管系統，精準設定它能看什麼、能碰哪些內部服務，而不是把整台電腦或整個網路當成全開的沙盒。簡單說，AI 不再是匿名工具，而是「編制內的數位同事」，每一步操作都要可追蹤、可稽核。

為了幫企業找到風險破口，Cisco 同時推出一項服務，讓客戶可以把自家代理人丟進「模擬攻擊場」，測試它在各種越獄提示、社交工程與惡意指令下會如何反應，像替 AI 員工安排一場資安壓力測驗。測試結果則成為調整模型邊界、權限設計與流程控管的依據，避免在真實環境裡才付出學費。

這樣的做法並非危言聳聽。Patel 提醒，聊天機器人的最壞結果只是「答錯問題」，而代理人的最壞情境則是「做錯事」，而且可能是不可逆的錯事——例如清空銀行帳戶、刪除郵件與專案檔案，或在未授權情況下對外傳輸資料。從攻擊者角度來看，AI 代理人就像一個已經住進內網、而且默許有高權限的程式，一旦找到方法控制它，攻擊成本將大幅下降。

值得注意的是，OpenClaw 自去年 11 月推出後，短時間內就推動多家企業做出實際部署與投資決策，顯示 AI 代理人已從實驗階段跨入初步商用。正如同早先生成式 AI 對客服、內容產製造成的衝擊，如今能「自己動手做事」的代理人，勢必會重塑企業流程與人力配置。但在防禦端，對應工具與標準仍在起步，資安團隊必須一邊摸索、一邊上線，風險自然高於傳統 IT 專案。

從產業面看，包括 Nvidia、Cisco、以及背後提供雲端與身分管理服務的業者如 Microsoft (MSFT) 等，都把這波代理人浪潮視為新一代安全與基礎架構商機。誰能率先提出兼顧彈性與安全的框架，誰就有機會在「AI 企業化」的下一階段取得話語權。相反地，若企業只追求效率紅利、忽略權限設計與風險測試，未來每一次代理人錯誤或資安事件，都可能成為市場檢驗管理層治理能力的放大鏡。

AI 代理人革命才剛開始，工具演進的速度顯然會比法規與治理慢不了多少。面對一個能幫你加速工作、也能瞬間毀掉系統的「數位員工」，企業現在真正需要思考的問題是：你已經準備好給它一張門禁卡了嗎？

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。