OpenClaw 是一款廣受科技人士歡迎的人工智慧代理平台，由目前已加入 OpenAI(OPAI.PVT) 的開發者打造。這款工具允許使用者在個人電腦上建立專屬的 AI 代理，協助處理檢查電子郵件、回覆訊息以及管理系統檔案等日常任務。雖然這些功能令人驚豔，但也帶來了潛在的資安夢魘，因為這等於是將電腦的控制權交給了 AI 模型。當系統運作正常時當然很方便，但若發生失誤，可能會導致重要郵件或整個程式被永久刪除的嚴重後果。對於在企業設備上測試這項技術的公司來說，這更是一個巨大的隱憂。

輝達與思科相繼推出專屬AI安全平台

為了解決這個日益擴大的安全問題，許多科技機構紛紛推出全新的資安解決方案來管控這類人工智慧代理，確保其帶來的便利性大於潛在麻煩。輝達(NVDA)在上週於加州聖荷西舉行的 GTC 大會上，率先展示了名為 NemoClaw 的專屬平台。緊接著，思科(CSCO)也在週一正式宣布進軍這個新興市場。

AI代理宛如無經驗青少年需加強防護

思科(CSCO)總裁兼產品長 Jeetu Patel 解釋：「這類 AI 代理的出現就像是 ChatGPT 剛問世時帶來的震撼，它成為了一個催化劑，讓具備科技背景的使用者能更輕易地在工作與家庭環境中部署這項技術。」然而，Patel 也點出其中的挑戰在於對這些代理的信任與安全風險。他形容這些 AI 代理就像是青少年，充滿自信卻缺乏經驗，不僅無法完全理解行為造成的後果，更不知道界線與規則在哪裡。

思科採取多管齊下策略確保資安無虞

為了消除市場疑慮，思科(CSCO)表示正採取多管齊下的策略，旨在保護外部環境免受惡意 AI 代理的破壞、保護 AI 代理免受外部攻擊，同時利用 AI 技術來偵測駭客與惡意行為者的潛在威脅。保護外部環境免受 AI 代理破壞聽起來可能有些誇張，但 Patel 認為這絕非危言聳聽。就像任何軟體一樣，AI 代理也可能被利用來攻擊基礎設施或竊取機密數據。

給予數位助手身分驗證防範災難失誤

Patel 強調，使用 AI 代理的風險遠高於一般的聊天機器人。聊天機器人最糟的情況頂多是給出錯誤的答案，但 AI 代理最糟的情況卻是採取了錯誤的實際行動，其中一些行為可能具備災難性，例如清空銀行帳戶或刪除無法復原的重要電子郵件。因此，思科(CSCO)與其他科技公司一致認為，最好的應對方式是將 AI 代理視為人類員工，賦予它們可驗證的數位身分以便管理，並為這些數位助手提供存取特定系統與服務的適當權限。

模擬攻擊測試防止AI遭駭客越獄控制

另一方面，保護 AI 代理免受外部威脅，是為了防止駭客「越獄」並強迫 AI 執行原本被禁止的任務。為達成這個目標，思科(CSCO)即將推出一項全新服務，允許客戶對其 AI 代理進行模擬攻擊測試，藉此找出系統的優勢與防護漏洞。此外，該公司也計畫利用 AI 代理來應對其他人工智慧帶來的威脅，確保客戶能夠以與攻擊者相同的速度做出即時反應。

AI爆炸性成長帶動網路安全技術升級

這波由人工智慧代理引發的熱潮只是 AI 爆炸性成長的最新演進，預期將在不久的將來推動更多變革。畢竟，這項技術才剛在去年十一月首次亮相，如今卻已經成為影響大型企業商業決策的關鍵因素。這種快速的發展勢必會衍生出更多新型態的網路安全技術與防護策略，以協助資安人員能迅速追上攻擊者的腳步，確保企業數據的絕對安全。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息