觀點網訊:11月10日,思科宣佈,將Anthropic最新安全測試模型Claude Mythos整合至其AI安全平臺Cisco AI Defense,用於AI應用和智能體的紅隊測試,提升企業AI系統的紅隊測試能力。
根據思科提供的資料,Cisco AI Defense將成為首批利用Claude Mythos強化自適應紅隊測試的AI安全產品之一。
思科產品組合策略及市場營銷資深副總裁Jeff Schultz表示,企業正加速導入AI Agent技術,但安全團隊面臨前所未有的挑戰。相比以往只需關注模型行為,企業現時更需理解Agent在連接工具、技能及敏感數據後的實際運作風險。由於每家企業環境均不相同,安全團隊必須在黑客發動攻擊之前,率先找出自身部署中的獨特漏洞。
Cisco AI Defense現時已提供標準紅隊測試及自適應紅隊測試兩種模式。其中,標準紅隊測試主要檢測常見AI安全風險,包括提示詞注入、越獄攻擊、敏感資料泄露、有害內容生成等,系統可於數分鐘內完成數千種不同攻擊類型與場景測試。該整合亦可確保測試數據私隱,防止數據回饋至模型訓練。
整合Claude Mythos的版本將率先開放予部分企業客戶試用,未來按條件擴展至更多合資格客戶。
