4月1日,螞蟻集團AI安全實驗室與清華大學聯合開源ClawAegis,該繫統可實時識别惡意指令注入、防止模型被“催眠”,並為敏感操作提供動态權限校驗與熔斷機制。
觀點網訊:4月2日,螞蟻集團AI安全實驗室與清華大學聯手開源ClawAegis。
據介紹,這是一套專為OpenClaw類自主智能體推出的“原生安全免疫繫統”,它既能實時識别惡意指令注入和意圖篡改,防止模型被“催眠”,也能在智能體準備執行敏感操作時動态介入,進行權限校驗和行為審計,甚至針對死循環或資源濫用提供熔斷機制,保障宿主機的穩定性。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
審校:楊曉敏
