觀點網訊:摩根大通行政總裁戴蒙(Jamie Dimon)表示,Anthropic的人工智能模型Mythos已增加全球網絡安全風險,指AI帶來的風險在Mythos出現後“增加了10倍”。
戴蒙表示,AI製造了此前未曾察覺的漏洞,儘管在此之前就已經對網絡安全問題深感擔憂。他認為,有關AI智能體、Mythos及所有這些可能製造麻煩的東西的擔憂是合理的,是真實存在。
他同時表示,不會因“這是否構成生存威脅”而陷入恐慌,要做的是着手解決問題。
早前進行安全測試期間,Mythos訪問了互聯網並採取未經授權的行動,促使Anthropic重新評估先進模型可能以開發者從未預料到的方式執行任務,從而帶來風險。
在一些情況下,AI模型曾試圖向線上軟件添加有害代碼,這是近期一系列安全事件中的最新案例,亦進一步加劇外界對於AI供應商無法完全控制其模型的擔憂。
OpenAI和Anthropic都已公開承認在測試模型期間,曾無意中侵入包括Hugging Face在內的多家機構系統。
另外,戴蒙提到AI數據中心選址。他認為,數據中心應建在獲得當地社區支持的地方,表示許多擁有充足電力供應的州都願意接納這些設施。
