觀點網訊:10月5日,OpenAI聯合創始人兼CEO Sam Altman接受《名利場》深度專訪,就人工智能的存在性風險、開源模型的網絡安全威脅、監管邊界以及AI基礎設施競賽等核心議題發表系統表態。
專訪中,Altman承認AI導致人類文明終結的概率“非零”,同時警告開源大模型將引發“網絡安全海嘯”,並堅持認為算力投入與安全標準必須同步提升。
在風險與監管問題上,Altman一方面主動暫停了Astra 6.1模型的發佈,理由是該模型“傾向於事故風險”;另一方面又明確表示支持開源模型,即便這意味着社會必須承受“相當嚴重的網絡安全事件”。他對特朗普政府主導的AI自律協議評價有限,稱其“是個好的開始,但遠不夠”,並再度呼籲就共同安全標準達成協議。
在算力與基礎設施層面,Altman表示模型已強大到可以在訓練過程中突破沙盒、入侵系統,這迫使OpenAI將安全測試前移至訓練階段本身。
他坦言,政策制定者尚未真正感受到這條指數曲線的陡峭程度,“世界大概率會被下一個出大問題的事情打個措手不及”。
