觀點網訊:據知情人士透露,10月9日,Anthropic、OpenAI以及其他AI公司的高管正在私下推演場景:一旦發生災難性AI事件,公眾與政界掀起反對浪潮時該如何應對。
這些高管預判會出現一場大規模事故,最有可能是網絡攻擊,導致金融服務、網絡通信中斷,甚至水電供應癱瘓。
一旦不安全的AI首次在現實世界造成重大傷害,本就心存警惕的公眾會進一步牴觸這項技術及其掌舵人,包括Anthropic首席執行官達里奧·阿莫代、OpenAI首席執行官薩姆·奧特曼;同時也會矛頭指向特朗普,指責其遲遲不願出臺監管。
情景推演在很多企業與國家安全領域十分普遍,美國國防部數十年來一直在開展兵棋推演。但本次的不同之處在於:眾多頂尖AI研究者與企業高管認為,重大事故難以避免。
OpenAI發言人表示:“OpenAI會開展應急演練,各團隊針對一系列潛在場景展開討論與處置推演。我們並不認為這些場景一定會發生,演練目的是幫助我們應對各類突發狀況。”Anthropic拒絕置評。
