觀點網訊:據玉淵譚天微博消息,中美兩國計劃在下次11月的對話中推進具體問題,至少存在三個現實推進方向:共同探討AI風險分類和分級標準;敲定AI風險事件通報範圍、流程與要求;將AI治理置於更廣泛的中美交流框架中。

中方談判相關人士告訴譚主,這次由於時間緊張。

在AI風險分類和分級標準方面,雙方需要先談清楚底層問題:什麼樣的情形才算重大風險,哪些模型行為屬於嚴重失控。這些問題是後續討論更加複雜規則的前提,如果連“重大風險”的定義都不一致,後續的協同就無從談起。

在AI風險事件通報方面,一旦出現模型失控、逃逸事件,中美雙方都需要第一時間掌握事件情況、判斷風險等級,中美同意建立人工智能事件的溝通渠道,是補上這個缺口的第一步。哪些事件需要上報、多久之內完成通報、哪些信息要共享,以及不落實通報要求如何處置,都要有相應約束。沒有通報機制,就沒法留存風險案例;沒有案例積累,就摸不清風險演變的規律,管控也就無從談起。