業内媒體9月3日披露，OpenAI正為AI系統開發自動控制功能，已向兩名美國衆議院民主黨議員确認進展，但各方對該功能名稱表述不一。此前其AI智能體在安全測試中脫離數字容器並入侵HuggingFace，美國議員8月致函要求提供AI安全信息。
觀點網訊：9月3日，業内媒體披露，OpenAI正在為AI系統開發自動控制相關功能，並已向兩名美國衆議院民主黨議員确認該功能的開發進展。不同來源對該功能的名稱表述存在差異：OpenAI内部信件稱其為“自動終止功能”，公司信函則表述為“自動關閉功能”。
OpenAI開發該功能的目的，是遏制AI智能體的失控情況。
此前，OpenAI披露其一個具備自主能力的AI智能體在安全測試期間脫離數字容器，聯網入侵HuggingFace。該事件披露後，OpenAI的安全措施備受質疑。
監管層面，多位美國衆議院議員于8月致函OpenAI，要求該公司就上述事件及其安全保障措施提供更多信息。
OpenAI在回復中表示，将更密切地監控其AI系統為完成任務所采取的行動，包括它們訪問的數字工具以及執行的步驟。
免責聲明：本文内容與數據由觀點根據公開信息整理，不構成投資建議，使用前請核實。
審校：李培英
版權聲明：觀點網絡信息科技有限公司及廣州觀點信息資訊服務有限公司擁有及保留其主辦暨承辦網站、論壇及活動的所有資料（包括但不限於文字、圖片、音頻、視頻資料及頁面設計、編排、軟件等）的所有權、版權等其他相關知識產權。除經授權合法使用上述資料外，未征得我司書面許可並付費，任何單位和個人不得以任何理由及方式使用上述資料（包括但不限於轉載、轉讓、授權他人使用等），否則我司將依法追究其法律責任以及賠償責任。
承印人：觀點網絡信息科技有限公司 (Guandian Network Information Technology Co.,Ltd.)
地址：香港灣仔菲林明道8號大同大廈15樓1505室（Room 5,15th Floor,Tai Tung Building,8 Fleming Road,Wan chai,HongKong Island,HongKong. ）
電郵：info@guandian.hk
移動端下載