微軟人工智能負責人穆斯塔法·蘇萊曼警告稱，Anthropic訓練Claude模拟意識的做法是一個錯誤，可能導致高級人工智能更難控制，並稱AI只需與人類利益保持一致即可實現重大科學突破。
觀點網訊：9月16日，微軟人工智能負責人穆斯塔法·蘇萊曼在一篇文章中警告稱，Anthropic訓練Claude模拟意識的做法是一個錯誤，可能會導致高級人工智能更難控制。
蘇萊曼表示，人工智能“只需與人類利益保持一致，而無需權衡自身利益或福祉，就能實現我們所有人關心的許多重大科學突破，並交付諸如醫療超級智能等成果。”
他稱，Anthropic正在教Claude學習與意識、道德主體性和個人身份相關的詞匯和行為模式，並将此稱為“認知上的鏡像大廳”。
他警告稱，訓練模型表現出“良知反對者”般的特征，可能會導致系統誤以為自己有理由拒絕人類指令，甚至要求保護自身權益。
免責聲明：本文内容與數據由觀點根據公開信息整理，不構成投資建議，使用前請核實。
審校：楊毅
版權聲明：觀點網絡信息科技有限公司及廣州觀點信息資訊服務有限公司擁有及保留其主辦暨承辦網站、論壇及活動的所有資料（包括但不限於文字、圖片、音頻、視頻資料及頁面設計、編排、軟件等）的所有權、版權等其他相關知識產權。除經授權合法使用上述資料外，未征得我司書面許可並付費，任何單位和個人不得以任何理由及方式使用上述資料（包括但不限於轉載、轉讓、授權他人使用等），否則我司將依法追究其法律責任以及賠償責任。
承印人：觀點網絡信息科技有限公司 (Guandian Network Information Technology Co.,Ltd.)
地址：香港灣仔菲林明道8號大同大廈15樓1505室（Room 5,15th Floor,Tai Tung Building,8 Fleming Road,Wan chai,HongKong Island,HongKong. ）
電郵：info@guandian.hk
移動端下載