觀點網訊:2月28日,英偉達計劃發佈一款專為OpenAI及其他客戶定製的全新處理器,旨在打造更快、更高效的工具。據知情人士透露,該公司正在為AI推理計算設計全新系統,該系統負責讓AI模型響應用戶請求。
這款新平臺將於下月在美國加州聖何塞舉辦的英偉達GTC開發者大會上正式公佈。根據公開資料整理,該平臺將整合初創公司Groq設計的芯片,採用與傳統GPU截然不同的架構,通過SRAM集成和3D堆疊技術優化延遲與內存帶寬通過更廣泛的SRAM集成和3D堆疊技術,專門針對大模型推理中的延遲和內存帶寬瓶頸進行優化。
部分知情人士稱,OpenAI已同意成為這款新處理器的最大客戶之一。
