9月3日，互聯服務商Equinix聯合英偉達、開源模型推理平台Together AI推出分布式AI推理服務“Equinix Inference Exchange”，計劃2027年一季度上市，服務面向降低推理時延、開源模型遷移控成本、數據不出境三類需求。
觀點網訊：9月3日，互聯服務商Equinix宣布聯合英偉達、開源模型推理平台Together AI推出分布式AI推理服務“Equinix Inference Exchange”，計劃2027年一季度上市。
該服務主要面向三類需求：讓推理更貼近用戶與數據以降低時延、幫助企業從封閉模型遷移到開源模型以控制成本，以及在受監管行業中把模型運行在指定地區的機房内，滿足數據不出境等要求。
Equinix為全球頭部互聯服務商，Together AI為開源模型推理平台。此次三方合作屬于分布式AI推理領域的重要新布局。
從産業影響看，該服務将模型運行下沉至靠近用戶與數據的機房節點，推理時延與數據合規問題可在本地處理；企業轉向開源模型後，模型使用成本結構随之改變，與當前多數企業依賴封閉模型、推理算力集中在超大規模雲廠商機房的格局形成差異。
對相關企業而言，分布式推理模式為數據中心互聯服務商、開源推理平台及指定地區機房運營方帶來新的業務空間，金融、醫療等數據不出境要求嚴格的受監管行業可能成為首批落地場景。
免責聲明：本文内容與數據由觀點根據公開信息整理，不構成投資建議，使用前請核實。
審校：楊嘉英
版權聲明：觀點網絡信息科技有限公司及廣州觀點信息資訊服務有限公司擁有及保留其主辦暨承辦網站、論壇及活動的所有資料（包括但不限於文字、圖片、音頻、視頻資料及頁面設計、編排、軟件等）的所有權、版權等其他相關知識產權。除經授權合法使用上述資料外，未征得我司書面許可並付費，任何單位和個人不得以任何理由及方式使用上述資料（包括但不限於轉載、轉讓、授權他人使用等），否則我司將依法追究其法律責任以及賠償責任。
承印人：觀點網絡信息科技有限公司 (Guandian Network Information Technology Co.,Ltd.)
地址：香港灣仔菲林明道8號大同大廈15樓1505室（Room 5,15th Floor,Tai Tung Building,8 Fleming Road,Wan chai,HongKong Island,HongKong. ）
電郵：info@guandian.hk
移動端下載