AI 應用 AMD 與 Cohere 擴大 AI 合作 強調效能、主權部署與成本優勢

soothepain

full loading
已加入
9/17/03
訊息
22,149
互動分數
1,978
點數
113
網站
www.coolaler.com
AMD 近日宣布,將與加拿大 AI 公司 Cohere 擴大全球合作,進一步強化 AI 基礎設施與企業應用的結合。此合作的重點在於,Cohere 客戶未來能直接透過搭載 AMD Instinct GPU 的平台,使用完整的 AI 模型套件,包括 Command A 系列模型、Command A Vision、Command A Translate 以及 North,瞄準企業與政府在主權 AI 部署上的需求。

amd_ai.jpg


同時,AMD 也計畫把 Cohere 的 North 平台整合進自家內部 AI 產品組合,讓這套技術成為 AMD 工程與企業 AI 工作負載的一部分。

Cohere 共同創辦人 Nick Frosst 表示,這項合作能讓公部門與私人企業在 AI 部署上有更多選擇,不僅能運行 Cohere 的基礎模型,也能在安全最佳化的環境下靈活應用。他強調,AMD Instinct GPU 在效能與總體擁有成本(TCO)上的優勢,特別適合主權 AI 計畫需求。

AMD 人工智慧事業群資深副總裁 Vamsi Boppana 也指出,Cohere 全方位的 AI 解決方案能在 AMD Instinct 平台上運行,為企業與政府提供更好的效能、效率與記憶體容量,同時兼顧能源效率,這對加速 AI 轉型相當關鍵。

事實上,AMD 與 Cohere 已經在大型語言模型(LLM)的最佳化合作上有一定基礎。雙方先前展示過的部署成果,能提供長上下文推理與複雜工作負載所需的記憶體頻寬,同時降低伺服器佔用空間與成本。

整體來看,AMD 與 Cohere 的合作不只是技術面,也帶有策略意涵:一方面,AMD 透過 Instinct GPU 在 AI 市場尋求更多突破;另一方面,Cohere 則能藉此強化其在主權 AI 部署與安全合規方面的市場地位。這項結盟,將在企業與政府的 AI 基礎建設中,提供更多彈性選擇。