RISC-V陣營的振奮時刻！Meta可能是採用RISC-V架構設計自家AI晶片 原文網址:https://bit.ly/3FzjFV7 原文: Meta正在悄悄測試基於RISC-V的AI訓練晶片。如果該晶片滿足Meta的目標，它可能會減少 對高階輝達AI GPU（如H100/H200和B100/B200）的依賴，用於訓練先進的大語言模型。以 目前來看，Meta和博通合作推出了首款AI訓練加速器，台積電則生產了初始工作樣品。 其實早在2023年，Meta推出了第一代自家AI推理加速器，旨在為臉書和Instagram的排名 和推薦系統提供支持，隨後在2024年4月推出了一個新版本，將運算和記憶體頻寬增加了 一倍。 後來在2024年Hot Chips研討會上，Meta就透露其推理晶片基於台積電的5奈米製程打造， 處理單元核心是基於RISC-V架構。 如今隨著路透社獨家揭露，Meta正在為AI訓練而設計晶片，但是其卻未提到是採用RISC-V 架構。 MTIA(Meta Training and Inference Accelerator)的推理加速器使用開源RISC-V核心。 這使得Meta能夠根據自己的節奏自訂指令集架構以滿足其要求，且不需要向任何第三方支 付版稅。目前尚不清楚MTIA的訓練加速器是否也基於RISC-V ISA，但可能性非常之大。如 果這是真的，Meta可能已經開發出業界性能最高的基於RISC-V的晶片之一。 根據專家判斷，預計該處理器將配備HBM3或HBM3E記憶體。由於其屬於客製化處理器，因 此是由Meta定義了其支援的資料格式和指令，以優化晶片尺寸、功耗和效能。至於性能， 該加速器必須提供與輝達AI GPU具有競爭力的每瓦性能特性。 雖然該晶片的具體規格仍然是個謎，但AI訓練硬體通常依賴脈動陣列(systolic array)架 構，旨在透過矩陣和向量運算處理海量數據集。 Meta設計這一晶片的風險是，在有限的部署測試中，其內部推理處理器如果未能達到效能 和功率目標，因此可能會停止生產。這一案例就曾經發生在2022年的Meta公司，進而讓其 改變策略，改為大量訂購輝達GPU，以滿足其即時的AI處理需求。 自那時起，Meta已成為輝達最大的客戶之一，並購買了數萬顆GPU。這些單元對於訓練推 薦、廣告和Llama Foundation模型系列的AI模型至關重要。因此，Meta的RISC-V之AI訓練 晶片能否在2026年達到Meta客製化AI晶片的目標，就成為其未來命運走向的關鍵。 從長遠來看，儘管面臨這些挑戰，Meta勢必仍在繼續推進其客製化矽晶片計劃，畢竟，AI 是長久趨勢，Meta不可能放棄自行研發AI晶片的努力。 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1742190918.A.13C.html