Stock 板


LINE

OpenAI秀自研晶片…宣稱Jalapeño效能超越輝達GB300 台廠沾光 https://udn.com/news/story/7240/9716370 2026-08-27 00:00 蘇嘉維 OpenAI大秀自研晶片Jalapeño效能實力並宣布,在每單位功耗可處理的AI工作量和回應 速度等兩項關鍵指標,均領先輝達GB300。未來有望引爆新一波OpenAI的ASIC伺服器商機 ,為鴻海(2317)、廣達、緯創等代工廠挹注新一波訂單。 外電報導,OpenAI硬體計劃負責人Richard Ho在半導體研討大會Hot Chips中指出,自研 晶片Jalapeño在每單位功耗可處理的AI工作量和回應速度等兩項關鍵指標均領先輝達 GB300,未來將會應用在OpenAI的AI模型推論。 據了解,OpenAI本次主要採用研究機構SemiAnalysis開發的推論測試程式InferenceX,比 較對象為輝達GB300,從各項測試場景中的性能功耗表現都勝過GB300。 Richard Ho表示,Jalapeño在測試結果來看,都能與當前最先進水平比擬,顯示效能表 現強勁。 其中,Jalapeño已在GPT-OSS 120B模型測試上,每秒可輸出約1,459個Token,輝達GB200 僅為535個;端到端延遲方面,Jalapeño完成一個任務僅需1.65秒,GB300則需近6秒,雙 方時間差達3.6倍。在高密集吞吐場景應用下,GB300最快解碼速度為每秒169個Token, Jalapeño輸送量是GB300的104.3倍。 OpenAI在今年6月宣布與博通合作開發的推論晶片Jalapeño開發成果,同時雙邊在開發晶 片還導入OpenAI的AI模型,讓Jalapeño開發到量產時間僅短短16個月,開發速度明顯較 半導體產業界所需的18~36個月左右期間。 Richard Ho 先前指出,我們根據前沿 AI 模型最關鍵的核心程式、記憶體資料流,以及 網路與服務模式,對架構進行最佳化。根據早期測試,Jalapeño 將能接近硬體理論極限 ,高效率執行最重要的工作負載。 OpenAI在端出高推論效能的Jalapeño晶片後,將有機會帶動未來新一波ASIC伺服器商機 。法人指出,目前負責Jalapeño伺服器的代工廠為Celestica,未來若OpenAI加大ASIC伺 服器採購量能,鴻海、廣達、緯創等代工大廠有望拿下OpenAI新訂單。 當前ASIC伺服器訂單商機火熱,除了OpenAI的Jalapeño外,微軟、Google、Meta及亞馬 遜等CSP大廠都有自研晶片計畫,ASIC伺服器訂單也由鴻海、廣達、緯創、緯穎、英業達 等代工廠分食,隨著自研晶片熱潮持續興起,ASIC伺服器商機跟著火熱。 心得/評論: Jalapeño 墨西哥辣椒 真的會辣掉GPU市場嗎? 雖然大家都搞ASIC 但皮客黃的GPU還是賣翻 成長動能預期還有70% 這市場真的這麼大? 伺服器的代工廠為Celestica 預期台廠會吃到單 這是騙炮嗎? --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1787788324.A.BEF.html
1F:推 ckskyline : 這麼快就來打老黃臉嗎 08/27 07:55
2F:→ dosiris : 這樣以後還能去兆元宴? 08/27 07:55
3F:推 andy79323 : 有人說黃啊 08/27 08:04
4F:推 guanting886 : 這代Jalapeño 2500-8000 SHU,下一代可以叫Serran 08/27 08:06
5F:→ guanting886 : o 08/27 08:06
6F:推 waitrop : 其實就只是TPU換皮加一些改進 08/27 08:07
7F:噓 a000000000 : 都逼康作的看起來差不多喇 08/27 08:09
8F:推 ting31823 : 沒產能沒用啊 08/27 08:09
9F:推 s454666 : 天下哭黃久矣 08/27 08:14
10F:推 dosiris : 洗勒滴卡 08/27 08:14
11F:推 AndyMAX : 給一家產能只有鴻海5%的代工 你說看好還是不看好 08/27 08:15
12F:推 waitrop : Richard Ho 之前是Google TPU design頭 08/27 08:16
13F:→ waitrop : OpenAI找Richard Ho,同一批人,跟博通下一樣的單 08/27 08:16
14F:→ waitrop : 當然某些設計會比幾年前改進,但還是同一顆TPU 08/27 08:17
15F:→ dosiris : 原來他後來去Open AI了 其實聯發科也有參與tpu設計 08/27 08:17
16F:→ dosiris : 等於改改設計圖 open ai就不必向谷哥買tpu 08/27 08:18
17F:推 truelove356 : 學中國的精髓 08/27 08:18
18F:→ dosiris : 老黃手上王牌只剩他也有挖角到的tpu之父了 08/27 08:19
19F:推 waitrop : 但是這幾個都不是Google TPU真正的架構師 08/27 08:19
20F:→ waitrop : Google TPU真正王牌架構師是Jeff Dean, D.Patterson 08/27 08:20
21F:→ dosiris : @@ 我以為tpu不就Jonathan Ross架構出來的嗎 08/27 08:21
22F:→ waitrop : 還有幾個躲在DeepMind, Richard Ho 不算架構師 08/27 08:21
23F:→ dosiris : Jeff Dean還無法為其他公司效力 08/27 08:21
24F:→ waitrop : onathan Ross是TPU第一代的TPM,他根本不懂架構 08/27 08:21
25F:→ waitrop : J Ross是TPM, Richard Ho是設計design DV 08/27 08:23
26F:→ waitrop : 但是真正設計架構,compiler,perf,model在DeepMind 08/27 08:23
27F:→ dosiris : Patterson還在狗狗 所以Page有在控管人才不被敵營用 08/27 08:23
28F:→ waitrop : 其實也不能說是DeepMind,是掌握在Google Brain手上 08/27 08:24
29F:→ dosiris : Hassabis離開 Deepmind就名存實亡了 沒權力了 08/27 08:25
30F:→ dosiris : Page現在不用的人才都控住不外流 比仙童半導體聰明 08/27 08:26
31F:→ dosiris : 但對矽谷和AI發展不是好事 08/27 08:27
32F:推 waitrop : J Dean, Patterson, Hassabis這種咖位的只能開公司 08/27 08:29
33F:→ waitrop : 去其他公司都是小廟容不了大神,下場會比楊立昆更慘 08/27 08:30
34F:→ dosiris : Hassabis搞AI應用 我覺得會很快 現在叫他去當首席.. 08/27 08:31
35F:→ dosiris : 就是供起來拜 08/27 08:31
36F:→ waitrop : 事實上,J Dean Patterson手上一堆startup公司 08/27 08:31
37F:→ waitrop : SiFive,MIPS背後老闆是Patterson 08/27 08:31
38F:→ waitrop : 整個risc-v幾乎是Patterson控制著 08/27 08:32
39F:→ dosiris : 這些大咖都文人相輕 當同事彼此不服 不如當老闆競爭 08/27 08:32
40F:→ dosiris : 對科技發展和成熟比較有幫助 08/27 08:33
41F:推 sky001tp : 代工的台積電或成最大贏家 08/27 08:36
42F:推 eipduolc : 豬屎屋要成顯學 08/27 08:40
43F:推 bhmagic : 那個Cerabas呢? Tenstorrent呢? 怎麼都被甩了 08/27 08:42
44F:→ dosiris : ccwei顧及老黃 不會積極接tpu的單 這大概會給發哥 08/27 08:45
45F:推 tomnj : Celestica 做Google 做的都很喘了,還要接OpenAI, 08/27 08:46
46F:→ tomnj : 完全不看好 08/27 08:46
47F:推 mqhung : GG:這邊抽號碼牌喔。 08/27 08:50
48F:推 waitrop : Tenstorrent 靠的是 Jim Keller大神 08/27 08:50
49F:推 strlen : 大咖哪有差 卡帕西還不是去眼戳屁?個人規劃問題而 08/27 08:51
50F:→ strlen : 已 08/27 08:51
51F:→ waitrop : Cerabas我就不知道是哪位大神在撐 08/27 08:51
52F:推 waitrop : Antropic對大神還比較客氣,但是看看楊立昆的例子 08/27 08:53
53F:→ waitrop : 楊立昆晚節不保,被羞辱,大咖當然有差 08/27 08:53
54F:→ dosiris : 楊立昆感覺不是很信現在訓練的AI真的有智慧 08/27 08:54
55F:→ waitrop : 不是每家公司都會尊重大神 08/27 08:54
56F:→ dosiris : 看他幾個訪談都在質疑 08/27 08:54
57F:→ waitrop : DeepMind內部也不是很信LLM那套,只是現在LLM能變現 08/27 08:55
58F:→ waitrop : DeepMind一開始的方向就不是LLM 08/27 08:56
59F:→ waitrop : Alphafold根本就不是大記憶體,走的是極致分散運算 08/27 08:56
60F:→ dosiris : 內部都不信了 怎麼可能做出AGI 那不就遲早泡沫 08/27 08:57
61F:→ waitrop : 李飛飛也不走LLM,大部分的AI大神很像不太鳥LLM 08/27 08:57
62F:→ waitrop : 因為LLM可能做不出AGI,只是對文字(含代碼)處理很強 08/27 08:58
63F:推 seemoon2000 : LLM就是超越人類的智慧 但這只是AGI的一個基本 08/27 09:01
64F:→ dosiris : 難怪他們拾LLM改走世界模型 AGI出不來 AI遲早泡沫 08/27 09:03
65F:→ dosiris : 捨 08/27 09:04
66F:→ dosiris : 現在那麼龐大的capex 不可能靠對話就有足夠的產值 08/27 09:05
67F:→ dosiris : 去cover支出 08/27 09:05
68F:推 seemoon2000 : 真的出現AGI 人類的泡沫也會來 結果一樣 大家沒工 08/27 09:10
69F:→ seemoon2000 : 作沒生產力 怎麼消費 大廠去哪叫人付費 08/27 09:10
70F:推 as6633208 : 你搶得到單?老黃是各國親自去遊說,奧特曼呢 08/27 09:22
71F:推 ohlong : 這是什麼鬼咖啡的名字 08/27 09:28
72F:推 rxsmalllove : 覺得泡沫趕快空 加入老蘇一起嗨 08/27 09:56
73F:推 centaurjr : 沒人管AGI他只會亂改... 08/27 10:17
74F:→ kimula01 : 這是asic不是嗎 能吃掉多少NV我是不太信 08/27 10:30
75F:→ fallinlove15: 等有第三方測試再說吧 吹的勒 08/27 11:11
76F:推 greedypeople: 達不成AGI跟沒有商業價值是兩回事 08/27 12:11
77F:→ greedypeople: 世界模型其實老馬跟老黃都有在做類似的東西 08/27 12:11
78F:推 coom1234 : Celestica在台灣大舉招募,重金挖了很多人進去 08/27 14:56
79F:推 windalso : aisec 唄 08/27 20:31







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping 或 站內搜尋

TOP