作者AnimalSpirit (動物本能)
看板Stock
標題[新聞] OpenAI秀自研晶片…宣稱Jalapeño效能超
時間Thu Aug 27 07:52:01 2026
OpenAI秀自研晶片…宣稱Jalapeño效能超越輝達GB300 台廠沾光
https://udn.com/news/story/7240/9716370
2026-08-27 00:00 蘇嘉維
OpenAI大秀自研晶片Jalapeño效能實力並宣布,在每單位功耗可處理的AI工作量和回應
速度等兩項關鍵指標,均領先輝達GB300。未來有望引爆新一波OpenAI的ASIC伺服器商機
,為鴻海(2317)、廣達、緯創等代工廠挹注新一波訂單。
外電報導,OpenAI硬體計劃負責人Richard Ho在半導體研討大會Hot Chips中指出,自研
晶片Jalapeño在每單位功耗可處理的AI工作量和回應速度等兩項關鍵指標均領先輝達
GB300,未來將會應用在OpenAI的AI模型推論。
據了解,OpenAI本次主要採用研究機構SemiAnalysis開發的推論測試程式InferenceX,比
較對象為輝達GB300,從各項測試場景中的性能功耗表現都勝過GB300。
Richard Ho表示,Jalapeño在測試結果來看,都能與當前最先進水平比擬,顯示效能表
現強勁。
其中,Jalapeño已在GPT-OSS 120B模型測試上,每秒可輸出約1,459個Token,輝達GB200
僅為535個;端到端延遲方面,Jalapeño完成一個任務僅需1.65秒,GB300則需近6秒,雙
方時間差達3.6倍。在高密集吞吐場景應用下,GB300最快解碼速度為每秒169個Token,
Jalapeño輸送量是GB300的104.3倍。
OpenAI在今年6月宣布與博通合作開發的推論晶片Jalapeño開發成果,同時雙邊在開發晶
片還導入OpenAI的AI模型,讓Jalapeño開發到量產時間僅短短16個月,開發速度明顯較
半導體產業界所需的18~36個月左右期間。
Richard Ho 先前指出,我們根據前沿 AI 模型最關鍵的核心程式、記憶體資料流,以及
網路與服務模式,對架構進行最佳化。根據早期測試,Jalapeño 將能接近硬體理論極限
,高效率執行最重要的工作負載。
OpenAI在端出高推論效能的Jalapeño晶片後,將有機會帶動未來新一波ASIC伺服器商機
。法人指出,目前負責Jalapeño伺服器的代工廠為Celestica,未來若OpenAI加大ASIC伺
服器採購量能,鴻海、廣達、緯創等代工大廠有望拿下OpenAI新訂單。
當前ASIC伺服器訂單商機火熱,除了OpenAI的Jalapeño外,微軟、Google、Meta及亞馬
遜等CSP大廠都有自研晶片計畫,ASIC伺服器訂單也由鴻海、廣達、緯創、緯穎、英業達
等代工廠分食,隨著自研晶片熱潮持續興起,ASIC伺服器商機跟著火熱。
心得/評論:
Jalapeño 墨西哥辣椒
真的會辣掉GPU市場嗎?
雖然大家都搞ASIC
但皮客黃的GPU還是賣翻
成長動能預期還有70%
這市場真的這麼大?
伺服器的代工廠為Celestica
預期台廠會吃到單
這是騙炮嗎?
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1787788324.A.BEF.html
1F:推 ckskyline : 這麼快就來打老黃臉嗎 08/27 07:55
2F:→ dosiris : 這樣以後還能去兆元宴? 08/27 07:55
3F:推 andy79323 : 有人說黃啊 08/27 08:04
4F:推 guanting886 : 這代Jalapeño 2500-8000 SHU,下一代可以叫Serran 08/27 08:06
5F:→ guanting886 : o 08/27 08:06
6F:推 waitrop : 其實就只是TPU換皮加一些改進 08/27 08:07
7F:噓 a000000000 : 都逼康作的看起來差不多喇 08/27 08:09
8F:推 ting31823 : 沒產能沒用啊 08/27 08:09
9F:推 s454666 : 天下哭黃久矣 08/27 08:14
10F:推 dosiris : 洗勒滴卡 08/27 08:14
11F:推 AndyMAX : 給一家產能只有鴻海5%的代工 你說看好還是不看好 08/27 08:15
12F:推 waitrop : Richard Ho 之前是Google TPU design頭 08/27 08:16
13F:→ waitrop : OpenAI找Richard Ho,同一批人,跟博通下一樣的單 08/27 08:16
14F:→ waitrop : 當然某些設計會比幾年前改進,但還是同一顆TPU 08/27 08:17
15F:→ dosiris : 原來他後來去Open AI了 其實聯發科也有參與tpu設計 08/27 08:17
16F:→ dosiris : 等於改改設計圖 open ai就不必向谷哥買tpu 08/27 08:18
17F:推 truelove356 : 學中國的精髓 08/27 08:18
18F:→ dosiris : 老黃手上王牌只剩他也有挖角到的tpu之父了 08/27 08:19
19F:推 waitrop : 但是這幾個都不是Google TPU真正的架構師 08/27 08:19
20F:→ waitrop : Google TPU真正王牌架構師是Jeff Dean, D.Patterson 08/27 08:20
21F:→ dosiris : @@ 我以為tpu不就Jonathan Ross架構出來的嗎 08/27 08:21
22F:→ waitrop : 還有幾個躲在DeepMind, Richard Ho 不算架構師 08/27 08:21
23F:→ dosiris : Jeff Dean還無法為其他公司效力 08/27 08:21
24F:→ waitrop : onathan Ross是TPU第一代的TPM,他根本不懂架構 08/27 08:21
25F:→ waitrop : J Ross是TPM, Richard Ho是設計design DV 08/27 08:23
26F:→ waitrop : 但是真正設計架構,compiler,perf,model在DeepMind 08/27 08:23
27F:→ dosiris : Patterson還在狗狗 所以Page有在控管人才不被敵營用 08/27 08:23
28F:→ waitrop : 其實也不能說是DeepMind,是掌握在Google Brain手上 08/27 08:24
29F:→ dosiris : Hassabis離開 Deepmind就名存實亡了 沒權力了 08/27 08:25
30F:→ dosiris : Page現在不用的人才都控住不外流 比仙童半導體聰明 08/27 08:26
31F:→ dosiris : 但對矽谷和AI發展不是好事 08/27 08:27
32F:推 waitrop : J Dean, Patterson, Hassabis這種咖位的只能開公司 08/27 08:29
33F:→ waitrop : 去其他公司都是小廟容不了大神,下場會比楊立昆更慘 08/27 08:30
34F:→ dosiris : Hassabis搞AI應用 我覺得會很快 現在叫他去當首席.. 08/27 08:31
35F:→ dosiris : 就是供起來拜 08/27 08:31
36F:→ waitrop : 事實上,J Dean Patterson手上一堆startup公司 08/27 08:31
37F:→ waitrop : SiFive,MIPS背後老闆是Patterson 08/27 08:31
38F:→ waitrop : 整個risc-v幾乎是Patterson控制著 08/27 08:32
39F:→ dosiris : 這些大咖都文人相輕 當同事彼此不服 不如當老闆競爭 08/27 08:32
40F:→ dosiris : 對科技發展和成熟比較有幫助 08/27 08:33
41F:推 sky001tp : 代工的台積電或成最大贏家 08/27 08:36
42F:推 eipduolc : 豬屎屋要成顯學 08/27 08:40
43F:推 bhmagic : 那個Cerabas呢? Tenstorrent呢? 怎麼都被甩了 08/27 08:42
44F:→ dosiris : ccwei顧及老黃 不會積極接tpu的單 這大概會給發哥 08/27 08:45
45F:推 tomnj : Celestica 做Google 做的都很喘了,還要接OpenAI, 08/27 08:46
46F:→ tomnj : 完全不看好 08/27 08:46
47F:推 mqhung : GG:這邊抽號碼牌喔。 08/27 08:50
48F:推 waitrop : Tenstorrent 靠的是 Jim Keller大神 08/27 08:50
49F:推 strlen : 大咖哪有差 卡帕西還不是去眼戳屁?個人規劃問題而 08/27 08:51
50F:→ strlen : 已 08/27 08:51
51F:→ waitrop : Cerabas我就不知道是哪位大神在撐 08/27 08:51
52F:推 waitrop : Antropic對大神還比較客氣,但是看看楊立昆的例子 08/27 08:53
53F:→ waitrop : 楊立昆晚節不保,被羞辱,大咖當然有差 08/27 08:53
54F:→ dosiris : 楊立昆感覺不是很信現在訓練的AI真的有智慧 08/27 08:54
55F:→ waitrop : 不是每家公司都會尊重大神 08/27 08:54
56F:→ dosiris : 看他幾個訪談都在質疑 08/27 08:54
57F:→ waitrop : DeepMind內部也不是很信LLM那套,只是現在LLM能變現 08/27 08:55
58F:→ waitrop : DeepMind一開始的方向就不是LLM 08/27 08:56
59F:→ waitrop : Alphafold根本就不是大記憶體,走的是極致分散運算 08/27 08:56
60F:→ dosiris : 內部都不信了 怎麼可能做出AGI 那不就遲早泡沫 08/27 08:57
61F:→ waitrop : 李飛飛也不走LLM,大部分的AI大神很像不太鳥LLM 08/27 08:57
62F:→ waitrop : 因為LLM可能做不出AGI,只是對文字(含代碼)處理很強 08/27 08:58
63F:推 seemoon2000 : LLM就是超越人類的智慧 但這只是AGI的一個基本 08/27 09:01
64F:→ dosiris : 難怪他們拾LLM改走世界模型 AGI出不來 AI遲早泡沫 08/27 09:03
65F:→ dosiris : 捨 08/27 09:04
66F:→ dosiris : 現在那麼龐大的capex 不可能靠對話就有足夠的產值 08/27 09:05
67F:→ dosiris : 去cover支出 08/27 09:05
68F:推 seemoon2000 : 真的出現AGI 人類的泡沫也會來 結果一樣 大家沒工 08/27 09:10
69F:→ seemoon2000 : 作沒生產力 怎麼消費 大廠去哪叫人付費 08/27 09:10
70F:推 as6633208 : 你搶得到單?老黃是各國親自去遊說,奧特曼呢 08/27 09:22
71F:推 ohlong : 這是什麼鬼咖啡的名字 08/27 09:28
72F:推 rxsmalllove : 覺得泡沫趕快空 加入老蘇一起嗨 08/27 09:56
73F:推 centaurjr : 沒人管AGI他只會亂改... 08/27 10:17
74F:→ kimula01 : 這是asic不是嗎 能吃掉多少NV我是不太信 08/27 10:30
75F:→ fallinlove15: 等有第三方測試再說吧 吹的勒 08/27 11:11
76F:推 greedypeople: 達不成AGI跟沒有商業價值是兩回事 08/27 12:11
77F:→ greedypeople: 世界模型其實老馬跟老黃都有在做類似的東西 08/27 12:11
78F:推 coom1234 : Celestica在台灣大舉招募,重金挖了很多人進去 08/27 14:56
79F:推 windalso : aisec 唄 08/27 20:31