看板 Stock 關於我們 聯絡資訊
OpenAI秀自研晶片…宣稱Jalapeño效能超越輝達GB300 台廠沾光 https://udn.com/news/story/7240/9716370 2026-08-27 00:00 蘇嘉維 OpenAI大秀自研晶片Jalapeño效能實力並宣布,在每單位功耗可處理的AI工作量和回應 速度等兩項關鍵指標,均領先輝達GB300。未來有望引爆新一波OpenAI的ASIC伺服器商機 ,為鴻海(2317)、廣達、緯創等代工廠挹注新一波訂單。 外電報導,OpenAI硬體計劃負責人Richard Ho在半導體研討大會Hot Chips中指出,自研 晶片Jalapeño在每單位功耗可處理的AI工作量和回應速度等兩項關鍵指標均領先輝達 GB300,未來將會應用在OpenAI的AI模型推論。 據了解,OpenAI本次主要採用研究機構SemiAnalysis開發的推論測試程式InferenceX,比 較對象為輝達GB300,從各項測試場景中的性能功耗表現都勝過GB300。 Richard Ho表示,Jalapeño在測試結果來看,都能與當前最先進水平比擬,顯示效能表 現強勁。 其中,Jalapeño已在GPT-OSS 120B模型測試上,每秒可輸出約1,459個Token,輝達GB200 僅為535個;端到端延遲方面,Jalapeño完成一個任務僅需1.65秒,GB300則需近6秒,雙 方時間差達3.6倍。在高密集吞吐場景應用下,GB300最快解碼速度為每秒169個Token, Jalapeño輸送量是GB300的104.3倍。 OpenAI在今年6月宣布與博通合作開發的推論晶片Jalapeño開發成果,同時雙邊在開發晶 片還導入OpenAI的AI模型,讓Jalapeño開發到量產時間僅短短16個月,開發速度明顯較 半導體產業界所需的18~36個月左右期間。 Richard Ho 先前指出,我們根據前沿 AI 模型最關鍵的核心程式、記憶體資料流,以及 網路與服務模式,對架構進行最佳化。根據早期測試,Jalapeño 將能接近硬體理論極限 ,高效率執行最重要的工作負載。 OpenAI在端出高推論效能的Jalapeño晶片後,將有機會帶動未來新一波ASIC伺服器商機 。法人指出,目前負責Jalapeño伺服器的代工廠為Celestica,未來若OpenAI加大ASIC伺 服器採購量能,鴻海、廣達、緯創等代工大廠有望拿下OpenAI新訂單。 當前ASIC伺服器訂單商機火熱,除了OpenAI的Jalapeño外,微軟、Google、Meta及亞馬 遜等CSP大廠都有自研晶片計畫,ASIC伺服器訂單也由鴻海、廣達、緯創、緯穎、英業達 等代工廠分食,隨著自研晶片熱潮持續興起,ASIC伺服器商機跟著火熱。 心得/評論: Jalapeño 墨西哥辣椒 真的會辣掉GPU市場嗎? 雖然大家都搞ASIC 但皮客黃的GPU還是賣翻 成長動能預期還有70% 這市場真的這麼大? 伺服器的代工廠為Celestica 預期台廠會吃到單 這是騙炮嗎? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787788324.A.BEF.html
ckskyline : 這麼快就來打老黃臉嗎 08/27 07:55
dosiris : 這樣以後還能去兆元宴? 08/27 07:55
andy79323 : 有人說黃啊 08/27 08:04
guanting886 : 這代Jalapeño 2500-8000 SHU,下一代可以叫Serran 08/27 08:06
guanting886 : o 08/27 08:06
waitrop : 其實就只是TPU換皮加一些改進 08/27 08:07
a000000000 : 都逼康作的看起來差不多喇 08/27 08:09
ting31823 : 沒產能沒用啊 08/27 08:09
s454666 : 天下哭黃久矣 08/27 08:14
dosiris : 洗勒滴卡 08/27 08:14
AndyMAX : 給一家產能只有鴻海5%的代工 你說看好還是不看好 08/27 08:15
waitrop : Richard Ho 之前是Google TPU design頭 08/27 08:16
waitrop : OpenAI找Richard Ho,同一批人,跟博通下一樣的單 08/27 08:16
waitrop : 當然某些設計會比幾年前改進,但還是同一顆TPU 08/27 08:17
dosiris : 原來他後來去Open AI了 其實聯發科也有參與tpu設計 08/27 08:17
dosiris : 等於改改設計圖 open ai就不必向谷哥買tpu 08/27 08:18
truelove356 : 學中國的精髓 08/27 08:18
dosiris : 老黃手上王牌只剩他也有挖角到的tpu之父了 08/27 08:19
waitrop : 但是這幾個都不是Google TPU真正的架構師 08/27 08:19
waitrop : Google TPU真正王牌架構師是Jeff Dean, D.Patterson 08/27 08:20
dosiris : @@ 我以為tpu不就Jonathan Ross架構出來的嗎 08/27 08:21
waitrop : 還有幾個躲在DeepMind, Richard Ho 不算架構師 08/27 08:21
dosiris : Jeff Dean還無法為其他公司效力 08/27 08:21
waitrop : onathan Ross是TPU第一代的TPM,他根本不懂架構 08/27 08:21
waitrop : J Ross是TPM, Richard Ho是設計design DV 08/27 08:23
waitrop : 但是真正設計架構,compiler,perf,model在DeepMind 08/27 08:23
dosiris : Patterson還在狗狗 所以Page有在控管人才不被敵營用 08/27 08:23
waitrop : 其實也不能說是DeepMind,是掌握在Google Brain手上 08/27 08:24
dosiris : Hassabis離開 Deepmind就名存實亡了 沒權力了 08/27 08:25
dosiris : Page現在不用的人才都控住不外流 比仙童半導體聰明 08/27 08:26
dosiris : 但對矽谷和AI發展不是好事 08/27 08:27
waitrop : J Dean, Patterson, Hassabis這種咖位的只能開公司 08/27 08:29
waitrop : 去其他公司都是小廟容不了大神,下場會比楊立昆更慘 08/27 08:30
dosiris : Hassabis搞AI應用 我覺得會很快 現在叫他去當首席.. 08/27 08:31
dosiris : 就是供起來拜 08/27 08:31
waitrop : 事實上,J Dean Patterson手上一堆startup公司 08/27 08:31
waitrop : SiFive,MIPS背後老闆是Patterson 08/27 08:31
waitrop : 整個risc-v幾乎是Patterson控制著 08/27 08:32
dosiris : 這些大咖都文人相輕 當同事彼此不服 不如當老闆競爭 08/27 08:32
dosiris : 對科技發展和成熟比較有幫助 08/27 08:33
sky001tp : 代工的台積電或成最大贏家 08/27 08:36
eipduolc : 豬屎屋要成顯學 08/27 08:40
bhmagic : 那個Cerabas呢? Tenstorrent呢? 怎麼都被甩了 08/27 08:42
dosiris : ccwei顧及老黃 不會積極接tpu的單 這大概會給發哥 08/27 08:45
tomnj : Celestica 做Google 做的都很喘了,還要接OpenAI, 08/27 08:46
tomnj : 完全不看好 08/27 08:46
mqhung : GG:這邊抽號碼牌喔。 08/27 08:50
waitrop : Tenstorrent 靠的是 Jim Keller大神 08/27 08:50
strlen : 大咖哪有差 卡帕西還不是去眼戳屁?個人規劃問題而 08/27 08:51
strlen : 已 08/27 08:51
waitrop : Cerabas我就不知道是哪位大神在撐 08/27 08:51
waitrop : Antropic對大神還比較客氣,但是看看楊立昆的例子 08/27 08:53
waitrop : 楊立昆晚節不保,被羞辱,大咖當然有差 08/27 08:53
dosiris : 楊立昆感覺不是很信現在訓練的AI真的有智慧 08/27 08:54
waitrop : 不是每家公司都會尊重大神 08/27 08:54
dosiris : 看他幾個訪談都在質疑 08/27 08:54
waitrop : DeepMind內部也不是很信LLM那套,只是現在LLM能變現 08/27 08:55
waitrop : DeepMind一開始的方向就不是LLM 08/27 08:56
waitrop : Alphafold根本就不是大記憶體,走的是極致分散運算 08/27 08:56
dosiris : 內部都不信了 怎麼可能做出AGI 那不就遲早泡沫 08/27 08:57
waitrop : 李飛飛也不走LLM,大部分的AI大神很像不太鳥LLM 08/27 08:57
waitrop : 因為LLM可能做不出AGI,只是對文字(含代碼)處理很強 08/27 08:58
seemoon2000 : LLM就是超越人類的智慧 但這只是AGI的一個基本 08/27 09:01
dosiris : 難怪他們拾LLM改走世界模型 AGI出不來 AI遲早泡沫 08/27 09:03
dosiris : 捨 08/27 09:04
dosiris : 現在那麼龐大的capex 不可能靠對話就有足夠的產值 08/27 09:05
dosiris : 去cover支出 08/27 09:05
seemoon2000 : 真的出現AGI 人類的泡沫也會來 結果一樣 大家沒工 08/27 09:10
seemoon2000 : 作沒生產力 怎麼消費 大廠去哪叫人付費 08/27 09:10