[新聞] 採台積電 5 奈米製程，Meta 下一代自研 A

[strlen (strlen)]

原文標題：
採台積電 5 奈米製程，Meta 下一代自研 AI 晶片性能提升 3 倍

原文連結：
https://tinyurl.com/3czfhkta

發布時間：
2024 年 04 月 11 日 11:46

記者署名：
作者 陳 冠榮


Meta 去年公開首款自研晶片 MTIA（Meta Training and Inference Accelerator）成果
，第一代 MTIA（MTIA v1）即採台積電 7 奈米製程，下一代 MTIA 同樣委由台積電生產
。

在英特爾、Google 發表最新 AI 晶片之後，Meta 10 日也公開自研晶片開發成果。MTIA
v1 後繼產品官方稱為下一代 MTIA（Next Gen MTIA），它執行的模型用於處理與 AI 推
薦系統相關的工作。與台積電 7 奈米製程建構的 MTIA v1 相比，下一代 MTIA 採用 5
奈米製程。

下一代 MTIA 配備更多處理核心，擁有更多 on-chip memory（256MB 對比 MTIA v1
128MB）和 off-chip LPDDR5（128GB 對比 MTIA v1 64GB），並以更高的平均時脈速度運
行，從 800MHz 上升到 1.35GHz，同時功耗增加（90W 對比 MTIA v1 25W）。

Meta 指出，下一代 MTIA 目前已投入 16 個資料中心區域使用。Meta 評估的四個關鍵模
型中，下一代 MTIA 性能比 MTIA v1 提升 3 倍，「由於我們控制整個堆疊，所以與商
用 GPU 相比，可以達成更高的運算效率」，Meta 部落格文章寫道。

Meta 也透露，目前還沒有使用下一代 MTIA 訓練生成式 AI，儘管該公司聲稱有多項專案
正在進行。此外，Meta 承認下一代 MTIA 不會取代目前用於訓練模型的 GPU，而是補充
運算資源。

英特爾最新發表 Gaudi 3，聲稱能源效率比 NVIDIA H100 晶片高 40%，推論速度快 50%
。Google 正向 Google Cloud 客戶推出用於訓練 AI 模型的 TPU v5p，並發表首款為資
料中心設計的 Arm 架構 Axion CPU。亞馬遜擁有多款自研 AI 晶片，微軟去年也已 AI
晶片 Azure Maia 100 和雲端運算處理器 Azure Cobalt 100 參戰。

Meta 近年不遺餘力加強 AI 技術開發，自行研發客製化晶片以滿足運算需求。該公司一
直是 NVIDIA H100 GPU 的大客戶，今年底前 Meta 運算基礎設施預計採購達到 35 萬顆
H100。同時 MTIA 系列晶片開發也將加速進行，希望在 AI 軍備競賽趕上競爭對手。

心得/評論：
又是老黃包圍網？
怎麼一夕之間
人人都是晶片專家
紛紛自幹晶片？
原來晶片根本沒什麼技術？
隨便組個團隊湊一湊就超輝趕微？
但不管是誰做的
通通都是要找台積電代工
而且還是訓練跟推理通吃耶
什麼時候台積電市值要超越輝達？


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.25.109 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1712830262.A.8C5.html
推 horseorange : 大科技的人才都互相跳來跳去的有啥好意外
推 CIEenergy   : 需求不變，搶先供應，有賣鴨！！
推 brian10207  : 台積電打台積電嗎?
推 AFM         : 裝在哪？
→ saisai34    : 美積電 日積電 台積電互打 @@
→ jerrylin    : FB的AI能分辨詐騙集團嗎
推 iceyeman    : 我以為租客伯去三星勒
推 lawyer94    : 出貨文
推 dolaenom    : AI雙贏=GG贏兩次
推 gamesame7711:                又贏債蛙
推 zhong33     : 全部晶片都找台積做 台積要不要自己開發？
→ panjanhon   : GG才是AI的鏟子吧
→ panjanhon   : 這樣1000還是便宜吧 各家都要用GG的
推 a1106abc    : 他之前不是找3星？
→ kamitengo   : 我只能說你各位台面上看的到的玩家每個都在自己做
→ kamitengo   : 你們就再繼續cuda不可逾越之墻吧
推 Shepherd1987: AI server 吃電太兇, 沒有第二選擇
推 joe0934     : 還都靠我2330
→ knives      : 設計跟做不做得出來，還有良率是另外一回事
→ b777787     : 找哪一個asic
推 motan       : 打仗就是軍火商最賺
推 Heedictator : 神仙打架
推 accoh       : 反正贏家就是台積電
→ g007        : 3奈米要賣給誰？蘋果今年也不太樂觀
推 payneblue   : 賣給誰不會自己Google嗎 媒體比你還清楚
推 y800122155  : GG只賺代工薄利而已 有本事漲10倍把NV獲利搶光嗎?
推 gamesame7711: GG幾年前有討論要不要自有品牌 後來沒下文
推 allen0080   : 先公布訓練跟推理的效率還有耗能，才能對標輝達產品
→ allen0080   : 吧？ 不然都只是一張嘴嘴在講。
推 doranako    : 他這不是gpu，應該是特定目的的cpu
→ ter2788     : 你們都要跟我買
推 HRyan       : 他這樣還薄利喔，你要叫他搶劫
→ aweara      : 目前有機構 ADR目標價調到165
推 aegis43210  : gaudi3強多了，這個主要是拿來AI推論的
→ bnn         : 其實當你看到功耗...算力三倍有賺嗎
推 Max112358   : 科技巨頭重金挖人組團隊自研晶片叫沒技術...
推 Transposon  : meta要軟硬稱王？
推 truthzero   : 老黃包圍網
推 findwind0826: 不知道說什麼= =
→ findwind0826: 股板水準= =
推 cidcheng    : 台積電毛利都五成了還薄利 XD
→ jo4         : 都看不到CUDA的車尾燈
推 wardraw     : 各大巨頭搶肉吃 台積電一旁悠栽喝湯
推 stosto      : 3nm a跟 i拿走了
推 Mikli       : 薄利（五成）多銷
推 jccy        : 因為有台積電，美國這些公司才有辦法自行設計ai ic