[新聞] 韓成功研發全球首項人腦模擬超低電耗AI半

[madeinheaven ()]

原文標題：

韓成功研發全球首項人腦模擬超低電耗AI半導體技術

原文連結：

https://cn.yna.co.kr/view/ACK20240306003700881

發布時間：

2024年 03月 06日 16:57

記者署名：

張黎莉

原文內容：

韓聯社首爾3月6日電 韓國研究團隊全球最初研發出即可減少電耗，又可超高速處理大語
言模型（LLM）的人工智慧（AI）半導體核心技術“互補型轉換器”（
Complementary-Transformer）。

韓國科學技術資訊通訊部6日表示，韓國科學技術院（KAIST）PIM半導體研究中心和人工
智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。

所謂“互補型轉換器技術”，是指選擇性使用模仿人腦結構與功能設計而成的脈衝神經網
路（SNN）和深度神經網路（DNN），實現轉換功能的技術。轉換器（Transformer）也是
積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路，屬於ChatGPT的原創技
術。

https://i.imgur.com/Djw6x4c.jpg
脈衝神經網路和深度神經網路的互補特性 韓國科學技術資訊通訊部供圖

諸如GPT的大語言模型，其間通過大量的圖片處理器（GPU）和250瓦特的電耗才能實現驅
動，但此次研究小組成功在一個4.5毫米×4.5毫米的小型人工智慧半導體內，以400毫瓦
的超低電耗實現了超高速驅動。

該研究結果在上月19日至23日美國舊金山舉行的國際固態電路會議（ISSCC）上公開並演
示。研究小組介紹稱，將神經形態計算技術的精準度提升至與摺積神經網路（CNN）相同
的水平，並運用了可適用於諸多應用領域的互補型深度神經網路（C-DNN）。

科技部介紹稱，研究小組將互補型深度神經網路技術用於大語言模型，實際驗證了超低電
耗、高性能的端側人工智慧（On-device AI）能夠存在，全球首次以人工智慧半導體的形
式呈現出此前僅停留在理論階段的研究內容。

據研究小組介紹，互補型轉換器使用的電力僅為NVIDIA A100圖片處理器625分之1的水平
，利用GPT-2模型生成語言時僅需0.4秒，利用T5翻譯語言只需0.2秒。研究小組計畫今後
擴大研究範圍，將神經形態計算技術從語言模型拓展至更多應用領域。（完）

https://i.imgur.com/qrjfoXx.jpg
AI半導體發展方向 韓國科學技術資訊通訊部供圖

心得/評論：

之前版上有文章討論AI PC和AI手機的未來

這研究證實了高性能且超低電耗On-device AI的可行性

原本250W才能實現驅動 這個只用400mW就能高速驅動

電力消耗更只有NVIDIA A100的625分之1

而且這還只用三星28nm 之後改用先進製程功耗能更低

GPT2生成語言0.4秒 T5翻譯語言0.2秒

我看接下來就是On-device AI的天下了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.44.242.74 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709798091.A.1DF.html
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:55:24
→ calmerrorans: 低耗電
噓 mnhyuiop    : 韓國.....哦...............................然後咧
推 harry458031 : 低耗電.... 我們的電費不用漲拉
推 apolloapollo: 先唬爛再說 笑死
→ jeff22aa22  : 用超導體做的嗎
推 AndyMAX     : AI PC噴
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:57:52
噓 inoce       : https://i.imgur.com/WgGWgia.png
→ harry458031 : 解決了功率問題這樣擴散到末端 (pc 手機)更快了
推 kenet123    : 韓國....勿忘超導...
推 ab4daa      : 歐印
→ harry458031 : 明天伺服器休息 AI PC族群接力
→ laechan     : 超導體?
推 fbtm        : 超導2.0接力
推 pisu        : 『騙』
噓 Trainn      : 常溫超導屍骨未寒
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:59:31
→ Jeff1989    : 常溫超導體：
推 wei9898     : 這研究好像聽起來好像什麼都有...？？？
噓 Like5566Like: 韓國就算了吧
→ rbull       : 先吹再說
→ kausan      : 鬼故事+1
推 pili0830    : Nvidia先噴一根
推 kevinsosa   : 就是超導害我買到40的大亞
→ wei9898     : 意思是不用台積電先進製程也可以搞AI?
→ saisai34    : 常溫超導體表示: 0.0
推 mnhyuiop    : 明天散熱有跌停我再相信你韓國人
→ flipflap    : 夢裡什麼都有
→ Minihil     : 韓國人又來了
噓 YesNoter    : 抄導體呢
推 kobi0910    : 勿忘LK-99
→ Notevenclos3: LK99
推 kducky      : 難怪散熱崩（誤
推 YJM1106     : 韓國人又發明了好東西
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:09:21
推 diyaworld   : 所以簡單説就是省電技術？現在全世界要的是算力，
→ diyaworld   : 謝謝
噓 js70864444  : 韓國研發 先噓再說不用鬼扯看到成品再說
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:12:43
→ samm3320    : 算力的benchmark怎麼寫出來
→ samm3320    : 怎麼不寫出來
推 a089851583  : 是超導體嗎 我的超導體股要噴了嗎
→ bbat        : 2奈米
→ hydra7      : 超導體2.0？
推 ots625      : 吹牛比賽
推 maxman77    : 超導乎
→ samm3320    : 你要跟A100比power那你的算力要一樣的條件去比，不
→ samm3320    : 然我吃的比奧運選手少一半，所以我超省糧食嗎
推 hate56      : 喔 是喔 真的喔
推 sakai       : 又是韓國……先觀察一下……
噓 RD          : 這技術已經有好幾顆，最成熟的應該是intel Loihi 2
噓 jay3u7218   : 這好像之前哪裡看過了.很看過很多次
推 koumoushou  : 28奈米？
推 kenet123    : 太空梭要噴噴了
推 QooSnow     : 吃瓜看戲~
噓 stationary  : 難怪今天散熱和重電被出貨
噓 deepelves   : 莫忘超導體概念股變臭倒乎概念股
噓 fedona      : 韓國
→ fakelie     : 啥材質 9不要超貴那種
推 Gipmydanger : 韓國科研實力第一（？）
推 WTF55665566 : 彎道超車….RRrrrrrr
推 giunrz      : 超導體已經爆胎成那樣了
→ WTF55665566 : 整天2奈米突破 超導體 現在來硬蹭AI？
推 jvor0719    : 這個要買那支？？？
噓 xiaoyao     : 上次那個 超導體。 呵呵
推 chinaeatshit: 鄭成功延發的再叫我
→ chinaeatshit:       研
推 patear      : 上個月就公布，但沒有一家台媒報導，我看先等等
→ eemail      : 用途不太一樣 不要什麼都拿來亂類比
→ aimlikenoob : 還附加超導功能對吧，想騙
推 jordan1204  : 韓國 呵呵
推 jagger      : 畢竟是韓國人
推 WTF55665566 : 不如全部加一起當撒尿牛丸
→ WTF55665566 : AI製造2奈米超導體！彎道超車！！！
推 xhunter1374 : 韓國 先**
推 m50205811   : 笑死 這次不會被騙了啦
→ JKjohnwick  : 韓國zzz
推 s4511981    : 大旱
推 jecint1707  : SNN 新的嗎?
推 diyaworld   : 不過本技術只能用在28耐米，謝謝主席
噓 pf775       : 韓國貨不意外
推 ledmstony   : 超導體2.0！！！
噓 cosoa69     : 肯定唬爛，功耗差那麼多當大家傻子
推 joke3547    : 又韓國，誰要上車？
推 lc85301     : 反觀
推 hcwang1126  : 散熱被降評級了XD
推 ur83friend  : 上次的幹細胞…
→ tctv2002    : 翻譯人員要失業惹嗎
噓 blue09      : 上次的超導體勒
推 hipmyhop    : 噓的真的是呵呵
推 bitcch      : 大腦植入一個 人人都可以直接運行LLM
推 sid3        : 跟LK99
推 klpou       : 我們派二哥或世界跟他們打就好
噓 amin82      : 假的吧~?