看板 Gossiping 關於我們 聯絡資訊
1.媒體來源:TVBS新聞網 2.記者署名:記者 謝宜倫 / 攝影 朱光弘 / 編輯 新聞中心 報導 3.完整新聞標題: 影音/一個AI指令「用掉家庭一日電」! 用電量3年飆7.5倍 台灣撐得住嗎? 4.完整新聞內文: https://www.youtube.com/watch?v=hQuenIPcyoU
AI運算背後龐大的電力需求正成為科技發展的隱憂,當使用者輕鬆下達一個AI指令時,支 撐這項技術的是一箱箱伺服器與驚人的電力消耗。專家指出,單一小型伺服器一小時就要 消耗5度電,相當於一般家庭整天的用電量,而隨著AI技術不斷推進,預估用電量將在3年 內暴增7.5倍,台灣是否有足夠電力支撐這波AI海嘯,已成為各界關注焦點。 擁抱AI的背後...運算中心用電恐壓垮台灣?(圖/AI) 在AI應用公司的機房中,一排排黑色伺服器不停運轉,工程師們時刻監控著系統狀態,確 保客戶的系統不會出現問題。SOAI應用公司技術協理洪嘉鍵表示,過熱可能會引發火警, 因此工程師最擔心的就是整個機房的運作狀況,一旦過熱將導致機房面臨極大的危險性。 AI運算的背後,運算中心伺服器耗電大拆解。(圖/TVBS) 走進小型運算中心,耳邊傳來的是風扇持續運轉的聲音。伺服器如同紅酒一般嬌貴,必須 維持恆溫控溫,整個空氣要保持流通,若溫度過高就會導致熱當機。目前機房內的一落伺 服器,光是一小時的運轉就要消耗5度電,相當於一般家庭一整天的用電量,電費約50元 。換言之,使用者支付的AI訂閱費用,有相當比例是在負擔電費成本。 小型伺服器每小時約50元電費,大型系統用電翻倍。(圖/TVBS) 技術協理洪嘉鍵進一步說明,機房平常運作溫度大約維持在22度上下,整個機房的電力分 配中,伺服器本身大概佔了50%,冷卻設備則佔了30%至40%。若要支撐一個強大的AI算力 系統,需要將這樣的小房間放大數百倍,規模可超過4個台北大安森林公園。 一指令耗電驚人!運算中心最怕過熱當機 智能機器創辦人兼執行長吳柏翰指出,使用AI按一個指令下去之後,一般電燈泡可以使用 約3分鐘,但瞬間那個思考運算的時間一結束,電燈泡的電量就等於用光了。他認為目前 的趨勢是,雖然伺服器一直蓋、電廠一直建非常消耗資源,因此大家開始轉向所謂的節能 型AI。吳柏翰解釋,節能型AI的概念是把大的模型蒸餾成小的模型,小模型所消耗的電量 就會更低。他舉例說明,原本3分鐘電燈泡用電量的時間,現在可以變成18秒,因為這個 模型只需要執行特定的事情就好。一般這種3分鐘電量的模型可能做很多元的事情,但消 耗的電量也大,因此他認為在未來的市場上,兩種模型將會平行發展。 運算中心逐步興建!3年後用電量暴增7.5倍 儘管台電不斷強調台灣供電綽綽有餘、不缺電,可以供應北士科、輝達需要的電力,國科 會也提到未來像這樣的運算中心將一個個蓋起來,每家公司都將擁有各自的AI系統。尤其 現在GB200耗電量就高達100KW以上,一小時消耗100度電,接下來晶片、GPU不斷推陳出新 ,預估用電量將在3年內暴增7.5倍。 資策會策略總監王瑞民分析,現在趕快蓋燃氣電廠事實上也來不及,核能延役聽起來好像 也要一兩年,小型核能更是需要更久的時間,前面三個方案通通不可能立即實現。他指出 ,事實上美國在過去幾年也面臨AI資料中心沒有電的問題,很多伺服器買的時候就只能擱 置在那邊。現在美國政府容許像Meta、Facebook這些公司自己去蓋電廠,因此Blue Energy這種從石油天然氣中去碳存氫的方式,是一個比較能立刻解決問題的方案。王瑞民 還提到另一個策略,就是把這些AI資料中心集中在一起,全部放在一處,這樣在電的使用 或管理上面會更有效率。 業者也提到,當電力問題解決了,偏偏下一階段的算力技術又不知道已經達到什麼樣的水 準,形成永無止境的追逐。 AI算力背後,除了伺服器運轉,還需要冷卻系統幫散熱。(圖/TVBS) 台灣氣候行動網絡研究中心總監趙家緯表示,輝達其實一直很強調一件事,他們認為AI可 以回饋過來協助提高能源效率。的確,國際能源總署的預估也有估算,AI在其他面向帶來 的節電成效,會是新增加能源用量的3倍以上。趙家緯強調,在台灣的制度設計裡面,要 思考如何能夠引導AI資料中心的能源效率提升,並盡可能使用綠電,同時還要把台灣的AI 應用回饋到其他產業,去削減其他地方的用電量。 輝達執行長黃仁勳這次來台,不斷強調要有能源才有AI,但也呼籲大家擁抱AI,重點是沒 電、沒網路就沒有AI。目前全台用電量分配中,製造端佔9%,隨著技術推進,未來佔比將 會越來越多,算力中心目前僅佔0.5%,看起來負載並不高,但終究還是得面對一個關鍵問 題:電力是否真的足夠支撐這波AI海嘯。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://news.tvbs.com.tw/tech/3218895 6.備註: AI缺電躲不掉?台達電鄭平揭數據:2028年缺口達40% (台達電董事長暨執行長鄭平 台北國際電腦展今日正式登場,並開啟為期5天的展期,電源供應龍頭廠台達電(2308) 也參展出席,董座鄭平也露面分享對AI電力需求的觀點,並直指AI發展至2028年時,資料 中心與電網的需求缺口將會高達40%,直言「AI發展會陷入電力瓶頸。」 鄭平指出,AI發展現在陷入電力瓶頸,以美國來說,到2028年為止,新增資料中心將會額 外需要44GW的電力需求。然而電網新增的供電能力僅25GW,電力缺口高達40%。 就AI擴張的速度來看,鄭平強調,AI的擴張速度遠遠超過電力投資,從2022年ChatGPT問 世以來,CSP的投資快速上升,呈現倍數增長,而電力公用事業因為法規、設備生命週期 動輒30-50年,建設速度遠不及雲端設備業者。 他更拿出數據指出,美國四大CSP資本支出從2022-2026整整增加4.7倍之多,而美國電力 公司的資本支出卻僅上升1.77倍,兩者差距極大。 因此,美國要求科技廠自建電廠來解決大量電力需求,從太陽能、風力發電等方式,甚至 透過微電網等形式來解決電力落差。 鄭平也指出,台達因此也給出微電網解決方案,甚至預製型解決方案,如AI 模組化資料 中心、AI貨櫃型資料中心、電力模組系統等等貨櫃型的方案,來協助企業面對電力的需求 。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.174.201.169 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1780454595.A.4D4.html
mightshowgun: 台灣沒比了 59.115.25.52 06/03 10:43
gowang19: 井蛙-中國蓋一堆電廠幹嘛 61.62.78.179 06/03 10:43
ZakkWylde: 藍白現在一直在嫌新式核能啊 49.216.93.194 06/03 10:44
LawLawDer: 不然就全面放棄AI啊 不敢的話叫什麼 114.46.22.170 06/03 10:44
Xhocer: 好那把ptt關掉 42.73.125.141 06/03 10:44
LawLawDer: 囉哩八嗦的 要用就是要花電 吵三小 114.46.22.170 06/03 10:44
hihimen: 笑死,青鳥從頭到尾都在罵核能150.117.222.124 06/03 10:44
knives: 多用點,看會不會跳電 114.38.39.47 06/03 10:44
calvin00300: 缺的是energy不是... 49.217.131.117 06/03 10:45
yymeow: 趕快從核5廠一路蓋到核12廠 XD 60.250.130.216 06/03 10:45
mightshowgun: 嫌個雞巴你拿出smr來啊 59.115.25.52 06/03 10:47
dark0224: 嚇死了 趕快問問ai真的假的 49.216.161.234 06/03 10:47
mightshowgun: 只有中俄有啦 民進黨去哪生新核能 59.115.25.52 06/03 10:47
TZUYIC: 啟用核四 一切都解決了 這麼簡單不去做 27.247.102.8 06/03 10:47
em4: 浪費電 39.9.130.50 06/03 10:48
rockyegg: 怕什麼 再蓋10座變電站就好 36.234.153.230 06/03 10:48
em4: AI太不環保 39.9.130.50 06/03 10:49
love80: 黑熊:依我的高見,變電所蓋好,電力就充 36.226.231.189 06/03 10:50
love80: 足了 36.226.231.189 06/03 10:50
love80: 賴:台灣需要綠電、雲豹 36.226.231.189 06/03 10:50
ghgn: 賴桑都說臺灣不缺電了 哪來的假新聞 42.79.130.229 06/03 10:51
marktak: 何不關冰箱? 27.51.150.211 06/03 10:53
riker729: 內文是小伺服器一個小時消耗小家庭一天 39.14.16.185 06/03 10:56
riker729: 用電,標題變成一個AI指令 39.14.16.185 06/03 10:56
riker729: 我還想說,那我用ai寫了一天的指令,是 39.14.16.185 06/03 10:57
riker729: 不是耗掉一個城鎮一天用電? 39.14.16.185 06/03 10:57
Antia691: 什麼指令可以耗掉這麼多電?生成女優多122.121.223.242 06/03 11:02
Antia691: 角度被抽插20分鐘影片?陰道屁眼都被插122.121.223.242 06/03 11:02
Antia691: 到出汁?122.121.223.242 06/03 11:02
Lige: https://i.imgur.com/GpXbGdC.jpeg 49.218.247.119 06/03 11:13
Osmium: 党說不缺電 就是不缺電 是在叫啥 42.79.220.245 06/03 11:14
e1q3z9c7: 臨界點被打破免費能源就有譜了 58.114.36.231 06/03 11:18
adk147852: 台灣不缺電 滾 218.173.89.238 06/03 11:20
ericthree: maybe 114.137.21.208 06/03 11:27
handa: 沈:蓋變電站就解決了 60.250.72.145 06/03 11:30
hackfox: 一台變一排,媒體算力比GPU還超頻 136.226.241.13 06/03 11:41
whyyeswhynot: https://i.imgur.com/AsjffnQ.jpeg 110.30.32.194 06/03 11:48
al311166: ai本來就該用對地方 把它拿來做幹片寫 114.137.95.200 06/03 11:48
al311166: 程式就是在浪費電浪費地球資源 114.137.95.200 06/03 11:48
turbomons: 這簡單再蓋兩座核電廠就解決了 42.74.193.138 06/03 11:48
max205: 來了來了 核4大開暖身新聞來了 211.23.144.132 06/03 12:01
maize602: 是變電所不夠,立委說的114.137.133.244 06/03 12:11
kiaia: 黨說要有電,世界就有了電 61.229.65.220 06/03 12:20
uoyevoltnaw: 標題詐欺 噁心捏210.242.225.141 06/03 12:24
Kelvinchen: 標題跟內文不符,文組記者被看不起不 49.215.233.212 06/03 15:27
Kelvinchen: 就這樣來的 49.215.233.212 06/03 15:27
tenchimuyo: m......be 223.137.249.73 06/03 15:44