看板 Stock 關於我們 聯絡資訊
Dean Ball:他在美國白宮的AI決策圈有很大的影響力.但本質上他就是歷史學士, 其實沒有任何的技術底與理工背景,目前剛去歐噴醬策略部門。 因為是歷史系,我們把底下的內容換句話說 : - 這玩意兒的性能在寫程式上幾乎和Q1最好的模型不相上下 : - 不認為這樣的結果可以單純用蒸餾來解釋 : - 但這東西非常的消耗Token,他認為實際運作上成本比預期高很多 : - 很訝異中國政府會同意這種優秀的開源模型,他認為75%是無知25%是沒算力 很訝異中國不想賺錢,開源這麼好的模型,75%無知不知道該怎麼賺錢25%沒算力賺錢 : - 另一個狀況就是中國出口積極策略就是擾亂市場,因為沒人會為中國模型付錢 來打壞我們歐噴醬市場,因為大家都會用中國模型來自己賺錢(因為開源) : - 開放權重模型從他的觀點來看會影響整個AI infra的CAPEX減緩 原本只有我們幾個巨頭要AI Infra,你現在開源大家都搞,我們就沒資源可以用了 : - 開放權重模型會給AI產業帶來更多不確定性 閉源權重會帶給AI產業很多確定性,因為只有幾個巨頭能搞,其他人不行 : - 開放權重模型非常的共產主義,讓AI走向公共財由國家提供 閉源權重非常資本主義,讓AI走向私人財團化 : - 美國應該開始主導某種監管機制去抑制這些開放權重的開源模型 美國應該要限制大家不能用中國的開源模型,因為會打壞歐噴醬的上市計畫 其實開源權重與模型這點一開始是Meta開始的,只是後來落後太多,現在都是中國在 做開源,中國大廠的決策也很清楚,不開源沒辦法激活各種需求應用人才培養等, 美國這幾個大廠為了維持自身優勢,只能持續封閉。 然後關於蒸餾,其實這也是大家通用的技術之一,但目前K3版本的很多狀況是比Fable 與sol來的更好,更別說這幾個模型也是最近才上線,因此單純用蒸餾無法解釋。 更多的是用更好的架構跟更好的算法來訓練模型優化架構,在資料層面其實在大廠上應 該差不多了,網路資源能挖的資料都挖完了。 個人是認為開源模型會增快在各領域的開發速度,已經將開源模型蒸餾成更小更快的模型 ,所以在前期CAPEX上,可能就會是原本幾個巨頭再投入,改成更多的公司會投入,因為很多服務不在是自 己無法掌握核心,更長遠來看,NV的成長會更高,以及帶動更多的邊緣計算硬體 。 -- 那片有座高塔哭著朝北方奔去的天空,是我此刻片尋不著的風景 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.77.23 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1784607919.A.863.html
ypc1994 : 就Python 跟 Matlab 之戰AI版而已 07/21 12:34
說來尷尬,但比喻的很正確
aegis43210 : 老黃的成長已經開始減速了,不認為還會加速,因為已 07/21 12:39
aegis43210 : 開始受到反資料中心浪潮帶來的限制 07/21 12:39
對,需求增加,但反資料中心導致現在巨頭拼命找租借
Solyo : 我投matlab 07/21 12:44
+1
Solyo : 這是好文 07/21 12:44
Zending : 有看懂,所以來推一下 07/21 12:56
redhot99 : Nothing can stop AI growth....Nothing 07/21 13:00
Zending : 所以中國如果有想培育一個字用國產模型,鎖住算力 07/21 13:02
Zending : 資源,就可以形成不對稱發展,很自然的劇本 07/21 13:03
Jefferay : 大家都用中國的AI為何NV上限會更高?不懂邏輯是什麼 07/21 13:03
Zending : 更正: 自用的國家代表模型 07/21 13:03
因為其他原本沒辦法加入的公司,現在可以加入了,因此會有更多需求 原本考量成本無法部屬的需求,在一般公司能入場後,就會回歸傳統資料中心的方式
Jefferay : 我只看到無論軟硬體都會全掛 07/21 13:04
Zending : 不只NV,TPU、AMD、AWS有自研晶片的都喜迎市場 07/21 13:06
panda816 : 用中國開源模型當底 做自己的AI服務 硬體設備設備 07/21 13:07
panda816 : 還是買nv的算力才夠用 這樣解釋嗎? 07/21 13:07
是的,現在做AI首選還是NV,競爭者還遠,除非像中國那樣被限制住(中美聯合限制)
F93935 : 老黃成長減速? 我看到是大公司會本地部署吧 07/21 13:08
yinaser : 市場整個變大大公司要架自己數據中心只會挑NV 07/21 13:14
yinaser : 誰會去自研晶片和用AMD哪個上手快就用哪個 07/21 13:15
正確,更多的大公司本地部屬,反而是歐噴醬的需求減少
aegis43210 : 本地部署?那麼散熱需要的水從那裡來? 07/21 13:16
散熱方式很多種,大海也是個方法,但未來可期資料中心產生的熱直接用於供暖等
s800525 : 大公司資料很敏感,不太願意用雲端做 07/21 13:17
這也是大問題之一,歐噴醬不好賺到的錢
Zending : 是市場自然發展地變大,但是老黃的競爭者也多了 07/21 13:17
Zending : TPU自用之外,也宣布要對外賣,AMD就是純賣並且想擴 07/21 13:20
Zending : 大發展算力租賃服務 07/21 13:20
Zending : 所以才說老黃的競爭對手真的變多了,往大亂鬥局勢 07/21 13:21
Zending : 當然NV支持者會鄙視NV以外的競爭對手很正常 07/21 13:23
其他競爭對手還要點時間,但未來確實會是大亂鬥 也會共同抬升市場
badruid : 感謝白話解釋 07/21 13:28
KY1998 : 要省事用老黃的 07/21 13:42
s213092921 : https://reurl.cc/1lY4j9 美吹別再幻想輝達蹭中國AI 07/21 13:44
s213092921 : 了 07/21 13:44
atpx : 專業 07/21 13:55
※ 編輯: EvilSD (59.120.53.15 臺灣), 07/21/2026 15:35:32
Zending : 又一個頭腦清楚正經的ID,果然好文多有料 07/21 15:44
Zending : 還好AMD跟TPU都願意砸錢搶GG產能,不然真輸定了 07/21 15:49
Zending : 難怪CCW說他的客戶都比他有錢,要搶2nm產能 07/21 15:50
Zending : 然後3nm產能也在搶,所以5nm的設備鬼轉3nm搶進 07/21 15:50
strlen : 其實都沒差 增量市場 大家都會活得很好 07/21 15:51
Zending : 下半年真的有好戲看了,TPU跟AMD來勢洶洶,NV應戰 07/21 15:51
strlen : 哀鳳也沒被開源免費的安卓打趴啊 07/21 15:52
Zending : 其他人真的轉頭先去搶算力租賃市場比較實在了 07/21 15:52
Zending : 是阿,這樣的生態系才是健康的發展,各憑實力搶占 07/21 15:53
Zending : 搶占食物鏈的各自生活領域 07/21 15:53
mnxzq : 知道Matlab的超老 07/21 15:55
auerbach : 受教了 07/21 16:01
AirLee : 邊緣計算?嗯 07/21 23:43