Re: [新聞] 跳過 CUDA，Deepseek 用精細的 PTX 寫成

[a1e (我上了賊船了囧)]

cuda架構長這樣
https://i.imgur.com/Enp8heX.jpeg
一般人都是用上層土黃色那部份的cuda api來寫ai程式
PTX就下層driver那部份，基本上還是奠基在NV的GPU上
PTX的操作方法，NV自己都有手冊了
https://docs.nvidia.com/cuda/parallel-thread-execution/

PTX還是nv提供的api，只是進行更底層的硬體操作，速度一定會比透過cuda上層api快
但會很難寫(看手冊就知道)

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.105.176 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1738230242.A.C11.html
推 ruokcnn: 推你
推 neil0611: 專業
推 rrrr01012: 推 新聞媒體隨便寫也一堆人信
→ Paulsic: 組合語言有幾個人能寫
推 mamorui: NV的迷宮是走不出去的
→ asiaking5566: 手刻組語
→ jeangodard: 專業
推 silveryfox99: 專業﹐要命的組語
推 jma306: (但會很難寫) 可以用AI寫嗎
推 s213092921: 現在DS就是用自家AI推理模型寫PTX代碼