Re: [情報] 究竟是 PC 革命還是另一個曇花？淺談 Win

[shiauber (getting used to)]

稍微分享一下自己使用心得
目前
ms的copilot(企業版)
公司用
chatgpt(自己付費版)
自己電腦用

目前還是在LLM的module下使用

chatgpt大概屌打copilot一百萬倍(？！


個人體感LLM能走到這一步，就已經可以宣判不懂AI的人，差不多倒了。

後續還會有更多的應用跑出來的，現在先給一個人機介面的溝通(LLM)，後續能發展出的產
值絕對會是指數成長。

可以有文字，再來就是圖片，再來就是影片

所以老黃才可以這麼囂張
也真的是他才可以這麼囂張
nvlink 真的太豪洨了....

對於AI PC (個人端
短時間絕對可以為創作者先節省超多時間

伴隨著其他module成熟的更快(這需要server用大量的data，這點跟AI PC沒關係)

AI PC 就是等著這些 線上module optimal

本機端簡單使用邊緣運算
讓創作者可以得到更好的成果

AI不是空談，老黃已經把算力弄到太扯了。

當然這是理想
不過要讓這種事情變成普世都懂的時間
大概就是後知後覺的人進場的時候？

4090先好好玩遊戲就好了，屆時晶片會跑多快，可能要先看家裡網路有多快？

以後可能連普通inference都靠網路了。
極其隱私的才會保留在本地端？

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.161.209.244 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1718544260.A.F38.html
推 youarefat: ？ copilot功能上比chatgpt多不少捏
我現在還在聽微軟上課 整合的太慢了...
office三寶 都整合不了 我就不想提了

→ pig: 現況就是都靠網路啊，不然你的超猛chatgpt
→ pig: 是放陽台在跑嗎？
推 ccps9550217: 小白問個問題 GPT是靠顯卡去運算 會
→ ccps9550217: 不會出現像是類似挖礦一樣 用個人顯
→ ccps9550217: 卡跑運算賺錢？
呃 我是覺得你的算力 相對於他們的算力 可以不用想太多
推 LastAttack: 不喜歡線上運算。憑什麼要把指令、指
→ LastAttack: 令帶來的輸出成果這些東西，無償分享
→ LastAttack: 給模型提供者
沒辦法 一件事情就是正反兩面都有

你也可以參考別人的算法

而且怎麼確定你想的別人沒想到？

能夠快速試錯 這也是他們集合算力的優勢，你自己跑了三天。人家3hr就跑完了

也許早就把你的算法算完了
推 oppoR20: 不會 挖礦是一直套用演算法找到未知的東
→ oppoR20: 東
→ oppoR20: 你跑gpt就跑模型而已
→ oppoR20: 除非以後gpt有類似pcdn模式
gpt只是一個文字接龍的module 光是他的衍生就玩到玩不玩了。

pcdn這種模式，我還沒涉獵到有那個module有在用？

推 yymeow: 就是付費網站給人家互動暗黑內容啊 :D
這個會佔9成的!!!

推 chocoball: 單機跑slm可以一群人共用 也可能可以
→ chocoball: 賺錢吧
沒有反對自己跑 或是自己嘗試UAlink 來試試看 但是要賺錢，挖礦如果還會賺錢，那也是N
VIDIA獨賺

而NV貌似沒有往這個方向前進，反而著重在更多更豪洨的算力

推 ccps9550217: 再問個問題 挖礦有實際產出嗎 還是單
→ ccps9550217: 純付出資源換取比特幣
台灣電價可能不再適合挖礦了。
※ 編輯: shiauber (1.161.209.244 臺灣), 06/16/2024 22:41:44
※ 編輯: shiauber (1.161.209.244 臺灣), 06/16/2024 22:47:44
推 aegis43210: 挖礦就是通貨自由化，產出就是生產要
→ aegis43210: 素移動的更便利
推 chysh: 回四樓，最近漲很兇的IO幣就是你說的東西，
→ chysh: 查一下io.net就知道
→ fate201: copilot是和微軟的系統深度整合
→ fate201: 不太好跟chatgpt的方向比吧
真的狗幹一下 MS的整合
可以整合的資源最多，整合卻是最慢的

目前使用上。MS copilot真的很不順。

用過chatpgt4o 真的不想再用M$

公司的企業版不用錢，不然送我也不會想用。

微軟看起來也不急，如果文書三寶真的互相打通了 他三寶怎麼賺錢...

 另外 M$的copilot理論基礎也是基於gpt4

→ Akabane: 你忘記AI吃超多電XD
不要挖洞XD
台灣不缺電。
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:31:02
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:32:15
→ ry3298: 為創作者節省時間-》老闆裁員囉XDD
這個看你的想法了
節省時間→代表產量可以增多
試錯成本降低。降低開發週期

老闆裁不裁你 跟AI無關
是老闆看到的野心到哪裡
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:46:44
→ fate201: vs code和github copilot整得太好了
→ fate201: 現在都是架構問gpt4o 實作直接問copilot
→ aaron5555: 反正openai大金主也是微軟 不管怎樣他
→ aaron5555: 都是勝利者
→ TryToBe: 你輸入指令得出來的成果不也是享用別人的
→ TryToBe: 成果，都像你這樣想那大數據哪裡來
→ TryToBe: 你想自己搞，那就砸大錢搞本機端AI啊
→ sporocyst: 你這心得除了狂吹Ai外，怎麼都沒有實例
→ littlefish1: 別人在講的是買NPU浪費錢（多花錢買
→ littlefish1: 本地微弱算力），你在講雲端算力，
→ littlefish1: 有看過原本文章嗎？
→ littlefish1: 沒人在否認AI用處，而是錢要花對方
→ littlefish1: 式。
→ a27417332: 怎麼感覺ChatGPT會寫的比這篇好
這樣很好 再次驗證GPT真的強大

→ narukaza: 實際上本地算力本來就不差那顆NPU，一
→ narukaza: 張4090就可以抵13顆NPU以上的算力了(假
→ narukaza: 設NPU有100TOPS)，所以這就算有配套應
→ narukaza: 用，也還是個噱頭
兩件事情 NPU架構 跟cuda不同

可以用 TFOPS來判斷效能

但module可以變 也可以調整

npu只是把cache內容換成幾個

int8 跟int16

別忘了 AI起頭也只是噱頭

多少錢進去燒才是重點
推 honokasohot: 商用office的copilot超廢 用一個月就
→ honokasohot: 退掉了
※ 編輯: shiauber (1.161.193.73 臺灣), 06/20/2024 20:44:56