→ ifay: 但台廠享受到財富 看來台灣要吐更多錢惹 114.34.68.36 01/07 08:15
※ 引述 《ntpuisbest》 之銘言:
: 當然打敗李世
: 柯潔的超強Ai alphago團隊
: 為何沒有發明出chatgpt
: 請問是因為deepmind團隊研究方向不對嗎?
: 還是有什麼八卦呢
阿肥外商碼農阿肥啦!
簡單說,Deepmind的公司架構是隸屬於Google底下的一個完全獨立的學術研究機構,Deepmi
nd完全不需要為商業負責只要提出有用的研究就好,自然跟ChatGPT進入大眾視野勾不著邊
。不要忘了在ChatGPT出世的兩年前OpenAI被馬斯克拋棄就面臨破產危機,後來是被微軟投
資最初微軟的目標可能也不是Chat系統而是背後的模型拿來做其他的事情。
然後早在ChatGPT出現前一兩年Deepmind就有嘗試過Gopher這個有280B的語言模型,當時的C
hatGPT參數量頂多175B上下,Gopher那篇裡面也提到語言模型的不穩定性包含生成有毒文字
即使你做了很多safety guide 也無法避免。Google自己在更早以前也嘗試過PaLM 540B參數
的怪物一樣發現到雖然模型規模Scale Up但是風險一樣存在,更不用說Meta Yann Lecun(
楊立坤)團隊在chatGPT出現前做了一個學術聊天語言模型大型翻車被說有幻覺的問題。
這邊要說的是大眾只看到ChatGPT的出世卻沒看到商業產品出現前科學家/研究員在領域內的
進程就是了。但是語言模型是根本不可能真正具備AGI能力這個算是當前領域內科學家的共
識,他存在的不穩定性跟序列依賴的致命缺陷即使你scale space or time也依然存在。更
何況當前語言模型能不能商業化變現都是大問題了,像前陣子OpenAI的財務長自己不小心爆
料當前OpenAI的商業戰略就是把美國政府一起拖下水這樣OpenAI就絕對倒不了,星門計畫其
實存在很大的財政風險,一但星門垮了美國人民會吞下這筆他們沒享受過的債務就是了。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.164.123 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1767743967.A.E1B.html