Re: [閒聊] 我們離人工智慧的奇點已經不遠了嗎？

[staristic (ANSI lover)]

看你定義的奇點是什麼樣子


1 專用型AI - 僅限於特定問題 → 人類目前還在這裡

  a 努力達到人類中  → 目前的自動駕駛、ChatGPT 在這裡
  b 在特定領域的計算力等同或遠超人類
  c 在特定領域中不止於計算力，且在判斷力等抽象表現上接近或超越人類
  d 在特定領域具象、抽象表現皆勝於人類，並有能力開拓人類未知的荒土
    → 圍棋AI在這裡

2 通用型AI

  a 不止於特定問題，同一個AI可以處理泛用問題，並且能力等同或超越人類
  b 擁有自主學習能力，意即AI本身有能力判斷為了處理當前的問題
    需要學習什麼樣的Data來提升自身

3 我們不需要人類啦

  a 不止擁有通用型AI的能力，並且有能力創造全新的抽象概念
  b 自主研究未知的物理定律、數學定理的能力



當然上這個劃分法不是絕對，100個人有100種定義方法也很正常

如果是毀滅人類社會穩定的奇點的話，2-a的等級就足夠了

因為即使我們讓每個人都接受足以超過這個等級的AI能力的教育

也沒有那麼多職位可以滿足所有人

樂觀一點的情況是，多數人的工作是「滿足其它人」的工作

明明可以叫AI來，我卻要讓真人來的那種 → 滿足人類的階級感

用這種方式來創造新的工作

悲觀一點的情況是，社會終將因此崩毀，造成文明倒退，直至文明退至無法生成AI

歷史從此在有AI和沒有AI間循環往復



當前的情況是還在 1，多數AI，包括ChatGPT在內會變成高階工具

毀滅人類還不至於，但是會造成嚴重的知識通膨

以往專精一門學科就可以吃一輩子

未來則必須精通多領域的知識才能生存下去



以「技術文明」尺度來看的話，3-b，有能力自主研究數學、物理的AI才是奇點

靠人腦煉蠱以百年為單位去突破數學、物理實在是太慢了

並且遲早會碰到物理上限 → 解決新問題所需的知識量超過人腦的容量

或甚至是，光是理解問題所需的知識量就超過人腦的存儲量

如果可以放著一台超強AI自動推演數學，比方說解決 P=NP 問題

並在解決 P=NP 之後繼續發現下一個「大定理」並解決，然後無限迭代



當然這種機器能不能存在是個未知數，畢竟有哥德爾不完備定理這個魔王定理存在



我不認為通用型 AI 會在20年內出現

現在有些 AI 可以跑到1-d的階段是因為問題相對簡單

像是圍棋，雖然圍棋已經很難了，但是和其它問題相比還是太簡單

比方說自駕吧，以特斯拉為首的自駕開發週期來看

要實現完全自駕(L5)普及也是2035之後的事

更泛用的AI就不用講了，google、微軟的官方發言都講得很保守

只有騙錢的金融圈在那邊吹

人腦是大自然數億年演化下的精華，不是簡單可以超過去的

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.80.21.170 (日本)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1677216582.A.7B8.html
推 LawLawDer: 說不定未來小學生看到歷史課本寫說21世紀用人腦研究問
→ LawLawDer: 題太扯了吧？土法煉鋼？之類的 想到就覺得好妙
其實就算有那種超強AI，以科學的嚴謹性來說，一定會有人去認真檢驗吐出來的東西
土法煉鋼是不至於啦
推 shadowblade: 不過確實同意人腦的使用年限和必須從零打造這點對於
→ shadowblade: 科技的進展太沒效率了(當然還有很多外在因素在)
※ 編輯: staristic (58.80.21.170 日本), 02/24/2023 13:34:44
推 catmeat777: 希望我老的時候可以用晶片換大腦，全身機器人也可以
困難，目前最新的腦科學連1立方公分的人腦結構都沒有研究透
雖然對人腦大致的功能已經有一定程度的瞭解
但是大腦要晶片化勢必得將整個大腦的神經運作了解透徹，在你我有生之年不可能
※ 編輯: staristic (58.80.21.170 日本), 02/24/2023 13:41:00
推 SALEENS7LM: 我希望我老的時候可以直接讀取大腦想像中的影像再加
→ SALEENS7LM: 以投射顯示配合手繪調整，直接腦繪+手繪完美描繪出理
→ SALEENS7LM: 想的畫
→ npc776: 自動化生產線都多久了 人工線都還淘汰不掉咧
因為機器人比較貴啊
人腦的優勢是能耗比真的很低，即使是當今最能耗比最高的晶片仍然被人腦吊打
如果AI的成本比真人的成本+風險高，那當然還是用真人
推 wiork: 做好在一方面的應用就夠了
→ LawLawDer: 畢竟人可以叫來就來叫滾就滾 還是靈活
※ 編輯: staristic (58.80.21.170 日本), 02/24/2023 13:43:13
推 henry1234562: 考慮到人腦以這體積跟能量消耗 能做到的運算跟邏輯
→ henry1234562: 推理 這個使用年限跟需要從零累積好像不是很過分吧
推 tsubasawolfy: 其實現在已經是多領域才能活的社會了
→ henry1234562: 可以說 光是能研究出讓一個人腦能延長幾倍年限 應該
→ henry1234562: 就已經很有幫助了吧
→ kimokimocom: 開頭的沒想跟你討論123啊 他的世界都4或5了
推 naya7415963: 雖然你的分析很好，但是大標題和小標題格式可以換一
→ naya7415963: 下嗎...例如大標一、二、三、或者小標(1)(2)(3)這樣
好
※ 編輯: staristic (58.80.21.170 日本), 02/24/2023 14:07:21
推 obody: chatgpt可以算通用型了
他只是語言AI而已，不能下圍棋、不能生圖、不能開車、這不能叫通用
推 TOEY: 1.a...那個還差很遠喔
※ 編輯: staristic (58.80.21.170 日本), 02/24/2023 14:18:07
推 Antihuman: 我還在等意識上傳實現
推 Vulpix: 電子設備的記憶體也是有限的。
推 leo125160909: 底特律是2a-2b 天網是3b