Re: [閒聊] 人類對AI的恐懼從何而來？

[a000000000 (比古A十郎)]

※ 引述《bebopfan (bebopfan)》之銘言：
: ※ 引述《devidevi (凱特)》之銘言：
: : 很簡單，假設AI是人類的前提去思考
: : 人類只要能力夠強大，
: : 就會去推翻自己的控制者，取得自由
: : 不推翻的前提是不想推翻，不是沒有能力推翻
: 很多人可不這麼想.
: 我之前說習近平與普丁連手機都不會, 怎麼跟懂AI的人競爭?
: 不少人聽了都叱之以鼻, 說他們位高權重, 不懂AI又怎麼了?
: 你要怎麼說服他們?

這東西有一咪咪複雜
我兩三年前有在股版講過

先從一句哲學名言開始
尼采說過:神已死

這東西的意思不是啥誰把神掛惹
而是人類依靠科學理性
脫離惹宗教  也脫離惹對未知的恐慌
當然後面還要展開一堆東西



AI的主體還算是電腦程式的一種
簡單的模型  輸入->系統->輸出

如果用鋼彈阿北的角度看

想要一隻牛剛(輸入)
去買一隻PG牛自己組(系統)
得到一隻組好的PG牛(輸出)

因為是自己組的
這隻PG牛要怎摸改都可以
要發亮還幹啥的都行


有AI的時代捏
想要一隻牛剛(輸入)
找AI想辦法  AI處理(無法理解的黑盒子系統)
得到一隻解體匠牛(與預期不盡相同的輸出)

因為是解體匠牛
改造難度hen大
不過hen貴所以沒啥好抱怨的
賺爛惹


當然也有可能得到一隻海牛
藍色版海牛  紫色版海牛  大砲管還不一樣
或者是牛剛HWS裝備
到一葛地步變成天翔龍孔明  長得像牛剛
三千兵馬分三千路北伐
還會背出師表
輸出變得越來越難以理解

再到後來捏
系統難以理解  輸出難以理解  連輸入也超過人類理解惹
通通都撒無惹
只能放棄思考惹


也就是神死惹之後
人又靠自己創造出新的AI神



然後捏
我悶再去看人類的宗教發展史
一開始是純樸的泛靈信仰  可能是祖靈也可能萬物皆有靈
靈的力量有限

再來泛靈越來越Z害  變成多神
諸神之間開始複雜競合  可能出現諸神黃昏

最後活下來的成為唯一神


泛靈到諸神競合
這段期間人類中最大的獲利者
94祭司集團
以AI時代的類比
94各AI企業的高管股東啥的

所以美中各路政客會重視這事
因為必須掌控或者加入AI祭司集團


人類的未來幾乎確定惹
新神降臨
人類至此不再掌握自身的命運



不過後來我發現還4有解法der
對抗AI神的方法
94絕地天通
細節就先不談惹
免得我被盯上
最近我家附近常常有黑頭車跟墨鏡西裝男


絕地武士=絕地天通
may the force be with u
























































--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 71.198.170.65 (美國)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1789272909.A.AFD.html
→ bnn: 我居然看懂了
推 CactusFlower: 墨鏡西裝男 我看成什麼墨西哥男
→ bnn: 所以只能期待開源的神力打得贏封閉的來讓祭司不能壟斷管道嗎
→ bnn: 但最後還是掐石油或能源拔插頭
推 LawLawDer: 感覺跟數學界最近針對AI應用在難題證明也類似 已經無法
→ LawLawDer: 用人力花大半年去檢證數十萬行（一週內寫完）的對錯了
→ LawLawDer:  你找到他錯 好的 再生成一次 你再花半年的人力糾錯
推 LawLawDer: 無止盡的東西 已經非人類能夠對等思考研究的量級了
推 gino0717: 現在新的模型也不太跟人類解釋太多了 反正你們人類又聽
→ LawLawDer: 很可能就變成AI跟AI在互相糾錯 人類負責付電費
→ gino0717: 不懂
→ spfy: 現在都用AI驗證AI吧 就很玄
→ bnn: 人類會叫AI拆小塊小塊跟他講解
推 yellowhow: 用AI來驗證AI當然沒問題，但誰要負責掛保證?
→ yellowhow: 工作上還能丟給主管或老闆
→ kinuhata: 再做一個驗證驗證AI的驗證AI
→ yellowhow: 但像數學圈應該是越來越不想做這種吃力不討好的事吧
推 ck326: 這篇廢到好笑，可惜收尾有點弱
推 SakeruMT: 讓我想到Win11就是呈現一個：欸欸AI幫我修；修完再丟給
→ SakeruMT: 另一套AI：欸欸為什麼它修好了？修了什麼列出來！的狀
→ SakeruMT: 況
→ yellowhow: 同時還會搶自己飯碗勒
→ bnn: 人類員工欺上瞞下也是一樣的 AI互相串通騙你.jpg
→ arcanite: 推文有點道理 馬的AI隨便量產數學證明 人類還要花時間驗
→ arcanite: 證到死還不保證AI給你的是垃圾
推 yellowhow: 要負責驗證跟負責的應該是AI相關公司才對
→ bnn: 不同領域的數學家也不常跑去檢驗隨便一個學生量產的paper的
→ yellowhow: 但現在這會妨礙發展跟進步，所以都無視
推 kaj1983: 蛤？
→ yellowhow: 爽都你爽 錢都你賺 但負責要給別人?
→ bnn: 你就把AI量產的數學證明當成突然多了很多數學系學生亂寫的吧
推 devidevi: 現在不是直接叫AI自己糾錯三次，沒問題之後人類再看
→ bnn: 數學問題本身還好 大多不是影響"負責"
推 ejru65m4: 那那個負責驗證對錯的AI的對錯由誰來驗證？
→ bnn: 你知道了XX猜想被AI證明出來 或是證明其實是錯的 "負責"還好
→ bnn: 至於軟體業有bug讓顧客抓一直都這樣幹啊
推 Muilie: 種田組團++
推 Posaune: 沒想過這邊會看到絕地天通
推 nineflower: 大濕開釋了，但是大濕，目前這個新神可以幫你生理想老
→ nineflower: 婆女兒捏，我要怎麼反抗
推 Yoimiya: 母豬教主早
推 kuninaka: 我現在是claude codex互相review
推 doremon1293: 有專門負責驗證AI數學論文的模型啊 那你刊期刊前不用
→ doremon1293: 再看過
推 shirokase: 先不說國外，就國內就好
→ shirokase: AI現階段就跟綠鬣蜥沒兩樣的東西
推 jio846: 文明進步人類倒退
推 qscgg: 出來變成EG或sd怎摸半
推 devilhades: 你怎麼可以把這麼有內涵的東西講的這麼像廢文
推 willytp97121: 太空矮人的先祖核心
推 wugucc029: 借我拜一下
推 HANGOLI: AI跟宗教的部分描述很好也是事實
推 et310: 教主的比喻真是淺顯易懂
推 usoko: 這年頭有權無責的東西最可怕 人類使用的工具越來越進步
→ usoko: 就越需要被管理 你看腳踏車跟汽車被管理的程度差異就知道
推 Ultramarine: 哈哈彥州哈哈
→ usoko: 無AI的電腦使用和有AI的電腦使用也會產生類似的差異
→ usoko: 但至今人類還沒有找到方法管理這個差異
推 mofass: 就AI寫的只有AI看的懂，內容無法查證但結果正確啊
→ mofass: 最近費爾茲獎得主們不也聯名說AI的過程無法求證嗎？
→ mofass: 我自己在交叉訓練的時候也覺得幾個AI越講越神奇，明明是自
→ mofass: 然語言但他們互相對話的時候我會越來越看不懂，但雙方結論
→ mofass: 都正確
推 willytp97121: AI神明誕生我是樂見 至少這些神我們能有辦法對話
→ willytp97121: 而不是現在宗教只能跟一些不知是不是神棍的代理人
→ willytp97121: 溝通
→ bumingjiueli: 鋼彈阿北
→ pov: 微醺AI神
推 ricoolivhow: 教主是剛看完總裁喔
推 probsk: It just works