推 demintree:就算是EP、GA，要做真的AI 也是很難吧...光是fitness 08/21 12:47
→ demintree:怎麼評估就很難做了 08/21 12:48
→ demintree:GA也是拿來做optimization比較多 08/21 12:49
※ 編輯: I0O1 來自: 140.113.194.55 (08/21 13:07)
推 come:我也覺得把GA拿來這裡比喻超級不恰當 08/22 11:10
PS: 以下用超人工智慧 (SAI, Super AI, 或 Superior AI) 代表萬能機器
前言寫在上一篇 obov 的推文中. 但推的太多, 我獨立寫出來
此文只討論以下這件事情..
→ I0O1:也因此,是否有超人工智慧,能在短時間毀滅人類呢? 08/21 12:05
→ I0O1:回正題, 超人工智慧(SAI)我覺得是有機會在短時間內突現的 08/21 12:08
→ I0O1:至少包括有 破壞性病毒 與 磁區損毀 兩種方式, 可以改變一個 08/21 12:09
→ I0O1:正常程式的行為模式. 可以想見基因的 "突變" 08/21 12:09
即使不考慮 EP 等基因演算法. 一般正常程式 (就如..微軟的小畫家), 在突變後
也會產生難以預期的結果.
(給一群猴子亂敲打鍵盤, 也能打出莎士比亞鉅作)
不過, 我必須強調, 突變產生 SAI 的可能性很低,
從 machine code 的角度, 一個函式 "回傳 x+1" 突變成為 "回傳 x-1" 比較容易
但突變成為 "x^2 + 1" 困難許多.
雖然目前沒有人知道 SAI 需求的複雜度多高. 但明顯的, 目前日常生活的
應用程式 (例如 Word), 離 SAI 還有很大的距離. 也因此, 我並不擔心,
待會午睡起床, 我的 Word 變成 SAI !
另一方面, 前面我提的兩種突變方式 "破壞性病毒 與 磁區損毀"
對於突變的殺傷力比建設力高太多.
生存環境也太嚴苛, 沒有人會樂見自己的小畫家一夕間變成 CorelDREW 吧?
八成一開始突變就砍了它
也因此, 至少我對可以看見的未來, 仍抱持樂觀
也相信 reader 所言, 人類的智慧 能主宰 漸進式進步的科技與社會
最後, 就我所見 haryewkun 的論點在 "SAI的突現" 與 "和人類的競爭" 兩點
此文說明了 "SAI突現" 的難處. 或許 haryewkun 有其他, 對程式突變的更可行想法?
另外, SAI 和人類的資源競爭上, 並非不可能. 但我總覺得這是以人類 '唯我獨尊'
的思想為出發點.
姑且不論 SAI 個體數是否能壯大到和人類種族相抗衡 (因為沒有人知道多少 CPU
多少 RAM, 多少硬碟才能養活一個 SAI); 新物種也可能主動與舊物種形成共生關係
舉例而言, 即便明天出現 SAI, 但以目前人類的科技狀態, SAI 僅能扮演螢幕上的指導
者腳色, 或在汽車配件工廠揮揮機械手臂...
或許 haryewkun 可以對整個 "取代過程" 做更深的構思.
附和前面 jsbjgk 網友說的
"討論 CS 的東西還是不要牽涉到 社會制度這些東西比較好...."
抱歉, 修到推文
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.113.194.55
※ 編輯: I0O1 來自: 140.113.194.55 (08/21 12:46)