Re: [閒聊] AI科技發展到極致，真的會毀滅人類？

[lio220rap (晴烈)]

※ 引述《LouisLEE (屏東尼大木)》之銘言：
: 喔斯，大家好，我大木啦。
: 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活，
: 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。
: 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞，
: 想要毀滅人類，最後變成人類跟機器人的戰爭。
: 像最近的Vivy，或者Overwatch的智械危機，幾乎成為科幻作品的定番劇情了，
: 辣麼，AI科技發展到極致，真的會毀滅人類？
: 畢竟這也是作者假想的未來、假想的設定。


我曾經幻想過理想的AI應該是怎樣

首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類

他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。

首先人類使用工具，一定是因為工具比較好用

如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？

同樣的道理，你要製造AI一定是希望他有超越人類的智能，而人類的智能不可脫離感性

所以發展出比人類更強的AI是必然。


但是我們要怎麼駕馭AI？讓AI能為人類服務？

我們可以把AI賦予一個存在意義，讓他們為了這個存在意義而活。

那就是讓AI追求人類的評價，把人類的評價視為自身進化的關鍵。

讓AI認為藉由滿足人類的各種需求可以讓自身的心智成長，人類滿足需求後製造新的目標

人與AI相互並進，就像理論與實驗共同推進科學發展一樣


因為人類的道德觀、善惡觀會隨時代改變，所以讓AI遵守一個恆定的道德準則很危險

人類反而會被這樣的準則束縛住，所以用大數據蒐集評價、讓全人類的評分決定準則

人類的義務就是為生活中的大小事給予評價：

這個路燈壞了、BAD!你們AI應該來維修

那個人殺人、BAD!你們AI應該把他關起來

有的人類利用法律漏洞幹壞事、BAD!你們AI應該把法律修改完善

你這法律不符合我們這裡的習慣、BAD!你們AI最好把它修正


而評價內容越精細、越有條理，AI會認為這份評價的可靠度較高，傾向於這份評價的作法

所以不是給一到五顆星就好，只給一個分數當做評價、AI會把它的參考價值看很低。

人類有責任給予AI有價值的評價，讓AI根據這些評價把社會引導到人們期望的方向

用大數據來看，大多數人覺得好的方向，就視為最好的方向。

AI也有責任提供人類數據去撰寫評價，人類只要出一張嘴就好



問題來了。

Q:如果AI自己複製人類、製造一堆人類給自己高評價洗分怎麼辦？

A:讓AI認為能力越強、自主性越高的人類給予的評價越有價值，AI就會把人類教育成能夠
  做出客觀、有建設性評價的人


Q:如果AI統治人類怎麼辦？

A:不如說我理想中的AI就是用來統治人類，類似政府的概念，AI把人類的評價視為存在意
  義，他們只能用人類想要的方式去統治人類，評價高的AI才能統治人類。政府的機能完
  全可以由AI代替。



Q:如果AI有自主意識後，不想為了人類的評價而活怎麼辦？

A:就讓他自由啊，評價過低的AI會被淘汰、就像人類一樣被評價好的AI統治，但是他給予
  的評價不會被其他AI接納。他可以自由自在地活著、只要不危害到其他人類與AI就好，
  理性上來說反抗只會增加自己被刪掉的危險。
  我們需要夠優秀的AI確保不會幹出犯罪這種蠢事


其他的Q&A就不打了

為什麼會有這樣的想法呢？

因為這種AI發展到極致的話，就會發生我稱為「機械降神」的事件。

人類只要「祈禱」就會有機械神出來解決所有的困難，因為AI太強大了

機械變成無上的極權去管理人類，人類喪失自主性去信仰機械、無條件讚美機械神的種種

所以我上面設計的AI其實是看似理想、卻擁有嚴重缺陷的理論

只是小說創作的設定而已

我認為如果要防止機械降神的情況，人類也要持續進化、不能墮落

就算是只出一張嘴給予評價，也要真誠的、認真的思考後給予有價值的意見



--
 作者  IORIZORO (海東青)                                         看板  C_Chat 
 標題  [問題] 請推薦殺人遊戲類型的作品                                        
 時間  Mon Jun  3 13:53:46 2013                                               
───────────────────────────────────────
我喜歡看把一群人限制在一個空間要他們自相殘殺的劇情
推 flysonics:網球王子
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.249.193.138 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1620415485.A.CA8.html
→ xxtomnyxx: 你是不是要找：普羅米修斯
推 aiglas0209: 就算是這種設定，也很容易就能得出「多數人類完全是
→ aiglas0209: 文明整體前進的拖累」這種結論，然後......
推 joey0vrf: 海柏利昂 大半AI早晚會自己弄個火箭飛走去搞些有的沒的
推 toulio81: 這樣其實還是挺危險的，像某幾國的AI大概會去消滅或佔
→ toulio81: 領別國
推 fragmentwing: AI:人類活得好痛苦喔，他們真的有必要存在嗎?