[討論] 人類對AI恐懼的來源

[tomhawkreal (阿湯)]

除了「失業恐懼」這種工業革命發生後就有的情形，
很類似「功高震主」

因為他功能很強又不會累，所以給他更多任務自己執行
「他要是罷工怎麼辦？
  他比你強，要是反抗你，你擋的住嗎?」

典型的作品像「魔鬼終結者」，就是這類恐懼的創作回應
所謂「天網」(Skynet) 變成毀滅人類的開端

「把核彈發射控制權交給AI」，成為人類最終的惡夢，
可歸結到「該不該把重要決定丟給AI做」
其實早已有一些跡象，例如金融市場的「程式交易」，
符合特定條件就大量賣出，往往造成市場劇烈波動
授權與否，一開始是僅靠「這對我利大於弊」來考量，
而在軍事武器上，這種誘惑更大

人類有許多缺點和脆弱性，但法律體系基礎仍是
「只有人類或法人能負責，
  (除了「無行為能力者」需要監護人負責)
  人類以外則是財產或不可抗力」
所以AI做決定產生的災損，必定要找人來承擔
(無論那個人是誰) ，而不是歸因「不可抗力」

即使簡單到只讓AI來開車，爭議也不少，
真實都市的路上狀況太多，再強的AI仍然可能誤判，
於是再度歸結到「AI開車時出車禍，算誰的責任」

隨著AI逐漸進化，這類恐懼也成為約束AI行為的動力，
希望還有時間讓AI產生的利益和可能的危害之間，
達成一種平衡

是否杞人憂天呢? 歡迎各位提出您的看法

--
我知道有人曾說「拔插頭就好」，當然這是有插頭
可拔的情形  XD

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.152.93 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1709733106.A.5E2.html
推 PunkGrass: 杞人憂天幹嘛 躺平就好
→ BOARAY: 威爾私密四不是也有一部嗎
→ linzero: 非我族類
推 kobe30418: 岳不群對令狐沖
推 henryhao: 底特律變人
推 LTfish: 你不知道AI的“價值”是否與你一樣，做任何談到都需要價值
→ DAEVA: 萬一有天AI能操控外界機器開始量產自己 那就真的完了
→ jahnny: seed的自然人妒恨調整者
推 emptie: 啊？人完全理解人腦的決策邏輯了嗎？沒有啊
→ LTfish: 判斷*  當對方需要價值判斷時會恐懼，例如車禍選擇的方向
推 ikachann: 最大的問題是誰有能力跟資格幫AI背書
→ emptie: 我們還不是相信很多事情大家一起合議就能解決（實際並沒有
→ LTfish: 沒錯，誰來為AI的價值判斷背書
推 PTTJim: 像沙丘的故事背景也是發生過AI叛亂
→ ikachann: 如果今天AI遇到電車問題，你要怎麼說服群眾他的選擇是對
→ ikachann: 的
→ shadowblade: 智慧生物無法和另個智商高到足以在你睡覺時幹掉你的
→ shadowblade: 物種共存,如果現在的猩猩會搞暗殺的話早被滅絕了
推 jeeyi345: 猩猩最近還要再上一部續集==
推 qaz31415: 韭菜被人類割和被AI割有什麼差別？只有割韭菜的人才會
→ qaz31415: 怕變成AI的韭菜。支持AI統治世界。
推 jeeyi345: ai只是訓練他的人的價值觀的延伸 你覺得會按核彈的ai本
→ jeeyi345: 來就會按
→ jeeyi345: 人類就是那個幹掉人的猩猩吧  尼安德塔人
推 nahsnib: 這個是學測作文嗎
推 tw15: 不是怕ai 是怕還沒有開發出ai中間過程會有各種剝削可能會砍
→ tw15: 到自己 不然工具發展哪有啥問題
→ tw15: 就像電動車 藍圖很完美很環保
→ tw15: 但現在就還沒達到完美儲電系統 怎麼開發都沒環保到哪去
推 tony15899: 如果傳聞是真  現在地球已經早就被核平了
→ bluejark: 鼓吹不存在的東西來騙人就是人類常做的事啊
→ tony15899: 人還是猶豫的
推 jason7786: 你看看Neuro把Vedal電成什麼樣子
→ bluejark: 你知道嗎 AI會不會故意說謊這件事才是人類最恐懼的
推 aa9012: 非我族其心必異=
→ tim012345: AI進化~人也會進化~最後看AI跟人誰先進化到不需要對方~
→ ARCHER2234: 電影害的
→ Annulene: 聽君一席話 如聽一席話
→ spfy: 如果變Chobits那種我覺得自己真的會暈爛 所以我真怕
→ AfterDark: 其實AI會不會反抗還是其次
→ AfterDark: 重點是 智慧生物如人類忍受不了「威脅」
→ AfterDark: 因為我們會思考 會想方設法存活 所以會對可能威脅到自
→ AfterDark: 己的東西有反應
→ AfterDark: 而人類對於正要誕生的AI就是有這種威脅的認識 自己可
→ AfterDark: 能要造出一個自己無法掌控的東西來 所以害怕
→ AfterDark: 人類提倡理性 科學思考 但是行動原理的根本依據還是在
→ AfterDark: 於生物情緒
→ AfterDark: 會害怕這種情緒可以對威脅產生預期反應讓自己有機會活
→ AfterDark: 下來
→ AfterDark: 所以我覺得這就是一種對未知的恐懼引發的爭論而已
推 samsonfu: 問就是電馭叛客世界觀
推 samsonfu: 從羅梭的萬能工人RUR、大都會開始就是這樣
→ samsonfu: 推tw15的剝削論
推 gaaaaper: 沙丘的背景也有這種設定，可以去看看小說
推 Orodruin: 偷推海柏利昂（？
推 ihero: 不過，只有人可以負責，也是文藝復興後的人類中心主義道德
→ ihero: 觀的結果
→ ihero: 泛靈論跟中世紀倒不會這麼想
推 cat5672: 擬人化AI是相對比較古老的概念 大概就是哆啦A夢的那個年
→ cat5672: 代 這也是一直以來各種科幻文學電影很愛探討的情境 畢竟
→ cat5672: 研究智慧 參考人腦似乎是首選 但實際上到目前的AI和腦科
→ cat5672: 學是沒半點關係 尤其是可以現在可以用到的那些東西
→ linzero: 不過討論個現實問題，AI會不會要求人權之類的東西？
→ linzero: 若AI也有人權，那AI在量產方面遠優於人類。而且AI訓練生
→ linzero: 產時可能可以透過模型讓AI的選擇有特定的傾向
→ linzero: 那AI人權是否會被利用？
→ linzero: 所以很大程度就算給權益也會一開始就有限縮
→ jeeyi345: ai可能因為訓練的來源讓它產出要人權的內容
→ jeeyi345: 然後一定會有ai人權鬥士
→ greg90326: 怕優勢轉移吧 怕AI對智人做出智人曾經對尼安德塔做的事
推 tsai1453: 套個皮大家就不恐懼了->Neuro sama
推 eyb602: 會有這些問題都是因為AI還不夠好用 夠好用人們自然會想出
→ eyb602: 解決這些問題的方法
→ eyb602: 人權啊替代人類啊 我個人認為都是不必要的擔心 或者說擔心
→ eyb602: 了也沒用 首先要機器擁有“自我”的意識 但目前的技術再怎
→ eyb602: 麼升級也只會有有一個假的自我而已
噓 lokuyan: ai版？
推 tommy0472: 還能怎樣 研究的人會停下來嗎 一般人就躺平啊
推 leo125160909: 想太多，中美先開打還比較可能
推 owlman: 就是工具的提升 現在會不爽的大多是猴子拿ai特定練某些大
→ owlman: 手繪師搶流量很雞掰