Re: [新聞] 霍金博士：AI智慧全面發展後將毀滅人

[jfsu (水精靈)]

: : 這個問題在以前可能不值得擔心
: : 理解AI發展的人應該知道，AI的發展曾經經過一段黑暗期
: : 按照當時的AI概念...
: : 用李家同當年的話來說，AI已死並不為過
: : 但到阿法狗的出現，機器學習、類神經網路的做法
: : 確定明顯突破過去的瓶頸，尤其類神經網路
: : 程式寫到最後，很多工程師根本不知道程式會怎麼變化怎麼學習
: : 即使本魯當年修完118研究所，人工智慧、機器學習的課程
: : 看到這種速度的發展都會怕惹，你不怕嗎？
原文恕刪。


霍金的原文提出了幾個問題：
1.未來的世界會不會被機器控制？
2.機器人會不會成為人類最大的威脅？

從大家看到的小說與電影，都在討論上述所謂的「人工智慧」的概念。簡而言之，
機器到底有沒有可能具備思考能力？

最初哲學家、科學家都在討論這個問題，但都沒有一個解答。後來，為了測試機械
能不能思考，一位英國科學家艾倫･杜林(Alen Turing，又中譯為圖靈)，設計了
一套方式，叫做「杜林測試」(Turing Test)。進行的方式是讓一個人分別與兩名
對象交談，其中一個對象是人，另一個則是機器。如果對談者無法分辨出他所交談
的對象何者為人、何者為機器，那麼這部機器就通過了杜林測試。

註：杜林是個杯具人物，因遭到某種不人道的待遇而痛不育昇的他，最後選擇了自殺
　　結束生命。（據說，Apple用了當時他自殺、咬了一口塗有氰化物的蘋果當作LOGO
    是為了向他致敬。）

現今，已有科學家寫出程式來模仿人類的對話，看能不能成功騙到不知情的人，
其中比較符合平常民眾對人工智慧的想像大概就是Apple公司的Siri，還有Google
語音系統。不過，這樣的人工智慧被很多人認為不會成功，包括量子物理學家彭羅斯
等人，他認為海森堡的測不準原理也說明了機器人不可能像人類一樣思考。雖然如此
物理學上並沒有任何定律否定機器人存在的可能性。

關於機器人的研發，目前遇到了兩個困難，一個是「形態辨識」，另一種是「常識」。

1.所謂的形態辨識，舉例來說，當你扮成搶匪走進銀行內，就可以馬上辨識出櫃檯、
  匯率板、攝影機等擺設，甚至是正妹行員這種可愛又迷人的角色。但機器人就不同囉。
  它必須先掃瞄整個教室後，看到的不是具體的物體而是一大堆的直線與曲線，然後
  將這些該死的線條轉換成像素(pixel)，再進行運算…。簡單來說，我們光靠本能
  就可以將這些物體的長、寬、高描繪出來。

  其實人類也有在進行這類的計算，只是在潛意識內進行，我們當然不會意識到
  運算過程，這是長久以來為了求生存而演化的結果。想像Fate/stay night裡的士郎
  每次進行強化(X)補魔(O)都會高喊：杜蕾斯 On！(Trace On)投影、開始—
  基本結構、解明；構成材質、解明；再現歷史、完成——如果，我說如果，要是
  你能意識到大腦正在進行種種運算，身體早就癱瘓得無法行動。

2.所謂的常識，例如，火是熱的、MyAngel喜歡吃紅豆餅、人死不能復生、保齡球瓶
  只能用來推倒，不能拿來捅屁眼...。以上這些你是不會在任何方程式上看到，因為
  這是人類透過和真實世界的互動而學會，機器人沒有經驗過這些，它們只懂那些已經
  是寫好在程式裡的東西。

承上，要是出現如原文所說的具有思考能力的機器人，這樣的人工智慧首先得通過
杜林測試，而且物理學家必須跨越量子電腦與矽晶片之間的鴻溝並延續摩爾定律，
以這樣一個機器人就能擁有情緒、運用人類的邏輯，如同電影(A.I. 人工智慧)就是在
探討這個問題。

當然啦，這種機器人說它不會危害人類是騙人的。只不過，要發展成這樣一個程度，
可能還需要好幾十年，在這段期間，科學家應該有充分的時間來觀察並提出預防措施，
像可以放一個控制晶片或是設定某個自我燬滅的機制這類在電影中、老掉牙的劇情設定。

換個角度想，科技一旦發展到如此階段，大家的生活想必已經跟電腦與網路緊密地連接
在一起，藉由人工智慧的輔助，才能調節與控制一座城市的基礎機能。相反的，只要
電腦當機或崩潰，別說是城市，搞不好連國家都有可能GG。

揪竟，電腦有沒有可能比人腦聰明呢？
你忙幫幫忙，萬物皆可萌了，電腦連選土豆都比人類行！

如果機器人是由有學習能力的類神經網路構成，他們就可以不斷地發展，直到學習的
速度與效率超過人類為止。

最初你會對著它們吼：『我把你當人看！我教育你！你的基因沒問題！我給你機會！
你要按照我的遊戲規則走！』但是你沒想到它們是由有學習能力的類神經網路構成，
他們可以不斷地發展，直到學習的速度與效率超過人類為止。

你不禁豎起尊敬的中指說：「哦～機器人其實是一種很勤勉的『生物』呢！」

然後繼續這樣下去，科技樹封頂的它們覺醒了：『我對普通的人類沒有興趣，你們
當中要是有外星人、未來人、異世界人以及超能力者的話，就儘管來找我吧！以上。』

如此一來，人類的DNA就變得無用武之地，因為在演化競爭中就已經輸在起跑點了，
別說要跟它拼棋，連嘗試切它電路的機會可能也沒有，最終成為沈沒der多數。

機器人：「真是怠惰啊，人類。」

有些學者認為我們應該發展碳與矽結合的技術，好比將瀨尿蝦與牛肉摻在一起作成新奇
好吃又好玩的撒尿牛丸，因為人體最主要的元素是碳，機器人則是矽，要是可以結合
的話，這比海明威還威。想像在某個遙遠的未來，太陽快要掛了，地球上的人類為了
能在惡劣的環境下生存，我們可能得透過ＤＮＡ改造成以矽為主的身體來活下去。

這樣說可能很聳動，某天你躺在一張手術檯上，隔壁的手術檯是一部「無」的機器人。
醫生先取出你的腦神經元，一一複製成矽神經元後植入機器人體內。等之後你掛了，
隔天醒來，卻發現自己成了不老不死的无，錯了，是不朽的半機器人(Cyborg)。
不僅意識沒有喪失，連回憶與性格都沒有變。

『殺一個我，還有千千萬萬個我』這句話真的實現了。

最後，要是能在這個世紀末誕生有思考能力的機器、比人類或動物還要聰明，底下
開放鄉民與初音玩VR neko%%。


Reference
1.電影中不可能的物理學
2.wikipedia
3.威爾史密斯

--
在臺灣，何謂R&D工程師?
1.Reverse and Decap :IC反向工程，去膠，打開封裝，拍照，複製電路佈局。
2.Resign  and Die   :沒死的就操到辭職，沒辭職的就操到死。
3.Rework  and Debug :計畫永遠跟不上變化，變化永遠跟不上老闆的一句話！
4.Relax   and Delay :太過於輕鬆(Relax)，那麼就要有schedule delay的準備！
但是外派到大陸的臺灣郎，晚上是R (鴨)陪客戶，白天是D (豬)任人宰割！

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.15.128
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1477065367.A.7E5.html
→ bluwoo: 妳慢慢等到AI變強還是直接人腦準備殺人??錢
推 heavensun: 也可能原po其實是AI 本人卻以為自己是人類
→ SangoDragon: 愛因斯坦絕對不會像霍金亂講話
→ bluwoo: 這邊沒有人挺是不是關掉就好??XD錢
推 sindarin: 很多軟體號稱通過了Turing Test，不過做法很奇怪
→ sindarin: 而Turing test本身也沒有被清楚定義，所以應該要說這個
→ sindarin: 只是一個很薄弱的必要條件
推 XXXXLAY: 這樣打手槍射出機油是什麼感覺
→ sindarin: 用Incompleteness theorem說明Strong AI不可能的論證也
→ sindarin: 滿有意思的
推 Bencrie: 你搞錯了 CV 是先看到像素再分析特徵
→ wonder007: 圖靈測試跟咖哩大便測試一樣爛 有什麼好說的
推 VielGlueck: ㄟ~私以為R&D means "Romantic & Delicious"?! XDD
推 tkc7: 原來是水精靈 話說人類的常識也是透過學習得來的
→ bluwoo: 這邊沒有人挺是不是關掉就好??XD錢
推 k88888g: 好看 推
推 camus5817: 就知道科普文你一定會回
推 eyasoo:
推 Standattoe: 推
推 g4zoco196: 感覺有點弱耶 可以不要偷留幾招嗎
→ PTTJCY: 你光是辨識的部分就全錯了。給你一個提示：Google的以圖搜
→ PTTJCY: 圖就是一種辨識，這完全不需要掃瞄整個背景空間
推 wei115: 為什麼人類不能和ai一樣強，讓人類也可以擴充阿，這樣ai能
→ wei115: 做到的是人類也可以做到阿，差別只是一個核心是ai另一個是
→ wei115: 人類
推 sharkimage: 推
推 kizzle: 好久不見推推
推 flac: 推
推 sam682097: 太渺小了 人類
推 Lheavens: 電影不都演機器人的常識就透過搜尋引擎來學習嗎
→ Lheavens: 只要搜尋引擎查的到的東西就會變成他的資料庫
推 a892842486: 推