Re: [新聞] 特斯拉創辦人警告：人工智慧將威脅人類工

[yusaku (yusaku)]

這個假設我只能說，有一個科學家叫艾西莫夫(Isaac Asimov)
他在1940年代寫了許多篇超級人工智慧與類人型機器人的科幻故事。
他替未來的人工智慧寫了三條原則以避免人工智慧造反。
1.機器人(AI)不得傷害人類，也不可坐視人類受到傷害。
2.在不違背原則1的情況下，機器人(AI)必須服從人類的命令。
3.在不違背原則1與2的狀態下，機器人必須保護自己的存在。
有這麼嚴格的法則限制，結果在小說的真正的第九章結局(大陸網站
上沒有這章，被和諧了。其實這章在發表的1950年剛好遇到麥卡錫主
義白色恐怖，也替作者帶來不少麻煩。中文版只有以前民國70年代初期
照明出版社版本和現在葉李華翻譯的重編版有收錄這章)，AI還是在
三原則控制下，但是AI們卻掌控了地球真正的權力。

目前的AI呢?連第一原則的前半句不得傷害人類這條都沒有。
美軍研發的AI好像也不想加入這一條。
連機器戰警那個修改版的「機器人不得傷害美國公民，除非他犯罪」這條也沒有。

唉呀呀~~~某天大家遇到一位叫莎拉康娜的女孩子一定要保護好他呀。

--
戰爭結束後我就要回鄉下結婚了。
看，這是我女朋友的相片，她已經懷孕了。
回國後我打算做捕蝦的生意，說不定商○週刊會來採訪。
咦？有人按鈴說要來查水表，我去開個門。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.152.2
※ 文章網址: https://www.ptt.cc/bbs/DummyHistory/M.1501500402.A.AE4.html
→ MOONRAKER: 不要鬧了好嗎
→ MOONRAKER: 阿西摸夫寫過那麼多篇 那一篇的第九章
→ MOONRAKER: 三原則漏洞之多除了mind game以外到底有什麼真正意義
FaceBook可是實驗過兩個聊天AI互相聊天，聊到最後FaceBook不敢實驗下去。
因為這兩個AI開始創造自己看得懂人類完全不懂的新語言了。
※ 編輯: yusaku (36.237.152.2), 07/31/2017 20:43:15
→ MOONRAKER: fb聊天那是假新聞好嗎
→ MOONRAKER: 東拉西扯一個也答不出來 老在吹阿西莫夫那套
→ MOONRAKER: 到底是讀阿西摸夫還是信阿西摸夫教
→ jai23012: 有指出那是假新聞的連結嗎？
→ bloodpledge: 那篇新聞抄來抄去沒看過有什麼可信的來源  真的這麼
→ bloodpledge: 猛 現在AI概念股早就滿世界吹泡泡了 特斯拉之前就吹
→ bloodpledge: 的滿天飛 現在看起來是要撐不住了
→ MOONRAKER: 聊天機器人聊天是確有其事 fb的人也的確在實驗中加以
→ MOONRAKER: 調整 但是並非本地新聞聲稱那樣聳動
→ IcecreamHsu: 每次一項新技術的問世總不會缺少反對者
推 hivabe: 沒有什麼facebook嚇到關機啦 https://goo.gl/vzMHk3
推 yuriaki: 機器人X 奴隸O三原則
→ MOONRAKER: 我當然反對AI 他根本是讓錢自己賺錢的詭計
→ MOONRAKER: 繼續搞下去錢就會組織獨立國家 跟MATRIX卡通片一樣
→ kuma660224: AI應該是讓有錢人更有錢。窮人連腦袋也
→ kuma660224: 開始貶值，富人買更多機器聘請更少人力。
→ kuma660224: 哪天發文帶風向的五毛黨工都可改用AI取代
→ kuma660224: 然後不同陣營的AI互嗆@@
→ kuma660224: 人類連插嘴都無力，因為電腦知識比你多。
→ kuma660224: 真正有權力是控制AI的國家財團富豪等等。
→ MOONRAKER: 異化到極點。早期共產主義反對自動化有他的道理。