Re: PLUTO第三集的一些問題

[evammxfelix (恩恩恩...)]

※ 引述《rainlover ()》之銘言：
: ※ 引述《kizuna1019 (chacha)》之銘言：
: :    其實應該很簡單, 就是當AI真的是完美的的話,
: :    等同於人類並不是他認為自己是人類
: :    而是他可以跟人類一樣思考, 我為何而活我為何存在
: :    如果AI思考到這種地步 , 機器人三原則當然是可以打破的阿
: :    三原則就像是道德或法律, 很多時候我們並不會遵守法律阿
: :    這樣我想起銀翼殺手, 因為想活下去所以殺人, 因為知道生命的美好
: :    所以放過男主角(好像是這樣)
: 機器人三原則在艾西莫夫原著裡是不可能被打破的
: 他不是單純的道德或法律
: 而是牽涉到工程機械的問題，簡單來說，只要違反三原則，機器人就壞了
: 這種rule是物理以及邏輯上面的限制，就好像MOS要幾V他才會on一樣
: 當然你說要改是可以改，但正子腦的複雜度已經不是能說改就改了
: 也就是說，不論怎麼進化，三原則永遠存在
: 他不是單純的出廠前輸入三原則進入正子腦這麼簡單的事
: 要是這麼簡單，弄個機器人戰隊不是問題

     在艾西莫夫的基地系列中有提到
     機器人在若干年的思考後 她們領悟出第零原則的存在
     就是一切行為以維護及促進整體人類生存發展為優先
     而此原則凌駕於三大法則之上
     所以就算在此原則下不得不傷害某個體也是被允許的


--
※ 發信站: 批踢踢實業坊(ptt.cc) 
◆ From: 140.117.77.52
推 rainlover:姆，這是大船輕輕搖落一些搖晃不穩定的因子
推 basara30:機械公敵有演出這一部份  可以看看
推 senas:人工智能如果發展到了"完美" 到底等不等同於人類?
→ senas:話說回來 恐怕得等人類徹底發堀大腦的潛能之後
→ senas:才有辦法定義何為"完美"的人工智能
推 truegod000:機器人有所謂的領悟嗎？好像是很人性化的用詞！！
推 dreaminc:人工智能在我們永生之年絕對看不到人性般的程度
推 NEKObus:樓上的 你確定"永生"之年一定看不到嗎？ XD
推 DOMOO:關於能不能打破的問題, 機械公敵(I, robot)不是有提過嗎?
推 tbaby:在變人(小說)之中主角機器人也說過只要換個想法去解釋三原則
→ tbaby:就能規避三原則了 只不過它本身沒有必要這麼作
推 pinkygiveme:基本上每一篇小說都是在鑽三原則的漏洞~
推 ggk:艾西莫夫超愛鑽自己發明的三原則的漏洞....
推 ssmartyr:如果不鑽漏洞他的小說要怎麼寫啊 XD
→ scores:其實把人類監禁起來 不給東西吃等他餓死 算傷害人類嗎？
推 wxes50608:餓死，就算「傷害」了。
推 AngelSlay:那就是作者寫出三原則的原因啊, 那只是引子, 小說本身
→ AngelSlay:就是一個架構在這種矛盾上的故事
推 FoolFitz:這串討論很有攻殼機動隊的感覺 =v=