請問有誰知道，什麼是機器人三大定律？
還有，這樣定義的好處是？以及為何要這樣定義？
我已經在網路上查到了： http://ai.yichi.org/archives/000014.php
1) 機器人不能傷害人類，或是眼見人類受到傷害而不予行動
2) 機器人應該遵從人類的指令，除非指令與第一條定律相衝突
3) 只要不違反第一和第二定律，機器人必須保護自身的存在
from: Isaac Asimov 的《I, Robot》
這個問題，精華區好像沒有. 要不要來討論一下？
似乎很有意思 (當然，這個大問題，早已被很多學者討論過)
基本上，居於這樣的設計理念
絕對無法發生像二次文藝復興中，那郭 XXXXXX 把頭捏爆的畫面
我深度懷疑該 AI 怎麼可以逃出硬體設定的範疇？
除非三大定律晶片秀逗
不然你看機器戰警某一集
被設定第四定律：不可違背／傷害(？)公司的人
使得墨菲完全無法對某犯法的總裁(？)攻擊／逮捕
後來好像是靠高壓電自爆
使晶片秀逗，讓後來附加的第四定律（軟體設定）因為系統重設而消失
才把壞人繩之以法（其實是推下樓）
而其中的三大定律，好像是燒在晶片之中. 無法改變的
Matrix 裡頭的 AI 再高
尤其是原本一直被視為人民安全保姆的機器人
怎麼能攻擊人類？完全不合理
除非有不肖人士把該晶片移除
有鑑於此，我懷疑那不是機器人的反撲
應該是宗謀殺案才對
只是柯南／金田一在那時候老早就完結篇了
沒法揪出壞人
使得全人類幾乎變成金頂電池去
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 140.116.131.38
> -------------------------------------------------------------------------- <
作者: ray365 (Ray) 看板: TheMatrix
標題: Re: [問題] 機器人三大定律
時間: Fri Jun 27 11:02:27 2003
※ 引述《logs (龍劍飛)》之銘言：
: 1) 機器人不能傷害人類，或是眼見人類受到傷害而不予行動
: 2) 機器人應該遵從人類的指令，除非指令與第一條定律相衝突
: 3) 只要不違反第一和第二定律，機器人必須保護自身的存在
: from: Isaac Asimov 的《I, Robot》
: [略]
: 尤其是原本一直被視為人民安全保姆的機器人
: 怎麼能攻擊人類？完全不合理
: 除非有不肖人士把該晶片移除
: 有鑑於此，我懷疑那不是機器人的反撲
: 應該是宗謀殺案才對
: 只是柯南／金田一在那時候老早就完結篇了
: 沒法揪出壞人
: 使得全人類幾乎變成金頂電池去
你講的是機器人的設定，
不過在 AI 領域內的研究，為了探索人類的思考模式，
許多研究是以完全類似人類思考模式來設計 AI 的，
例如說，Agent 是自利的 (self-interested agents),
甚至是情感豐富的 (sentimental agents)，
如果我沒聽錯的話，Morpheus 好像說過 AI 的成功是
創造出 sentimental programs （具有感情的程式）。
sentimental 的另一層意思，就是該程式會受到情緒的影響，
而超越單純的機器人思考模式，
如果人類真的能創造出這種程式，
也等於找到了人類意識的 "對等" 程式。
換句話說，你將會無法分辨這個程式和人之間的差異，
這將是資訊科學界的大事，
因為資訊科學界最崇敬的大師 圖寧 (Turing) 一生的目標，
就是設計出人類無法藉由測試去分辨究竟是人還是程式的程式。
（著名的圖寧測試 Turing Test）
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 140.112.230.238