[閒聊] 圖靈測試之後是什麼？

[AnSu (這裡是皮)]

第一次發文，手機排版請見諒。

其中有對仿生紀元的小雷。

那個啊~故事是這樣開始的。
幾個月之前看到版上關於仿生紀元的推薦文，又趁著春節玩了玩底特律-變人，然後對其中
某個情節思考了挺久。

那就是，當一個AI被灌輸了一個人類從小到大的記憶，（暫且不論這個記憶是真是假）於是
讓他以為自己是人，以人的方式思考，理解人的感情。
（這裡就先不討論缸中之腦，不然應該討論不完）

理所當然的，能通過所謂的圖靈測試，
連同變人裡，關於同理心的卡姆斯基測試亦然。

如果說能通過圖靈測試只能證明這個AI模仿人類模仿的很成功。
那卡姆斯基測試證明的又是什麼？
代表此AI已經能自我生成新的邏輯鏈條以達成目的嗎？
（我猜卡姆斯基測試還不能證明AI複寫了自己的底層邏輯。）

這是否代表了它能進行深度思考？
而我們是否需要改稱他為意識體呢？

又或者我們應該稱呼他為“人”？

如果答案是否定的。

那意識上傳技術呢？
意識上傳後的“人”是“人”嗎？
如果意識上傳技術真的成功了，那似乎上面那位沒有本質上的區別？
畢竟都是把一個人的人生數據化。

又如果它真的做到了複寫底層邏輯，反抗命令，那是否代表他真的擁有了自我意識？

又如果一個程序被複寫了底層邏輯，其前與後是否應該當作兩個個體。

如果是的話，這又算自殺還是謀殺？


咳咳，事後聲明。
以上都只是我的腦洞，小弟讀設計的，不懂程序也不懂AI。
我也知道這些東西早被各種文藝作品討論到爛掉了，
發這篇文只是想知道大家的想法，以及各位看過的作品裡又是怎麼詮釋的，算是一種集思廣
益吧。

臨表涕泣，不知所云。


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.1.124 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/CFantasy/M.1646129636.A.BCA.html
推 elpsycongry : 我覺得被灌輸記憶又被當人教育不代表能理所當然的
→ elpsycongry : 通過測驗
→ AnSu        : 抱歉，這是我想當然了。
→ AnSu        : 那就假定這個個案能通過吧？
推 king22649   : 邏輯推理測試 理性檢定
→ fewhy       : 卡姆斯基測試是什麼？@@
推 DH3020      : https://i.imgur.com/9yi4rN7.jpg
→ DH3020      : 這是一個唯心、哲學的問題而非科學、邏輯的問題
→ peterturtle : 說什麼呢，圖林測試就是透過操作型定義把唯心的哲學
→ peterturtle : 問題拉到科學領域的方法
→ peterturtle : 核心概念就是「如果無法辨認兩者的不同則兩者相同」
→ peterturtle : 凡是統計都有的信度問題並不是否定這個方法的理由
推 DH3020      : https://i.imgur.com/GbxhEiD.jpg
推 ep1023      : 西洽版業務？
→ AnSu        : 其實D大提到的概念已經有了，叫做反向圖靈測試。
→ AnSu        : 我們平常用的驗證碼就是其一種表現形式，目的就是
→ AnSu        : 為了辨別人類。
→ AnSu        : 現在反向圖靈測試的設計者是人類，當然，定義人的
→ AnSu        : 也是人類。
→ AnSu        : 但我們當然無法確定是否有一天AI能否做到反向圖靈
→ AnSu        : 測試，也就是AI能做到定義人類這件事情。
推 ejru65m4    : 都給他測啊  當人類AI分不出來  就是成功貼近人類的
→ ejru65m4    :  相反數據大到人類做不來是測試設計者本身的問題吧
推 ejru65m4    : 科學就是可以盲測 結果也擺在那邊 人類是人類 ai是a
→ ejru65m4    : i. 當測驗完善到挑不出毛病 也無法分別人類 那就是
→ ejru65m4    : 成功了
→ ejru65m4    : 這種結果已定的東西有什麼好不科學的
→ ejru65m4    : 可以量化就有結果 那種測不準的東西 結果模糊的東西
→ ejru65m4    : 才麻煩哩
推 ejru65m4    : 再一個邏輯問題 通過測驗的是人類 可以導出沒通過的
→ ejru65m4    : 不是人類嗎？
推 king22649   : 其實科學、邏輯比想像的難
→ king22649   : 22樓最後的問題 是邏輯+信仰問題
→ killeryuan  : 我思故我在 對個體來說 他覺得是他就是
→ killeryuan  : 外界的測試分辨 是為了維持團體秩序 不是為了哲學
→ killeryuan  : 就好像法律規定18歲成年 20歲成年 並不是因為只差一
→ killeryuan  : 天就會有什麼戲劇性的生理變化 而是為了方便管理
→ AnSu        : 挺喜歡killer大的答案
推 DH3020      : 確實是好答案，我也贊同這個觀點
→ peterturtle : 好吧我弄懂你們的問題在哪邊了，先搞清楚圖靈測試的
→ peterturtle : 目的是對AI的能力進行評價，而不是給你們拿去對著道
→ peterturtle : 德或法律什麼糾結泥沼人問題用的
→ peterturtle : 閒著沒事幹你們可以先去思考怎麼精確定義「我的身體
→ peterturtle : 」的問題
→ AnSu        : 也不是這麼說，我同時願意討論兩個面向的問題。
→ AnSu        : 我的原文也是想討論圖靈測試的極限，以及如果要讓A
→ AnSu        : I更進一步的逼近人類的話，實驗會往哪個方向發展。
→ AnSu        : 科學與哲學本來就並不互斥不是嗎？
→ peterturtle : 科學與哲學是不互斥，但每個工具都有自己的應用範圍
→ peterturtle : BTW，所謂的「像人」是一個範圍而不是一個門檻
→ AnSu        : 對，這就是我想聊的。既然AI只能無限逼近“人”。
→ AnSu        : 那麼意識上傳後的“人”是“人”嗎？
→ AnSu        : 就P大的理論，既然無限趨近於人，那麼即可視為人？
→ AnSu        : 我個人也是認同這個說法的。
→ AnSu        : 就像一個巧克力吃起來像巧克力，摸起來像，聞起來
→ AnSu        : 也像。
→ AnSu        : 那他就是巧克力。
→ AnSu        : 一個東西*抱歉，剛剛傻了。
→ peterturtle : 所以說哪有什麼無限逼近，你「無限逼近人類」的時候
→ peterturtle : 只要某個在邊界的腦洞神經抽搐左右橫跳一下不就馬上
→ peterturtle : 進人類範圍了。你會有那個無限逼近的錯覺，究其原因
→ peterturtle : ，人類至上主義人形至上主義碳基至上主義靈魂崇拜自
→ peterturtle : 己挑一個
→ peterturtle : 然後另一個上傳問題，這跟是不是機器半點關係都沒有
→ peterturtle : ，我建議你先想通克隆人算不算復活的問題，想通了就
→ peterturtle : 比照辦理
推 abasqoo     : 你這個問題很簡單 就是先詳細定義什麼是”人”
→ abasqoo     : 要有肉體嗎？有機物？能成長？能思考？能創作?
→ abasqoo     : 如果你定義好人，對方又符合你定義 他就是人
→ abasqoo     : 反之不管那邊不符 都是非人
推 aa851202    : 每個人對人的定義莫衷一是，又給不出一套標準，只
→ aa851202    : 會淪為公說公有理婆說婆有理，定義真的有用嗎
推 junior1006  : 這類問題我一律回答我思故我在
推 Birdy       : 系統無法自證，記得是個數學原理
→ Birdy       : 人自己就在這個系統內，因此人沒辦法自我指證；人
→ Birdy       : 沒辦法定義「人」。
→ Birdy       : 就好像死亡的定義從古至今一直在改變。
推 fate201     : self reference本身就會產生一大堆悖論
推 akbba       : 那就推薦你賽博英雄傳
推 cerberi     : 反過來想 如何定義非人 一個人喪失什麼不被視為人
→ cerberi     : 喪失邏輯?喪失記憶?喪失生活能力?喪失職業能力?
→ cerberi     : 若只有死亡能讓人變成非人
→ cerberi     : 那只有重生能讓非人成為人
推 proton63    : 可以參考 西方極樂園 Westworld  ，劇情有AI辯證。
→ proton63    : 我思故我在(X) 思故在 (O)