Re: [vivy] 為何可以有複製體

[lucifier (lucifier)]

※ 引述《hirokofan (笠原弘子 命！)》之銘言：
: 呃....這個AI無法複製的設定問題只能吞，不然以我們的常識來說整天備份來備份去
: 難道是搞辛酸的嗎？
: 吞完AI（人格）無法複製的問題再來看冴木博士的葛瑞絲及垣谷美眉家的二代目
: 伊莉莎白其實也沒牴觸，即使有著相同的記憶，二代目伊莉莎白很明顯的認為
: 旭日號上的伊莉莎白跟自己是不一樣的，以人類的故事來說就像某天醒來有著
: 前世的記憶，但自己還是有人格的。
: 那麼冴木博士那邊呢？我們就先假設一個狀態，冴木博士其實是個佔有慾很強的人
: 他把葛瑞絲的一舉一動全部備份起來，如果有不良份子馬上動用關係將害蟲從世上
: 抹煞，然後不幸的事情發生了，葛瑞絲被丟去巨浮島當核心....
: 好高高層利用備份資料灌回去到另一個機體上說這新機體跟葛瑞絲有87％像叫冴木吞
: 像我這種有美女就好的可能沒差，但冴木博士可是業界扛壩子，他怎麼可能不知道
: 這中間的差別？
: 所以說就算冴木有著完整的備份資料，只要葛瑞絲被抓去巨浮島就沒救了，就算
: 資料倒回去新機體跟原來 100％像，冴木自己也會疑神疑鬼覺得不一樣。相對的
: 垣谷美眉才沒有管這麼多，這票人正常來講也不可能見過原版的伊莉莎白（差40年）
: 沒有比較就不會有傷害，而這些條件都不存在於冴木博士的情境中
: 老實說我是希望當年冴木博士做的病毒是解決這次事件的關鍵，不然這一對就真的是
: 白白領便當了QQ

日文第二卷看完後，對於為什麼不複製Grace讓本尊跟博士一起，讓複製品上島

我大概有三個推測


1.比較現實的問題是，雙陽電子腦計畫曝光的影響

在第一卷時Estella有說過計劃被廢棄後就被OGC本社塞給Ash協助經營宇宙旅館

到2076年落陽事件發生時，Estella運作大概只有六年
(斷頭跟Estella認識五年，而Estella跟斷頭剛認識時已經服務1-2年左右)

也就是雙陽電子腦計畫是在2070年左右被發現並廢棄停止

而表定的修正是巨浮島計畫阻止時點是2081年

但Grace被選為計劃主AI並且辦理歡送會是在四年多前，是2076-2077

也就是說，按照當時的現實事件餘波而言，複製AI這件事很有可能是禁忌

尤其是要建造巨浮島這件事本身會是全球關注的焦點，更難明目張膽用複製AI

畢竟雙陽電子腦計畫曝光連十年都不到，肯定會有很大的輿論與學界反對聲浪



2.撇除雙陽電子腦計畫的影響，一個重點是OGC本社的利益與學界的利益

AI無法給予複數使命，是這個系列作的前提之一，所以只能給予一個使命

但是"轉換使命"呢？

第二卷中冴木回憶中有提到

OGC本社在Sunrise墜毀後，乘著輿論聲浪要讓AI掌握更大的獨立機關─巨浮島

而學界也從其中看出研究的利益以及未來可以獲得的聲譽

連他自己也自嘲，沒能全力阻止歡送會上那群偽善者的自己，也是他們的一分子
(冴木在小說中被稱為AI領域的神童，巨浮島內很多東西也是他設計的)



3.當然，轉換使命還有一個漏洞可以鑽的就是

幹麼不先複製一個複製品後給複製品一樣的看護師使命，再轉換後當主AI

a.首先雙陽電子腦計畫的餘波就防止的這個可能性

b.即使不討論雙陽電子腦計畫的問題，這部系列作的第二個前提"AI人格"就登場了

運作至少超過十二年的Grace，AI人生的經歷不會是一個複製體可以比肩的
(冴木十歲與Grace相遇，回醫院研究二十二歲，訂立婚約到成為巨浮島AI還沒算入)

從安全性的問題考量的話，讓一個運作十來年對人類盡心盡力的AI

跟如出生嬰兒一樣，只有相同記憶的複製AI來擔任巨浮島運作，前者可能安全多了

小說中很多托瓦克的成員是確確實實家人被AI害死的，所以一輩子反對AI

有些人是很單純的AI取代人類勞動力導致家破人亡

但是有些則是AI在特殊狀況下(程式出錯etc.)害死家屬

所以安全性與穩定性我認為也成為考量點之一

=====

當然這些只是我的推測啦

因為第二卷內梅原沒有直接寫出究竟為什麼要用Grace當主AI

這點真的很敗筆，因為整卷故事都築基於冴木跟Grace的悲戀上

卻沒有給出"究竟為什麼不得不使用Grace當巨浮島主AI的必要性"

只有寫說是"為了OGC本社的利益與學界的聲譽"這樣模糊不清的句子

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.126.157 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1623055509.A.581.html
推 solosliver: 推
推 scotttomlee: 畢竟可以複製的話，用複製體當巨浮島主ai就好了(而且
→ scotttomlee: 時間還比較晚
→ scotttomlee: (看到原po解釋了
推 bob2096tw: 其實還有一個更基本的可能，就是博士旁邊那個就是複製
→ bob2096tw: 過來的，然後博士自己認為沒有複製成功
這個我覺得是在討論範圍外了，因為本系列作的前提之一就是
"複製AI不會有相同人格"，所以複製品本身就沒有任何意義
我這篇討論的是為什麼"不用複製AI去當巨浮島AI，為什麼要用Grace而不用複製品"
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 17:00:05
推 emptie: 拿醫院工作十二年的穩定性來評估拿她來當島主AI的穩定性
→ emptie: ，我覺得毫無說服力
→ emptie: 更何況島上不會有人類，這兩份使命簡直大相逕庭
島上不會有人類這點只是預設
巨浮島AI在小說中有針對入侵的人類"只能進行拘束行為"的設定
所以本來就已經預想到會有人類的情形了
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 17:07:07
推 aigasamoe: Grace被選上的原因感覺可能單純需要一位廣受好評的姊妹
→ aigasamoe: 機，而她剛好在醫療機關接觸到的人比較多所以就合理讓
→ aigasamoe: 她「榮升」去做管理核心吧
→ aigasamoe: 複製的問題感覺比較像1.冴木作為作為計畫核心一舉一動
→ aigasamoe: 都被盯著2.沒辦法說服Grace本人
→ aigasamoe: 動畫的舊白和新白要是同時存在就算她們理解對方是不同
→ aigasamoe: 人感覺也會打起來
從動畫的角度你講的是對的，有直接提到Grace是當時現存姊妹型最好評的
這是動畫版給的解答
但是大家是在推測為什麼不能用複製AI就好，原因為何
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 18:05:46
推 Vincent4: 如果是因為ai人權考量禁止複製還是很奇怪，變更使命造
→ Vincent4: 成的侵害其實比複製還嚴重不是嗎？
→ Vincent4: ai的人格會因此破碎消失欸……
→ Vincent4: 另外小說有沒有再解釋雙陽電子腦計畫的目的跟細節@@？
→ lucifier: a我ID，第一卷討論
變更使命沒有造成人格破碎消失
Vivy是自己接受了執行奇點計畫的使命而拋棄了用心歌唱的使命
平常躲起來是怕歌姬被影響到
Grace變更使命後還是活得好好的，當然心中有動搖沒錯
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 18:47:24
→ aigasamoe: 不用複製的我第二段不算回應嗎？就被複製的本人(AI)能
→ aigasamoe: 不能認同有同樣的自己同時存在 即使運算結果告訴她們
→ aigasamoe: 對方是不同人
推 aigasamoe: 以Grace的情況來講，說不定他根本不敢跟她提複製這件
→ aigasamoe: 事，她自己能夠接受一個陌生人擁有她所有的記憶甚至代
→ aigasamoe: 替她去當人柱？
→ aigasamoe: 白的情況基本是靠對垣谷的忠誠（使命）以及兩個白不會
→ aigasamoe: 同時存在而建立的 不管小說或動畫都沒提到AI本身對複製
→ aigasamoe: 的看法吧
→ aigasamoe: 複製—>複製自己
前面我看不太懂，這邊我就看懂了，你想討論的是AI的主觀意識問題

不過依照前提，不會有兩個真的相同人格的AI，所以一定不是另一個自己

再來，誰去當巨浮島AI這件事不是Grace跟冴木主觀可以決定的，是OGC本社

所以我才認為討論這個沒有實質意義，因為AI的看法並不重要

我大概清楚你想說的是"可能冴木怕Grace無法承受另一個自己代替自己當人柱"

所以沒有複製Grace，之後才想辦法去抽出資料救他

但是我的討論點是"是否能複製，以及如果能複製，為什麼不用複製AI"

而我提到小說所謂的"無法說服Grace"並不是說無法說服她用複製AI取代自己

而是"無法說服Grace不要去履行新的使命並離開自己的愛人"這點
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 19:53:59
推 Vincent4: 喔，葛蕾絲意識消失的原因是巨浮島工作太龐大，不是變
→ Vincent4: 更使命直接導致的結果，我好像弄混了
推 aigasamoe: 不是…我自己也有讀啊…反而我有點不太懂你想討論的是
→ aigasamoe: 什麼了  人柱那個只是由Grace的性格推斷的 但我主要的
→ aigasamoe: 論點是她們能否接受讓一個陌生人擁有自己所有的過去的
→ aigasamoe: 記憶
→ aigasamoe: 科幻小說常出現的老套劇情 複製出來的哪一個才是本人
→ aigasamoe:  被植入複製記憶的新AI 是設定告訴我們個性不同=不同人
→ aigasamoe: 但不能保證被植入的AI不會產生為什麼是我被關在這裡當
→ aigasamoe: 核心、我才是大家知道的XX這類思考導致演算錯誤吧
→ aigasamoe: 不如說我的那些也是在你提出的3.上面的延伸 對新生兒
→ aigasamoe: 植入20年的人生以及那個人還過著他原本的生活會不會有
→ aigasamoe: 可能導致這個新生AI出現演算錯誤
→ aigasamoe: 抱歉我前面打太多廢話了應該直接上面這一段（
不是，你找這篇文章最早的原作者
他們在討論的是，為什麼不複製另外一個AI丟去當巨浮島AI就好了
因為第二卷(動畫五到六話)悲戀的原因就是Grace被迫當主AI
所以我不懂的是為什麼要去討論AI主觀意識到陌生AI有自己的記憶etc.

從客觀角度來講，大前提表明了沒有相同人格的AI能存在
就算擁有跟原AI一樣的記憶，也會發展出相異人格
所以沒有辦法複製第二個一模一樣的Grace，拿其中一個去當巨浮島AI
如果可以，冴木就根本不用搞這齣戲去救情人，Vivy也能安全直接關掉主AI
所以問題變成了，沒有第二個Grace又怎樣？複製一個Grace(偽)丟過去就好啦

那為什麼不願意弄一個Grace(偽)丟過去，讓冴木跟Grace快樂過生活呢？
原因可能是輿論及學術自律導致根本不能複製了
或是複製品安全性穩定性不在OGC本社的考量內
以及學界想要做轉移改變使命的特殊研究etc.
這部分才是我這篇文章回的討論範圍

至於你最後說的導致演算錯誤這點，算是安全性考量的範圍之一
的確印證了原版比複製體好，因為原版是考量過一切自願獻身的
複製AI不見得能這樣想，還真的有機會乾脆暴走給你看
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 22:12:28
※ 編輯: lucifier (36.226.126.157 臺灣), 06/07/2021 22:27:03