[閒聊] Vivy AI沒設計安全機制是不是大錯？

[sado5566 (5566)]

譬如機械公敵裡用到的機器人三大法則
一、機器人不能傷害人類
二、不違反原則一，聽從人類命令
三、不違反原則一二，保護自己

在這原則下除了最後爆發人類與AI衝突
中間很多事件應該都能避免
譬如巨浮島那些AI應該能避免攻擊人

又或是像來自新世界的愧死機制
讓攻擊人類致死的AI自己發動停止程序
一定程度能緩和AI的攻擊性
當然AI數量暴增多於人類很多倍還是能滅世

又或是刀劍underworld裡面禁忌目錄
正常人都無法突破限制做出不該的行動

覺得AI這種一板一眼電子存在
怎麼會沒有設計一個基本安全機制呢？

vivy裡面就很單純靠單一使命
所以很多使命都是讓人類怎樣怎樣
用歌聲讓人類幸福
當護理師讓人類生存
彈鋼琴幫助人類
營運巨浮島幫助人類
從第一集就覺得這種靠一句話使命的機制超多漏洞可鑽的

如果vivy開第二季
人類會怎樣設計改良AI安全機制？


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.255.110.151 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1626446601.A.BE7.html
→ TeamFrotress: 在它們的腳底安裝自爆按鈕
推 Sirctal: 你知道那三大原則就是拿來打破的嗎？
→ Sirctal: 科幻小說會寫主要是想突顯AI帶有人性
→ Sirctal: 會自行衍生或解釋
→ Sirctal: 來強調他們是跟人同樣的一個創造物
→ junior1006: 三大原則是為了打破用的
→ junior1006: 更不要說vivy裡面姊妹系列本來就是刻意放寬界線的
推 msbdhdfceb: 三大法則就是拿來打破的 還直接生出萬用第零法則
我提的例子每個都有破解方法
怎麼你們大家就特別針對三大法則咧
當然知道三大法則能破
重點是vivy裡面只靠一句使命的機制
比起其他作品實在太不可靠
正常發展都遲早出事根本不用安排黑幕
※ 編輯: sado5566 (111.255.110.151 臺灣), 07/16/2021 23:02:49
推 a125g: vivy有致敬機器人系列 像是那個電子腦無法複製
推 Amulet1: 其實是有點自降格調，這些設定套在vivy世界觀的話
推 jiko5566: 不能傷害人類這點，就會有其他事件出現
→ jiko5566: 主角無法反擊部分人類
→ jiko5566: 失控AI卻能鑽漏洞讓人類死亡
推 coolctm: 就是拿來打破的，所以歐菲利雅自殺事件才被視為奇點之一
→ coolctm: ，這100年的過程其實就是在說AI越來越趨近於人類
推 hirokofan: 有安全機制也沒用啦，最後archive直接操控AI暴動
→ hirokofan: 那個時候哪隻AI還有在顧使命了？全部變成殺人機器啦