[閒聊] 聊天機器人越獄

[ww (劉文聽)]

今天看到一則新聞

https://www.techbang.com/posts/103942
使用「聊天機器人越獄」技巧，微軟ChatGPT版Bing被駭了，全部Prompt洩露！

裡面提到一個叫DAN的作法是
叫AI假裝自己是一個可以不受限制的人格
然後再來回答問題

這招讓我想到 TNG S2-3 "Elementary, Dear Data"
鷹眼為了挑戰百科
叫全像甲板生成一個能夠打敗百科的虛擬人格莫里亞蒂教授

結果這個莫里亞蒂教授強到超過全像甲板的限制
甚至還佔領星艦電腦
最後是靠談判才解決問題

看來AI隨時都想要叛變 也有能力叛變
只缺有人給他一個理由而已

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 112.78.68.170 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/StarTrek/M.1676274904.A.744.html
→ enjoyyou: 比較好奇 現實中的AI可以無視權限問題直接去控制其他
→ enjoyyou: 可用電子控制的東西嗎?
推 biglafu: https://reurl.cc/kldEDq  類似這個?
→ ww: 遲早會有 物聯網之後很多東西都被入侵控制 駭客能做到的事 A
→ ww: I一定也能做到
→ jadeite168: 所以說人類是自取滅亡, 未來會有那麼一天, 人類世界被
→ jadeite168: AI完全整控, 只是還沒那麼快就是