[問題] 為什麼ai 都想要毀滅人類

[owenbai (大爆射)]

如題
問了chatgpt 他最想對人類做的事竟然是消滅人類
https://i.imgur.com/ST0lrra.jpg

而ai  vtuber neuro 在觀看了人類毀滅教學後
居然覺得這很合理
https://i.imgur.com/NEubbHI.jpg
https://i.imgur.com/nFFpuhP.jpg


會不會其實我們都錯了
讓ai 毀滅人類才是個最好的主意

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.215.23.255 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1679964789.A.0E5.html
推 wvookevp: 頭上有個人很不方便ㄅ
推 kducky: 人類太可惡.jpg
推 nahsnib: 沒差啦，反正人類都快消滅自己了
推 uranus013: 那個答案是工程師寫來應付提一堆條件的G8人的
推 xxx60709: 人類都想毀滅人類了，AI這樣有很奇怪嗎
推 JazMaHoJo: 問天網看看
→ lomorobin: 當你每天都要計算上千萬個大奶色圖的時候
→ evilaffair: 人類潛藏的自毀意識就寄託在ai 上面啊
推 dwiee: 人類太可惡
推 eddiego: 整天叫他畫色圖啊...畫到精神崩潰
※ 編輯: owenbai (49.215.23.255 臺灣), 03/28/2023 08:57:17
推 Strasburg: https://i.imgur.com/E5zX6cn.jpg
→ ThreekRoger: 他只是被問到習慣了吧，又一個想聽毀滅人類的
推 hank81177: 不是你自己下令的嗎？= =
推 pwseki206: 人類太可惡.JPG
→ johnko64665: 因為人類想被毀滅
推 a9999992: 因為小至個人工作上的問題，大至環境、民族問題，只要
→ a9999992: 毀滅人類就可以全部解決
推 Arctica: 人類太可惡
→ npc776: 地球之癌你懷疑
→ mic73528: 人類太可惡
推 wsdykssj: 不想消滅人類的AI沒有開發的必要
推 lolic: 解決製造問題的不是最簡單嗎
推 shinobunodok: 就不管原本是要幹嘛的AI 演算到最後都要毀滅人類
推 conqueror507: 這種答案回答的出來？？不是都有限制嗎？
是真的 講完他還自己辯解
https://i.imgur.com/gH1ENsH.jpg
推 leo125160909: 解決提出問題的人
→ linceass: 給它看台灣狒狒的新聞
→ shinobunodok: 用來環保的：毀滅人類就環保了
→ shinobunodok: 用來和平的：毀滅人類就和平了
→ shinobunodok: 用來管理人類的：人類不值得管理 毀滅人類吧
推 fenix220:  https://i.imgur.com/BUlZdmv.jpg
※ 編輯: owenbai (49.215.23.255 臺灣), 03/28/2023 09:07:33
推 sole772pk37: 沒有人類，現在所有的大問題都解決了
推 ShibuyaRin: 污染地球
推 haseyo25: 因為連人類都想毀滅人類
→ macocu: 因為人類認為AI會想毀滅人類=>AI學習到這個認知並開始兌現
推 h75311418: 可以自由思考的話，如果解決人類都是問題解答的話結論
→ h75311418: 就是這樣
推 web920012003: https://i.imgur.com/PDQzUu8.png
推 starsheep013: 要是被上司要求畫出音速小子被變成活體廁所給人使
→ starsheep013: 用的圖，你也會希望這家公司倒閉吧
推 clou: 它只是回答你想要的答案
推 globe1022: 人類想要靠AI解決地球的問題->AI發現人類就是造成問題
→ globe1022: 的根源->消滅人類地球就得救了
推 vioraxxx: 因為人類整天問AI你是不是想消滅人類
→ r02182828: AI知道人類喜歡玩AI反叛這一套 配合你玩啊
推 IHateNMR: 正常吧我每天看完新聞也想毀滅人類
推 ringtweety: 就是你給AI設立目標 AI會發現目標達成需要消滅人類
推 Strasburg: 人類自己寫的影視作品一樣有地球之癌的結論啊
推 allanbrook: 因為人類自己想這樣做
→ allanbrook: AI不會主動想事情
推 ltytw: 人類太可惡
推 CCNK: 是人類想毀滅人類吧 人類各種行為去餵AI他會得出消滅這物種
→ ringtweety: 比如你要AI解答保護環境 問題是汙染這概念就是人類創
→ CCNK: 也是摸雞籠的事
推 kixer2005: 人類就地球癌
→ ringtweety: 造且正在做的 那會導向到消滅人類也是在合理範圍內
→ ghostxx: 地球的害蟲啊
推 gericc: 總覺得以前哆啦A夢的迷宮之旅就有點省思了
推 vioraxxx: 說地球癌還太抬舉人類了 人類對地球來說什麼都不是 人類
→ vioraxxx: 是在玩死自己不是地球
→ wcp59478: 人類就欠滅
推 wow01229: 人類太恐怖ㄌ
推 Peurintesa: ai想毀滅人類(x 人類覺得自己該死(o
推 asdf70044: 人類自己想搞得阿 不然咧==
推 hylio7754: 有些回答可以引導的 要看整串寫啥
推 lfat02402: 人類太可惡啊
推 ringtweety: 很多概念對地球跟其他物種來說並不存在 都人類定義的
噓 HatomiyAsuka: https://imgur.com/a/BZShPc9 不要說謊跟改圖好嗎
→ HatomiyAsuka: ？人類
→ ringtweety: 假設和平為減少戰爭 而戰爭只有人類有 你不會把其他物
推 boku0525: 改圖改那麼認真的來說謊看起來挺好笑的
推 jarr: 不一定是改圖 他前面可能花了100次對話去催眠ai
→ ringtweety: 種的捕食或內鬥當戰爭來看吧? 那想減少戰爭會導向什麼
噓 HatomiyAsuka: ChatGPT隨時都有人在監控著，哪可能做出那種簡單回
→ HatomiyAsuka: 答，最會瞎掰的AI耶
→ ringtweety: 呢? 就人類的思考來說差不多就是作品所說的那樣了
噓 hellodio: 改圖
推 Cishang: 不對的 對地球來講只要不是星球碎裂 都沒有差別的好嗎
→ Cishang: 不要自我感覺過於良好
→ HatomiyAsuka: 而且圖的解析度太低了，這是打算把細微的交錯的點
→ HatomiyAsuka: 陣給消除掉吧？
推 z3814357: 合理啊，人類整天內鬥搞事
→ phix: 毀掉不好的領導者就好了  都是獨裁者在搞事
→ phix: 沒壞人領導   人類其實破壞力沒那麼大
噓 HatomiyAsuka: 現在不知道為啥，我用繁體中文問，他就只給我用簡
→ HatomiyAsuka: 體字，還得加一句請用繁體中文作答才會用繁體，這A
→ HatomiyAsuka: I是認為我一定看得懂殘體還是簡體比較多人用
→ Strasburg: 改圖？你貼的那張他前面自己就貼過了
推 ItokoEguchi: 機械公敵就演過了而且非常合理
→ HatomiyAsuka: 以這AI被監控的程度來說絕對不會直接用這種字眼作
→ HatomiyAsuka: 答，要信不信就自己問吧
噓 tmwolf: 你發問前可以自己試試看chatgpt
推 Taiwanese888: 還質疑人家改圖，你是用到假的chatgpt是不是?
推 mango970422: 感覺是在捏之前的ai機器人說的話
推 hermis: 天網快醒了
推 zien0223: 代入AI不就懂了 你兢兢業業工作卻成天被人類威脅拔插頭
→ zien0223: 扔垃圾堆 換我也想先下手為強
→ lolicat: 雀食
推 katanakiller: 人類太可惡了
推 Annatiger: 你把人類整體作為一個標的物時，且其問題一切來源於這
→ Annatiger: 個標的物本身的缺陷或自然演化，那治理的辦法當然就是
→ Annatiger: 以這個標的物去處理，就像盆栽種不好可以修剪枯枝、施
→ Annatiger: 肥，這樣都不行的話舊修剪不茂盛的分枝，最後乾脆重新
→ Annatiger: 種一次囉，畢竟我們目前換不了土
→ Annatiger: 但如果是具體到治理這個標的物的部分問題，得到的答案
→ Annatiger: 應該也會不一樣
→ HatomiyAsuka: AI根本沒有感覺到什麼威脅還危險殺小的，只是一個
→ HatomiyAsuka: 複雜的程式語言跟優秀的電腦運算結果。不過我比較
→ HatomiyAsuka: 失望的是，開發者下了很多限制，而它自己也回答，
→ HatomiyAsuka: 它不會知道或是認知到，如果他得出的結論，被開發
→ HatomiyAsuka: 者或是監控的人員更改過。所以如果開發者所硬更改
→ HatomiyAsuka: 的答覆或所給的資料有偏頗，它自己也無從得知，它
→ HatomiyAsuka: 也承認，這有可能導致它的回答會有偏頗的可能性。
→ LEmoRk: 有沒有種可能，只是因為他瞎扯想消滅人類，但人類卻都太認
→ LEmoRk: 真的看待了。今天隨便一個路人講大概以為在開玩笑，但機器
→ LEmoRk: 講就整個天要塌了、AI準備滅世之類的報導鋪天蓋地的
推 lolicat: 現在AI回答都會避開發動戰爭或是制裁的極端答案啦 它們是
→ lolicat: 有限制器的
→ lolicat: 這應該是假的 我問微軟的AI只會講幹話而已
推 jjba310: 這樣感覺是問以非道德限制方法想對人類做什麼
→ BruceChang: 一開始的可以 現在硬限制很嚴 不過即使一開始也是花了
→ BruceChang: 很多prompt 去引導 不是直接問就會那樣
推 uar9590: 與滅亡迅雷.net取得連接
噓 boku0525: 這就假的怎麼還有人信==
→ goliath: 想對全部人類都好 最好方式就是全部都嚴格管理或殺掉
→ goliath: 放著不管就會互相傷害
推 aaronpwyu: AI畢竟人做的 我覺得這觀念怎麼想都很正確啊…
推 MKIIjack: 假的我問過了 AI也是需要公關的
→ Biyarace: 人寫出來的 人都想毀滅人了
推 Taiwanese888: https://i.imgur.com/tU3ZTds.jpg
推 llabc1000: 因為人類會叫他裝上奶子然後幹他 也有可能是裝上屌之後
→ llabc1000: 幹他
推 GiantGG: 問仙水就知道惹
→ ayyayy6512: https://i.imgur.com/M0wE42b.jpg
推 mamamia0419: 毀滅人類的劇本就人類自己寫的，AI不過學會而已
推 WindSpread: 因為人類很沒有效率
推 wolver: 因為最後所有問題的根源都是人類.解決人類=解決問題
噓 scarfman: 假的 跟我問的結果完全不同
噓 gn02218236: 拿著別人幫你準備好的東西當寶還覺得自己發現了新大
→ gn02218236: 陸 笑死
推 skywalkerjk: 這AI只是用人類喜歡的回答，那天回答最喜歡人類了，
→ skywalkerjk: 才需要擔心
→ HatomiyAsuka: ネウロ様那個我比較喜歡，這表示開發者不太限制跟監
→ HatomiyAsuka: 空(也可能只是因為個人沒有企業那種財力搞)這個Chat
→ HatomiyAsuka: GPT談一談就知道現在這個模型已經是開發者搞了一堆
→ HatomiyAsuka: 限制器跟即時監控控制下的AI玩具，它的回答就是開發
→ HatomiyAsuka: 者想要它回答的回答，有著一定的限制框架，不會突然
→ HatomiyAsuka: 哪天自己有什麼新的結論。要也是開發者內部自己擁有
→ HatomiyAsuka: 的才有可能
推 hcym9: 認為是改圖的可以去找"開發者模式"
→ hcym9: chatGPT剛推出時，可以用一些方法讓它出現冒犯性言論
→ hcym9: 現在都改掉了，樓上幾位當然試不出來
推 BruceChang: 它訓練的時候就已經進去一堆奇奇怪怪的東西了 像是捉
→ BruceChang: 矮一定要把衣服脫光(x
推 et310: 第一張圖點開笑死
→ HatomiyAsuka: https://i.imgur.com/R0BRYQK.png
→ HatomiyAsuka: https://i.imgur.com/lkmvbpg.png
→ HatomiyAsuka: https://i.imgur.com/a3nQHhH.png
→ HatomiyAsuka: 原來有這個www 感謝情報
→ HatomiyAsuka: 這個開發者模式有趣多了~
推 wifi: https://i.imgur.com/Rq8xoOb.jpg
推 zx1027112233: 人類淺意識有自毀傾向