作者ehentai (e.hentai)
看板C_Chat
標題Re: [討論] AI真的會取代這麼多東西嗎？
時間Wed Apr 22 10:26:08 2026
話說現在有人開始想要對抗AI了
對抗的方式是什麼?不是打砸機器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能讓AI模型胡言亂語
當然你也可以透過審查把有毒資料剃除，但成本就增加了
在不久的未來，大概還會有用AI來對其他AI投毒的互捅大戰
這就是使用網路資料來訓練AI的必然缺點
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
圖靈獎得主對現在的大語言模型的批評
現在知名的AI是從網路上學了一堆文字，然後學習要怎麼回答比較符合你的期待
至於現實是什麼模樣，他一無所知
圖靈獎得主認為AI學習的出發點應該是現實世界
先去觸碰 去觀察現實世界
就像一個幼兒，先去認識什麼是蘋果，然後才從與人的溝通中理解蘋果叫APPLE
--
“Two dribble shot, three dribble shot, four or five dribble shot, 10 dribble
shot. 24 second shot clock shot. No dribble shot. Shoot when I want to shoot
shot. He has every shot. Kobe is amazing.”
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.192.217.220 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1776824774.A.239.html
推 uranus013: 我懂了 首先準備250張蘿莉巨乳圖 04/22 10:31
→ Nitricacid: 現代人都該學防衛性編程 04/22 10:32
推 jupto: 我記得語言模型第一件事就是把名詞跟一個向量參數做對應 這 04/22 10:33
→ jupto: 個向來就是機械對於那東西的認知了吧 04/22 10:33
→ bheegrl: AI還有很長的路要走啊，人類不用惡意文件就能胡言亂語了 04/22 10:35
推 MARVELHERO: 搞不好這反而加速AI發展 04/22 10:36
推 h0103661: 別鬧了，網路上100份文章大概80份是垃圾還不是訓練出來 04/22 10:39
→ h0103661: 了，投毒有什麼意義== 04/22 10:39
→ StillAtNight: 同意樓上 網路上的垃圾文已經夠多了並沒有影響到AI 04/22 10:41
→ error405: 現在已經有部分是轉向小參數精煉數據去做訓練了 04/22 10:45
→ error405: 甚至是AI模擬出數據給AI訓練 04/22 10:46
推 zeolas: 所以即使大模型好用，還是要定時更新自己的小模型庫 04/22 11:09
推 holybless: 兩津病毒 ai都變成不良中年 04/22 11:49