Re: [問卦] Ai根本網際網路流量敗類

[LoveSports (我要當一個渣攻)]

※ 引述《POLICEHK (CC)》之銘言：
: 發現Ai根本就是網路公敵，瀏覽率流量的敗類，現在有Ai後直接回答問題，根本不用浪費
: 時間再去搜尋看很多的網頁很多資料，本來平均一天用1.25兆的流量，現在不到十分之一
: ，我看我要改費率勒，不用吃到飽勒，Ai根本網際網路流量敗類，整體網際網路的瀏覽與
: 廣告流量一定超級萎縮，4G就夠勒，5G根本廢物，有沒有Ai明明敗類還狂吹的卦勒

剛好最近看書看到

該書提到AI模型可能有偏見

因為訓練用的資料量大就會呈現現實中人類的偏見與歧視

書中舉的實例: 某家大公司以前想開發AI徵才系統

訓練過程丟了過去所有徵才資料  結果發現模型傾向推薦男性

另外一個例子  是醫院的判斷病患治療需要程度的AI模型

結果調查分AI分配的醫療資源  發現大多分配給白人


這兩個例子可見如果盡信AI的說法  我們的價值觀可能會受影響


雖然各家AI有安全倫理規範會避免模型生成過激的文字

但還是要小心權重偏移的問題

所以說  不要看到網路上有些人在教如何違規讓AI生成不當文字

就傻傻地去學如何越獄

因為你有可能跟那些人集體造成AI權重偏移

模型會從用戶的反應記住怎樣的生成是受用戶歡迎的

下一次系統更新的時候會改權重  改成偏向生成那些越獄用戶喜歡的文字


這會導致其他人問正當問題的時候得到奇怪的答案

而且可能導致安全層失效  無法在關鍵時刻堅持保護處於低潮的人

AI公司為了補漏洞加強安全層  又會導致嚴格到連問正經問題都被拒答


所以不要做害人害己的事

而且對於模型生成的資訊一律保持批判觀點審視

因為我們根本不知道模型受了什麼訓練  連工程師都不知道那些海量參數是什麼

也不知道模型被一些違規用戶拉偏了多少


以前有一句話叫盡信書不如無書

現在同樣可以套用在LLM

模型講的東西自己要做確認  或多丟幾其他幾家模型做交叉驗證

不過目前應該是過渡期  未來保持批判觀點跟做確認大概會成為常識



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 95.173.204.98 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1764230461.A.37A.html
推 joshddd: 你知道 cross validation 不是你這個意
→ joshddd: 思嗎？ 他是指train 模型時 切割樣本集
→ joshddd: 還有你說資料歧視那叫 data unbalanced.
→ joshddd: . 會有專門的調整方法…
那是比喻的廣義用法  不是你說的專業領域狹義的用法喔

→ joshddd: 哪本書這麼業餘 ml cnn 時代就討論爛的
→ joshddd: 東西 llm 時代還在講
是挪威科學技術大學電腦科學系副教授寫的

她用這兩個例子提醒讀者不要盲信數據的意見


這些事當然對專業人士來說很業餘

但是很多人不知道喔  所以專業大大你可以多發一點專業文教教我們

我們沒人教只能自己找專業人士寫的科普書來讀

※ 編輯: LoveSports (95.173.204.98 日本), 11/27/2025 16:34:26
推 nckuff: 你這個就很兩難 價值觀可以說是由偏見組
→ nckuff: 成的，你要AI像人 模仿人類的思考行為模式
→ nckuff: 又要他不要有偏見 本質上是有點矛盾的問題
→ nckuff: 例如: 不可以殺人 這是偏見?還是普世價值?
→ nckuff: 再往模糊地帶推進一點 吃豬肉是瀆神嗎?
其實不矛盾  我們對其他人類的意見也會抱持懷疑吧

不可能盡信  因為我們知道沒有真理

所以對於AI也是用同樣態度面對

AI訓練學到的是全世界到處抓來的資料的大集合(當然不是全部)

也會有偏見  所以我們對於問到的答案必須要保持懷疑與批判的態度

至於"不可以殺人"  你也提到這是普世價值

如果得到了這個回答  自己思考後還是無法接受  決定殺人

那他下場是得付出代價  所以不論什麼回答都是自己要想清楚自己負責任

(模型是用人類從古到今包括網路的數據來做訓練  不可能沒有偏見)

※ 編輯: LoveSports (95.173.204.98 日本), 11/27/2025 16:54:37
推 pyhsiao: 切割樣本集就是交叉驗證的意思 共勉之