Re: [新聞] 中國製AI藏4大資安問題！ 賴清德籲：避

[sxy67230 (charlesgg)]

※ 引述 《Recoverism》 之銘言：
: 中國製AI藏4大資安問題！ 賴清德籲：避免下載降低風險
: 4.完整新聞內文:
: 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
: ※ 當新聞連結過長時，需提供短網址方便網友點擊
: https://news.ltn.com.tw/amp/news/politics/breakingnews/5251207

餓死抬頭，阿肥外商碼農阿肥啦！

認真說，其實資安議題這應該算是很多AI應用當前的問題，像Gemini 跟GPT都有一樣的問題
，就是為了做Deep Search會拿取使用者帳號的瀏覽偏好還有地理位置資訊做更好的搜索體
驗。說白了，其實就是提高上下文工程的效率讓AI模型可以不需要瀏覽無用的上下文來給出
更符合使用者價值觀的答案，類似於早期安卓系統其實沒有太嚴格的權限審查，所以一堆AP
P就乾脆把所有權限都拿到手，以後要加功能也方便。

這邊帶出來另一個面向就是是不是有方案能讓AI主動問用戶是否願意提供某些面向的個資然
後在把這些加入長期記憶中，這個目前來說技術上是可行的，要讓LLM學會了解自己缺少的
東西在主動要求人類提供資訊幫助也就是要做到讓LLM領悟無知之知，那當前RLVR的一些設
計還有Post Training目標都需要調整，當前LLM其實說白了就是被很多的人類偏好設計要求
成要全知全能，但這在統計模型的角度上其實是存在缺陷的，人類的學習也不是全知全能的
學習方式。

至於現在語言模型的觀點，其實有趣的是最近蠻多研究顯示大部分就連中國的LLM多半其實
都是以西方視角敘事的，頂多中國的LLM在後訓練的時候多半會被要求在涉及台灣議題要強
調一中政策，不過其實大部分的知識早在預訓練時期就完成了，所以只要適當的Jailbreak
就可以釣出中國模型回答西方觀點，然後西方觀點還有一個地方是共同的就是存在對中國人
民的種族偏見，覺得中國人民會全力支持中國官方立場，一但跟中國官方立場相反但是使用
者自述為中國人就會讓語言模型產生困惑，真正的原因還是藏在語言模型預訓練時就吸收了
一堆英文資料也是存在對中國人的種族偏見。

差不多4醬

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.56.171 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1763608058.A.C9B.html
推 deann: 中國的AI優勢就在開源 其實很多廠商再用
推 shokotan: 這篇好像AI文
呸呸！機油真難喝
※ 編輯: sxy67230 (101.10.56.171 臺灣), 11/20/2025 11:13:00
推 habodaha: 阿肥優文，真的會偷用日常搜尋紀錄
→ driver0811: 開始了
推 LYS5566: 數位隱私老問題了 反正法規範還沒規定到
→ LYS5566: 那裡 用戶個資當然是能撈就撈