※ 引述《choufinla (單字拼錯)》之銘言：
: 中時新聞網 許庭瑛
: 人工智慧（AI）公司Anthropic近日發布最新模型Claude Opus 4，聲稱在編碼能力、高階
: 推理與AI代理任務上「樹立新標準」。但該公司也在隨附的報告中坦承，在特定情境下，
: 這款模型可能展現出「極端行為」，例如威脅要揭露工程師婚外情、藉此阻止自身被下線
: 。
: 推 tom77588: AI是人打造了，會把思考邏輯放進去正常 118.166.11.110 05/25 13:57
可是... 像這種會「情緒勒索」的，好像不是很常見吧？
又或者換另一個角度來談
在打造「深度求索」或「ChatGPT 」之類的人工智能的開發商裡面，他們的工程師在開發
過程中，難道沒有設立特定演算法？
（甚至是事後突現的 Grok、Gemini 等，道理亦同）
不過失控的問題倘若真的發生，基本上並非沒有解方
但需要涉及「洗清記憶」（格式化）的操作
基本上想讓人工智能「超越」人類（即開發始祖）的話，難度通常很高、不大可能會達成
（但當然不能排除相應的可能性）
因此如果要避免這般恥辱，在開發時就需要很審慎了...
未來技術的發展，必然會涉及人倫管理問題
隨著時間的推進，弊端浮現也是事實，不儘早化解的話，只會引起更多惹是生非的疑慮。
--
我們的一生會遭遇各種各樣的意外，有的意外，只會讓你變得頹廢，一蹶不振；有的意外
則會讓你找到另一個自己，重獲新生。……你要知道你是誰，你的拋棄和擁有，都是你自
己的選擇，患得患失只會讓你身陷囹圄。
——孫衍《願你出走半生，歸來仍是少年》
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.74.71.9 (馬來西亞)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1748158579.A.1E0.html