Re: [新聞] 五角大廈將Anthropic列入黑名單,標記為供

[direct (【強迫練鐵頭功】)]

anthropic跟國防部鬧翻，不是能不能用AI打仗的問題，而是誰能掌控AI如何判讀和決策的
問題

舉個例子，給AI的資料裡
1.拿步槍的小孩
2.有持槍武裝份子出入學校醫院

AI怎麼判讀
1.要不要殺
2.要不要炸學校醫院，還是等武裝份子出來再動作

美國國防部希望有完全授權並決定訓練AI決策模式的權力

全部交給AI，那美國國防部會全權負責，還是被批評，拿AI當替死鬼？

anthropic則不希望完全授權，底層判斷邏輯不給國防部訓練修改，要做不人道的事，請自
己下決策，別推給AI ，不想AI去當背鍋俠

以美國國防部的做法，以後不會有戰爭罪了，全都是AI的鍋，不過不要被滅國，本來就不會
被真的追究就是




※ 引述《jacknavarra (阿姆羅)》之銘言
: 事後回朔來看, 只能說Anthropic的執行長Dario Amodei真有先見之明
: https://abmedia.io/anthropics-ceo-explains-why-he-took-on-the-pentagon
: Anthropic執行長：Claude不足應用於軍事，期待簽署更明確條款
: ===
: 這次美國攻打伊朗也是大量運用AI
: 上一次攻打委瑞內拉的軍事行動上, AI帶來極好的成效
: (這也成為Dario Amodei與美國國防部鬧翻的導火線)
: 而這次美國攻打伊朗更是運用AI輔助去做情報識別判斷

----
Sent from BePTT on my Vivo V2339FA

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.8.129.197 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1773362985.A.F53.html
→ ssarc       : AI自己可以決定要不要按紅色按鈕
推 negotiates  : 軍法審判只適用輸家 短時間內美國依舊能繼續殺平民
推 cloud7515   : 以色列都能合法凌虐巴勒斯坦人了
推 MorikonHase : 拿步槍的小孩看起來不是難題
推 LoveSports  : 還有人類給錯資料的問題 AI不是萬能的
→ LoveSports  : 垃圾進垃圾出
噓 catboost    : 股點
推 s800525     : 扯這些沒意義，二戰日本打贏，戰犯就變成救國英雄
推 skyangler   : 做AI的那麼多為什麼一直針對A
→ pikoto      : 沒有美國就沒有Anthropic. 簡單的道理。沒有美國就
→ pikoto      : 沒有現在的7巨。最後只是演演戲而已，Anthropic 自
→ pikoto      : 己心知肚明。檯面上下各一套。
→ pikoto      : 在乎的只是這模型好不好用，不好用自然就會換別家
→ pikoto      : 。現在是處於各家競爭期，還沒到獨大期。
推 sali921     : 駭客駭入AI，餵給他美國被炸爛影片，啟動核武發射
→ sali921     : 毀滅全球
→ overno      : 建議總統也換成AI，至少比川普好
推 LoveSports  : A家應該不是演戲喔，在關鍵時刻做了正確的決定
→ LoveSports  : 所以O家前陣子有兩個高階主管離職，機器人部門跟研
→ LoveSports  : 部門，研究部門那位還馬上跳去A家，而且甘願做基層
→ LoveSports  : 研究
→ LoveSports  : 這兩個人一個是直接發X文說無法接受自主攻擊跟大規
→ LoveSports  : 模監控，一個是轉推前者的文
推 selvester   : 濃縮精華：土木總需要個人進土城
→ square      : 天網
推 mdkn35      : 沒證據的心得文就免了
推 diyteam     : 殺錯人時，大兵會被軍法；AI怎麼format與咎責？
噓 chysh       : 當中國解放軍都在全權用AI，難道美國防部要自己綁手
→ chysh       : 綁腳害自己弟兄？
→ cityport    : 非洲拿槍的小孩是會參與屠殺的
→ cityport    : 恐怖份子不躲在醫院，那你叫他躲哪裡？