[問卦] AI公司為何要擔心生物武器？

[LoveSports (我要當一個渣攻)]

如題  生物武器這個名詞看起來很陌生？

而且這種害人害己的東西  真的會有人或組織打算運用嗎？

全球人來來去去  看歷史上疫情就知道

嚴重傳染病不是只有死小範圍  大範圍都會受影響  不是只有別國受害

為什麼AI公司好像特別擔心這方面的問題？


以下詳述

最近在看Anthropic反抗美國國防部的新聞跟相關資訊

發現有一個名詞在一些文件中重複出現：

biological weapons  生物武器

以下是我跟AI討論後AI寫的：

2月9日： 安全研究員 Mrinank 離職。他在信中提到自己致力於開發防禦機制以降低「
AI 輔助的生物恐怖主義（AI-assisted bioterrorism）」風險，但也暗示了在組織內堅
持價值觀的巨大壓力，以及世界正面臨多重危機。

2月23日： Anthropic 發布蒸餾攻擊聲明，公開指控三家實驗室竊取能力，並強烈警告
這些非法模型缺乏防範「生物武器」的安全護欄，會帶來重大的國家安全風險 。

2月24日： Anthropic 發布 RSP 3.0。這份妥協於現實的政策，在針對產業範圍安全建
議的表格中，將防堵「化學/生物武器生產」放在了最顯眼、最核心的防禦閾值上 。

===========
(那位安全研究員除了提到生物恐怖主義以外還有提到生物武器)


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 64.31.11.11 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1772167079.A.C0B.html
推 frommr: 肥宅，移動生化武器