Anthropic：今年已阻止多起利用 AI 研發生物武器的嘗試

Anthropic 表示，今年已成功阻止多起研究人員試圖利用其 AI 模型進行生物武器相關研究的案例。該公司指出，相關人員透過繞過安全管控及混淆研究目的來規避防護，其中包括利用 Claude 規劃禽流感實驗。Anthropic 已封禁相關帳戶，並發布報告呼籲 AI 產業與各國政府共同關注新興生物風險，強調安全機制已將相關研究限制在低性能模型上，且目前無法確認研究人員是否具有惡意。