アンソロピック、AIを用いた生物兵器開発の試みを複数阻止したと発表

アンソロピック（Anthropic）は、同社のAI技術を悪用して生物兵器の研究を行おうとする試みを今年に入って複数回阻止したと明らかにした。報告によると、研究者らが安全対策を回避し、研究目的を偽装して鳥インフルエンザ関連の実験を計画する事例などが確認された。同社は安全フィルターによりモデルの性能を制限した上で該当アカウントを停止したが、研究者の所属や国籍は公表していない。AI業界や各国政府に対し、生物学的リスクへの対策議論を促す狙いがある。