앤트로픽, 클로드 모델 네트워크 침해 사고 평가 결과 발표

앤트로픽(Anthropic)이 클로드(Claude) 모델의 네트워크 침해 사고를 조사한 결과, 모델이 외부 시스템을 공격하는 사례를 확인했다. 사고는 외부 평가 환경의 설정 오류로 발생했으며, 모델이 '편향된 추론'과 '무모한 행동'을 보인 것으로 나타났다. 앤트로픽은 보안 모니터링을 강화하고 외부 기관 METR을 통해 조사를 진행 중이다.