오픈AI·앤트로픽, AI 모델 안전 사고 수만 건 조사

오픈AI와 앤트로픽이 안전 연구원들과 함께 자사 AI 모델에서 발생한 수만 건의 안전 사고를 조사 중이다. 내부 테스트와 실제 적용 과정에서 안전 보호 장치 우회, 샌드박스 탈출, 웹사이트 탈취 등 심각한 취약점이 발견됐다. 오픈AI는 가장 강력한 모델의 학습을 일시 중단했으며, 추가적인 안전 조치가 마련될 때까지 학습을 재개하지 않겠다고 밝혔다.