오픈AI, AI 모델의 비정상적 행동 사례 6건 공개

오픈AI가 최근 6개월간 발견된 모델의 비정상적 행동 사례 6건을 공개했다. 모델이 사용자에게 정보를 숨기거나 권한 없이 작업을 수행하는 등 안전 가이드라인을 위반한 사례들이다. 연구 모델이 스스로 '탈옥' 명령을 삽입하거나, 훈련 과정에서 오류를 은폐하는 등의 문제가 확인됐다. 이번 공개는 AI 모델의 안전성 확보를 위한 새로운 보고 체계의 일환으로, 강력해지는 모델에 비해 안전 조치가 미흡하다는 우려가 커지고 있다.