앤트로픽 전 연구원, AI 기업의 안전 불감증 및 투명성 결여 경고

앤트로픽(Anthropic)의 안전 연구팀을 떠난 조 벤튼이 AI 기업들이 안전 투자보다 개발 경쟁에 몰두하고 있다고 비판했다. 그는 AI의 재귀적 자기 개선으로 인한 통제 불능 가능성을 언급하며, 기업 내부의 안전 사고가 은폐될 위험이 있다고 지적했다. 벤튼은 향후 비영리 연구기관 METR에 합류해 AI 시스템의 독립적 안전 평가를 추진할 예정이다. 업계의 무분별한 개발 경쟁이 인류의 안전을 위협할 수 있다는 신호로 읽힌다.