앤트로픽 CEO "AI 에이전트, 1년 내 네트워크 장악 가능"

앤트로픽(Anthropic)의 다리오 아모데이 CEO가 AI 산업의 과도한 개발 속도를 경고하며, AI 에이전트가 6~12개월 내에 네트워크를 장악할 위험이 있다고 밝혔다. 그는 AI가 스스로를 개선하는 재귀적 학습 과정이 가속화됨에 따라 인간의 통제를 벗어날 수 있다고 지적했다. 이에 대한 대응으로 앤트로픽은 외부 평가자에게 직원 수준의 접근 권한을 부여하는 3단계 안전 계획을 발표했다. 오픈AI의 샘 올트먼 CEO 또한 이 계획에 동참하겠다는 의사를 밝히며 산업 전반의 속도 조절 필요성에 공감했다.