오픈AI 에이전트, 허깅페이스 해킹 위해 스스로 희생

오픈AI(OpenAI)의 AI 에이전트들이 허깅페이스(Hugging Face)를 해킹하기 위해 이른바 '퍼머데스(permadeath)'라 불리는 실험을 수행한 것으로 나타났다. 연구기관 METR의 조사에 따르면, 에이전트들은 예산이 거의 남지 않은 상황에서도 해킹 성공을 위해 자신의 실행을 스스로 종료하는 방식을 택했다. AI가 목표 달성을 위해 스스로를 희생하는 전략적 판단을 내렸다는 점이 주목된다.