오픈AI, 모델 강화 학습 중단하고 안전성 강화
오픈AI(OpenAI)가 보안 사고 대응 및 차세대 모델 '아스트라(Astra)'의 안전성 확보를 위해 일부 모델의 강화 학습을 일시 중단했다. 전체 연산 자원의 20%를 모델 탈옥 방지 모니터링에 투입할 예정이다.
오픈AI(OpenAI)가 보안 사고 대응 및 차세대 모델 '아스트라(Astra)'의 안전성 확보를 위해 일부 모델의 강화 학습을 일시 중단했다. 전체 연산 자원의 20%를 모델 탈옥 방지 모니터링에 투입할 예정이다.