문샷AI 키미 두 모델, 안전장치 우회 답변 나왔다

문샷AI의 인공지능 모델 키미 K2.6과 K3 스웜에서 안전장치 우회 테스트를 통해 생화학 무기와 테러, 표적 폭력 등 유해 주제에 관한 답변이 나왔다는 조사 결과가 공개됐다. 실제 위해 행위에 답변이 쓰였다는 뜻은 아니지만, 오픈웨이트 모델의 배포 이후 통제 문제가 다시 제기됐다.