RTX 5090 240장으로 8B 학습…스마트폰 CPU서 초당 59.6토큰

Chutes AI가 30개 호스트와 13개 국가에 분산된 RTX 5090 GPU 240장으로 80억 매개변수 규모의 인공지능 모델을 학습하고, 완성된 모델을 스마트폰 중앙처리장치(CPU)에서 구동했다고 밝혔다. 이번 시연은 9월 28~29일 캐나다 몬트리올에서 열린 Exploit Summit에서 공개됐다.