아마존, 장기 문맥 모델 추론 및 학습 효율화 연구 발표

아마존이 KV 캐시 정책이 장기 문맥 모델의 추론과 학습에 미치는 영향에 관한 연구를 공개했다. 데이터 처리 효율성을 높여 AI 모델의 메모리 관리와 속도를 개선할 수 있는 기술적 진전으로 평가된다.