LLM 요청 61억건 공개…캐시·라우팅 연구 활용
Chutes와 하버드 연구진이 대규모 언어 모델(LLM) 요청 61억2241만3756건을 담은 공개 데이터셋을 내놨다. 실제 대화 내용이 아닌 서빙 메타데이터를 공개해 생성형 AI 인프라의 캐시와 라우팅 구조를 분석할 수 있도록 한 자료다.
요약은 원문을 바탕으로 AI가 작성했어요. 투자 조언이 아닙니다.
Chutes와 하버드 연구진이 대규모 언어 모델(LLM) 요청 61억2241만3756건을 담은 공개 데이터셋을 내놨다. 실제 대화 내용이 아닌 서빙 메타데이터를 공개해 생성형 AI 인프라의 캐시와 라우팅 구조를 분석할 수 있도록 한 자료다.
요약은 원문을 바탕으로 AI가 작성했어요. 투자 조언이 아닙니다.