구글, AI 서버 메모리 비용 급증에 하드웨어 전략 수정

구글 클라우드에 따르면 AI 서버 내 고성능 메모리 비용 비중이 75%를 넘어섰다. 구글은 추론용 TPU 8i와 학습용 TPU 8t로 하드웨어를 분리하고, 무손실 양자화 알고리즘인 터보퀀트를 도입해 메모리 병목 현상을 해결할 계획이다. AI 연산의 핵심 제약이 연산 능력에서 메모리로 이동하고 있다는 신호로 풀이된다.