谷歌：AI服务器内存成本占比超75%，将推软硬件双轨策略

在SEMICON Taiwan 2026内存高峰论坛上，谷歌云(Google Cloud)供应链基础架构资深总监Nikhil Cherian表示，随着多模态与混合专家架构的普及，AI运算已转向内存受限，高效能内存占AI服务器硬件物料清单成本的75%以上。为应对容量、频宽与功耗瓶颈，谷歌采取软硬件双轨策略：硬件上，推出针对低延迟推论的TPU 8i及专攻超大规模训练的TPU 8t，通过增加SRAM容量与HBM共享池化技术降低延迟；软件上，开发TurboQuant无损量化算法，在不损失精度的情况下将键值快取压缩6倍，并整合旧世代DRAM技术以延长组件寿命。