快讯内容
,7月19日,月之暗面旗下大模型Kimi K3采用线性注意力机制,引发市场对英伟达、HBM以及网络设备需求可能受到削弱的担忧。不过,半导体研究机构SemiAnalysis近日给出了截然不同的判断:K3庞大的参数规模和推理架构需求,不仅不会削弱高端AI硬件需求,反而可能进一步强化对英伟达高端GPU、HBM以及高速互联设备的需求。 SemiAnalysis指出,K3参数规模超过2.8万亿,模型权重容量超过1.5TB HBM。即便在相对有限的用户并发场景下,KV缓存仍需要大量卸载至CPU DDR5内存及NVMe