AI 的速度瓶颈：内存比算力更关键

现代计算已进入一个奇特的阶段：思维的速度受限于“厨房”的距离。虽然像英伟达 H100 这样的芯片每秒能进行数万亿次运算，但它大部分时间竟在无所事事。这是因为运算所需的数据存储在独立的内存芯片中，而连接两者的物理导线传输速度太慢，无法及时“喂饱”处理器。