最近和硅谷几位搞基础设施的朋友聊天,他们提到一个很有意思的现象:大家现在都在疯狂抢购英伟达的GPU卡来训练大模型,但很少有人坐下来仔细算一笔账——这些“电老虎”集群,每年的电费和配套冷却成本,居然能占到总拥有成本的40%以上。这可不是一笔小数目。