看到“某个AI一次耗电多少”,先核对它测的是训练、生成回答,还是一段时间的服务运行。把阶段、任务和测量范围弄清楚,数字才有比较价值。单个问题的耗电量,也不能直接代表这个模型一年的用电量。
第一步,确认数字对应哪个阶段。
训练通常涉及利用数据调整模型参数,推理则是利用模型处理输入、生成结果。看到训练耗电总数,要继续看是否只算某一次训练,还是包含多次尝试和后续调整。看到每次回答的耗电,也要确认有没有计入训练分摊,不能自行猜测。
一份材料如果没有交代阶段,先把它记为范围不明。不要用训练总量去除以一个来历不明的用户数,就写成“每个人用了多少电”。
第二步,看“一次”究竟做了多少事。
回答一句短问题、读取一段长材料、生成长篇文字,以及生成图片,并非相同任务。输入规模、生成长度和运行设置都值得查看。模型参数量相近,也不足以保证一次请求耗电相近。
AI Energy Score项目的研究说明,推理设置和生成内容长度会影响能耗比较。这里不借用某次基准测试的倍数去推算所有产品;读排行榜时,应同时看测试任务、硬件与方法,别只截一列数字。
第三步,找到电量的测量边界。
统计的是加速卡、整台服务器,还是包含制冷等设施的总用电?IEA的资料区分了服务器、存储、网络和制冷等组成部分。只测其中一项,就要按这一项命名,不能写成整个服务的全部耗电。
再看统计时段是否包括模型加载、等待请求和空闲运行。如果报告扣除了基线功耗,也要保留这个说明。比较两份数据时,两者是否使用相近边界,比小数点后多几位更重要。
第四步,最后再算总量。
下面是自设的简化例子,只说明算术:假设在固定条件下,一组同类请求平均每次耗电一瓦时,完成一千次便是一千瓦时,也就是一度电。这个结果只覆盖假设中已经计入的部分,不能自动补进训练、待机或设施用电。
若实际请求变长、服务同时处理多条请求,或硬件改变,就应重新核对平均值。把旧平均值机械乘上新请求量,最多只能算带条件的估计。
读完一份耗电报告,可以留四行笔记:哪个阶段、做了什么任务、测到哪些设备、统计了多长时间。缺一项就标记未知,不补数字。这样既不会把一次实验夸成普遍规律,也能避免拿不同范围的数据给模型草率排高低。
资料来源(2026年10月11日核验):
IEA:Energy and AI
https://iea.blob.core.windows.net/assets/b3a8b37f-32d1-4873-9eca-31cec5895264/EnergyandAI.pdf
IEA:Energy demand from AI
https://www.iea.org/reports/energy-and-ai/energy-demand-from-ai
AI Energy Score研究作者:AI Energy Score v2
https://huggingface.co/blog/sasha/ai-energy-score-v2