算力包括哪几个算力
算力不是算力一块芯片跑个分那么简单。英伟达H100的包括FP8算力标称接近4000 TFLOPS,但你真拿它去跑一个数据库查询,个算可能还不如一颗几十块钱的算力CPU核反应快。问题出在:算力本身分了好几种,包括各自干各自的个算活。 先说最常被拎出来说的算力通用算力。这东西就是包括CPU干的活,逻辑判断、个算分支跳转、算力操作系统调度、包括跑个Excel——都靠它。个算通用算力的算力单位是FLOPS没错,但CPU的包括强项不在峰值数字,而在"什么都能干"。个算一颗服务器CPU的向量算力可能只有同期GPU的几十分之一,可它管着内存分配、中断响应、任务编排。没有它,GPU连数据都喂不进去。 然后是智能算力,也就是GPU、NPU、TPU这些加速器提供的算力。它跟通用算力最大的区别是:擅长大规模并行、低精度的矩阵乘加。训练一个大模型,本质上是几十亿个参数反复做乘法和加法,这种活CPU干起来像用筷子搅水泥,GPU则是开着搅拌车来。但智能算力有个毛病——它不通用。你拿A100去跑一个复杂的图遍历算法,性能可能惨不忍睹,因为它的架构是为稠密矩阵运算设计的,稀疏、不规则的计算它不擅长。 还有一类经常被忽略:专用算力。FPGA和ASIC就属于这一类。比特币矿机是ASIC,只算SHA-256,别的啥也不会,但算这个的效率比GPU高几个数量级。再比如某些网络设备里的TCAM芯片,做路由查表快得离谱,但你让它做个浮点加法它直接罢工。专用算力的逻辑是:牺牲通用性换极致效率。代价是一旦算法变了,硬件可能就废了。 这三类算力在实际系统里是混着用的。你刷短视频,推荐算法跑在GPU集群上,这是智能算力;视频分发调度跑在CPU集群上,这是通用算力;网络包转发可能走的是可编程交换机里的专用芯片,这是专用算力。缺了谁都不行。 还有一个维度容易被混淆:算力精度。同一个GPU,跑FP64和跑FP8,算力数字能差几十倍。H100的FP64算力是34 TFLOPS,FP8是3958 TFLOPS。你说"这卡算力多少"?得先问清楚精度。科学计算要FP64,AI推理用FP8甚至INT4就够了。精度越低,单位面积能塞的运算单元越多,算力数字越好看,但能解决的问题也越窄。 我见过一些项目招标文件里写"总算力不低于XX PFLOPS",却不写精度、不写互联带宽、不写内存容量。这种指标基本是糊弄外行的。算力集群的实际有效算力,往往只有标称峰值的30%到50%,瓶颈通常在数据搬运上——GPU算得再快,数据供不上也是白搭。所以看算力,别只看那个最大的数字。得看它是什么类型的算力,跑什么精度,内存和互联跟不跟得上。这几个问题问完,才算真正知道这套系统能干什么。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
- 搜索
-
- 友情链接
-