未登录
FAQ

9965 把 192 个核摊在 12 通道上,AI 吞吐会不会先被内存带宽按住?

回答

  会,这正是下单前最该算清的一笔账。192 核 384 线程的排队宽度极大,可每核一起要数时,12 通道 DDR5 就是那根公用的水管;批处理与高密度推理若喂不满带宽,核越多越早撞墙。3.7GHz 睿频与 AVX-512 决定每核能算多快,带宽决定它们要等多久——后者才是 192 核真正的上限。

  多租户虚拟化、每核带宽胃口不大的混合负载,能把 192 核用出价值;清一色重带宽的推理批处理,先算清每路的内存占用再签单。内存把通道插满,留一半空着还嫌核喂不饱,是自找的瓶颈。

Hardware

相关硬件

AMD

AMD EPYC™ 9965

核心数 192 Cores最大 Boost 频率 3.70 GHz三缓 384.00 MBTDP 500.00 W
Compare

相关对比

1 个