极库未登录
极库CPU 侧当不了瓶颈。GPU 生成的间隙里,20 核 28 线程把 prompt 预填充、offload 层、embedding 全干完还有富余,VNNI 加速 INT8 段,5.6GHz 睿频压短单请求的等待——真正的墙在别处:显存多大,才决定这台机器能装多大的模型。
配一张中端卡跑 7B 级,这套组合顺手又平衡。盯着 70B 级的人先认清:瓶颈既不是 CPU 也不是核数,而是显存加内存带宽,20 核还是 24 核都救不了。它无核显,显卡必须占住装机清单第一位,别等装完才发现亮不了机。