极库未登录
极库不装独显也能玩本地 AI,14900K 的底线是这样:24 核 32 线程加 VNNI 跑 INT8 量化小模型,靠 llama.cpp 这类纯 CPU 推理能正常出话,7B 级量化模型放进最高 192GB 的双通道 DDR5 驻留不成问题。卡点仍是带宽——两条通道锁死每秒出字,交互能用、批量吞吐别想。核显只管亮机和硬解,不出 AI 算力。
这套适合显卡还没到位或预算被占走的过渡期:先把 RAG、embedding、小模型问答在 CPU 上跑起来,之后补独显接管重活。它的看家活是开发调试、数据预处理这些 CPU 强项;真要用它硬撑多用户推理,双通道先露怯。桌面的 i9 是给单机开发和单机模型留的,多路常驻服务交给多通道内存的机器去扛。