边界画在轻量问答这一侧。7B 量化模型它能常驻内存慢慢答,20 核 28 线程把 embedding、RAG 整理这类日常杂活处理得干净,5.4GHz 睿频加 VNNI 不至于让单条请求等太久;模型再往上走、长文本连续生成,短板就露出来了。
多数人的第一台本地 AI 机从它起步顺理成章:装 Ollama 跑通 7B、搭起 RAG 文档库,先把流程走顺再谈加钱。真想长期住在大模型上的人,钱要往显存与内存上走,而不是换一颗更贵的 CPU——这条路它已经开到终点。