www.v2ex.com
网页
综合
V2EX › Local LLM
… 最后回复来自 panghu960 8 笔记本 125B 模型 Q4 量化, xHigh256k 调优峰值 64tps。附部署和调优源码 flkaylor19 • 10 月 24 日 • 最后回复来自 panghu960 1 本地大模型:统一内存(UMA)和显存+内存(分层卸载), 统一内存 UMA 才是普通用户的未来! jinsongzhaocn • 10 月 22 日 • …
2026-11-13
自动蜘蛛
相关度 9.4