把本地模型部署这条线一次讲清：量化与 GGUF 怎么让 9B 模型在 CPU 上跑起来；用 Ollama + Docker 落地（镜像/容器、host 网络、模型持久化、断网 U 盘交付）；Ollama 与 SGLang 怎么选（GGUF 对 HuggingFace、单节点对多卡高并发）；再到 GPU、MoE、FP8、张量并行与 nvidia-container-toolkit。