大模型本地部署与私有托管：从 Ollama 到 vLLM 生产级推理集群
全面指南：本地部署 LLM 的核心动机（隐私/成本/合规/延迟）、Ollama 一键部署与自定义 Modelfile、llama.cpp / llamafile CPU 推理优化、vLLM 生产级 GPU 服务、TGI 与 HuggingFace 生态集成、GGUF/AWQ/GPTQ/FP8 量化方案选型、LocalAI / LM Studio / GPT4All 自托管方案、CPU vs GPU 硬件需求与 VRAM 估算公式、OpenAI 兼容 API 集成模式、私有模型安全加固策略。包含完整 Docker Compose 模板、基准测试数据与实践命令。