11. 模型部署与推理优化
ML 模型生产化部署指南：ONNX 跨平台转换、TorchServe 服务化、量化蒸馏压缩、TensorRT 加速与边缘端部署
tag
Onnx
共 2 篇文章。
Rust AI 与大模型集成：Candle、llm.rs 与 Python FFI
Rust AI 开发生态深度解析：HuggingFace Candle 纯 Rust 推理框架、llm.rs 本地大模型部署、ONNX Runtime、Rust 与 Python FFI 互操作、向量数据库 Qdrant 集成，以及 AI 推理性能优化策略。