.NET 机器学习实战
讲解在 .NET 生态中落地机器学习的方法，涵盖 ML.NET 训练管线、模型评估与调参、ONNX Runtime 高性能推理、模型部署与版本管理，以及与 Python 生态的协作方式。
tag
ONNX
共 6 篇文章。
模型部署与 MLOps：ONNX、FastAPI、Docker 与监控
系统覆盖 ML 模型上线：ONNX 导出跨框架、FastAPI 推理服务、Docker 容器化、批处理 vs 在线推理、A/B 测试、模型版本与回滚、监控告警、MLOps 全流程。
WASM 上的 AI 推理：ONNX Runtime Web、WASI-NN 与边缘模型部署
系统覆盖 WASM 上的 AI 推理落地：为什么用 WASM 跑模型、ONNX Runtime Web 架构（WASM/SIMD/WebGPU 三后端）、模型转换与量化（onnx/quantize）、WASI-NN 提案与 serverless 推理、边缘推理部署（Cloudflare Workers）、浏览器端实时应用（图像分类/目标检测/语音）、性能基准与选型矩阵。
ONNX Runtime 跨平台推理优化
引言 随着深度学习模型越来越多地部署到边缘设备与多样化硬件之上，模型格式与推理引擎的统一化已成为工程落地的关键瓶颈。PyTorch 和 TensorFlow 各自拥有庞大的生态系统，但训练后时将模型转换为一个与框架无关的中间表示，才能真正实现「一次导出、到处运行」
11. 模型部署与推理优化
ML 模型生产化部署指南：ONNX 跨平台转换、TorchServe 服务化、量化蒸馏压缩、TensorRT 加速与边缘端部署
Rust AI 与大模型集成：Candle、llm.rs 与 Python FFI
Rust AI 开发生态深度解析：HuggingFace Candle 纯 Rust 推理框架、llm.rs 本地大模型部署、ONNX Runtime、Rust 与 Python FFI 互操作、向量数据库 Qdrant 集成，以及 AI 推理性能优化策略。