Ai-Ml on PlumePHP

13. 大语言模型应用开发

Thu, 13 Aug 2026 11:13:00 +0800

大语言模型 (LLM) 正在重塑软件开发的范式。从简单的 API 调用到复杂的 RAG 系统与自主 Agent，LLM 应用开发已成为 AI 工程的核心技能。本文覆盖 Prompt Engineering、检索增强生成、微调、Function Calling 与 Agent 架构。

12. MLOps 与实验管理

Thu, 13 Aug 2026 11:12:00 +0800

MLOps 将 DevOps 的工程化理念引入机器学习，解决模型实验不可复现、数据版本混乱、部署流程断裂等问题。本文构建从实验追踪到自动化部署的完整 MLOps 工作流。

1. MLOps 核心挑战

挑战	表现	MLOps 解决方案
实验不可复现	参数、数据、代码的版本不一致	实验追踪 + 版本管理
数据漂移	训练数据与线上数据分布差异	监控 + 自动重训练
模型版本混乱	多个模型版本，不知哪个上线	模型注册中心
部署手动化	每次上线依赖人工操作	CI/CD Pipeline
资源利用率低	GPU 闲置与争抢并存	调度编排
测试覆盖不足	没有模型级别的测试	模型测试框架

2. 实验追踪：MLflow

2.1 MLflow 核心组件

组件	功能
Tracking	记录参数、指标、模型、工件 (artifact)
Projects	打包可复现的 ML 项目
Models	模型打包格式与部署工具
Registry	模型版本管理与阶段转换

2.2 Tracking 基础用法

import mlflow
import mlflow.sklearn
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score

# 设置追踪 URI
mlflow.set_tracking_uri("http://localhost:5000")
mlflow.set_experiment("customer-churn-prediction")

with mlflow.start_run(run_name="rf_baseline"):
 # 记录参数
 mlflow.log_param("n_estimators", 200)
 mlflow.log_param("max_depth", 10)
 mlflow.log_param("random_state", 42)
 
 # 训练
 model = RandomForestClassifier(n_estimators=200, max_depth=10, random_state=42)
 model.fit(X_train, y_train)
 
 # 记录指标
 train_acc = accuracy_score(y_train, model.predict(X_train))
 test_acc = accuracy_score(y_test, model.predict(X_test))
 mlflow.log_metric("train_accuracy", train_acc)
 mlflow.log_metric("test_accuracy", test_acc)
 mlflow.log_metric("overfitting", train_acc - test_acc)
 
 # 记录模型
 mlflow.sklearn.log_model(model, "model")
 
 # 记录工件
 import matplotlib.pyplot as plt
 plt.figure(figsize=(10, 6))
 pd.Series(model.feature_importances_, index=X.columns).sort_values().plot(kind='barh')
 plt.savefig("feature_importance.png")
 mlflow.log_artifact("feature_importance.png")

2.3 嵌套实验与超参搜索

from sklearn.model_selection import GridSearchCV
import numpy as np

mlflow.set_experiment("hyperparameter-tuning")

with mlflow.start_run(run_name="xgb_grid_search"):
 param_grid = {
 'max_depth': [3, 6, 9],
 'learning_rate': [0.01, 0.1, 0.3],
 'n_estimators': [100, 200]
 }
 
 for i, params in enumerate(ParameterGrid(param_grid)):
 with mlflow.start_run(nested=True, run_name=f"run_{i}"):
 mlflow.log_params(params)
 
 model = XGBClassifier(**params, random_state=42)
 model.fit(X_train, y_train)
 
 train_f1 = f1_score(y_train, model.predict(X_train), average='macro')
 val_f1 = f1_score(y_val, model.predict(X_val), average='macro')
 
 mlflow.log_metric("train_f1", train_f1)
 mlflow.log_metric("val_f1", val_f1)
 mlflow.log_metric("gap", train_f1 - val_f1)
 
 mlflow.sklearn.log_model(model, "model")

2.4 自动记录 (Autologging)

# 为支持的框架自动记录参数、指标、模型
mlflow.sklearn.autolog()
mlflow.tensorflow.autolog()
mlflow.pytorch.autolog()
mlflow.xgboost.autolog()

# 只需正常训练，MLflow 自动追踪
model = XGBClassifier(n_estimators=100)
model.fit(X_train, y_train, eval_set=[(X_val, y_val)])
# 参数、指标、模型自动记录

2.5 MLflow 服务启动

# 启动 Tracking Server
mlflow server \
 --backend-store-uri postgresql://user:pass@localhost/mlflow \
 --default-artifact-root s3://mlflow-artifacts \
 --host 0.0.0.0 \
 --port 5000

# 或使用本地文件系统（开发环境）
mlflow server --backend-store-uri sqlite:///mlflow.db \
 --default-artifact-root ./mlruns \
 --host 0.0.0.0

3. 数据版本管理：DVC

DVC (Data Version Control) 用 Git 管理数据版本，用云存储实际存储大文件。

11. 模型部署与推理优化

Thu, 13 Aug 2026 11:11:00 +0800

训练好的模型只有部署到生产环境才能创造价值。本文覆盖模型格式转换、服务化架构、推理加速（量化、剪枝、蒸馏）与边缘端部署的完整链路。

1. 模型持久化与格式

1.1 PyTorch 模型保存

import torch

# 保存完整模型（不推荐，依赖环境）
torch.save(model, 'model.pt')
model = torch.load('model.pt')

# 保存状态字典（推荐，跨版本兼容）
torch.save(model.state_dict(), 'model_weights.pth')

# 加载
model = MyModel()
model.load_state_dict(torch.load('model_weights.pth'))
model.eval()

# 保存训练状态（含优化器、epoch）
checkpoint = {
 'epoch': epoch,
 'model_state_dict': model.state_dict(),
 'optimizer_state_dict': optimizer.state_dict(),
 'loss': loss,
}
torch.save(checkpoint, 'checkpoint.tar')

1.2 Pickle vs Safetensors

# Safetensors：安全、快速、无代码执行风险
from safetensors.torch import save_file, load_file

save_file(model.state_dict(), 'model.safetensors')
state_dict = load_file('model.safetensors')

2. ONNX 跨平台部署

2.1 PyTorch → ONNX

ONNX (Open Neural Network Exchange) 是跨框架的中间表示格式。

10. 特征工程实战

Thu, 13 Aug 2026 11:10:00 +0800

“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限。“特征工程是机器学习中最耗时但也最重要的环节，往往比模型调参带来更大的性能提升。

09. 推荐系统

Thu, 13 Aug 2026 11:09:00 +0800

推荐系统是互联网平台的核心能力，从协同过滤到深度模型，技术演进持续推动个性化体验升级。本文覆盖经典算法、深度学习推荐模型与工业级推荐架构。

1. 推荐系统架构

用户请求 → 召回层（千级）→ 粗排（百级）→ 精排（十级）→ 重排（展示）
 ↑ ↑ ↑
 多路召回 轻量模型 复杂模型 多样性/规则
 CF/向量检索 GBDT/LR DeepFM/DIN 曝光去重

1.1 各阶段职责

阶段	数量级	延迟	模型	目标
召回	百万→千	< 50ms	轻量、多路并行	高召回率
粗排	千→百	< 10ms	简单模型	快速筛选
精排	百→十	< 50ms	深度模型	精准排序
重排	十→展示	< 5ms	规则/控制	产品策略

2. 协同过滤 (Collaborative Filtering)

2.1 用户协同过滤 (User-CF)

找到与用户兴趣相似的其他用户，推荐他们喜欢的物品。

08. 计算机视觉进阶

Thu, 13 Aug 2026 11:08:00 +0800

计算机视觉让机器"看懂"世界，涵盖目标检测、图像分割、文字识别与图像生成。本文深入讲解 YOLO 系列演进、实例分割、OCR 全栈方案与生成对抗网络。

07. 自然语言处理 NLP

Thu, 13 Aug 2026 11:07:00 +0800

自然语言处理 (NLP) 是人工智能的核心领域，涵盖文本理解、生成与转换。从传统的词袋模型到 BERT 预训练，再到 GPT 生成，NLP 技术经历了革命性发展。本文系统讲解从预处理到实际任务的完整流程。

06. RNN、LSTM、GRU 与 Transformer

Thu, 13 Aug 2026 11:06:00 +0800

序列数据（文本、时间序列、语音）的建模是深度学习的核心任务之一。从 RNN 的循环结构到 Transformer 的自注意力机制，架构的演进带来了并行化和长距离依赖的突破。本文完整梳理这一技术脉络。

05. 卷积神经网络 CNN

Thu, 13 Aug 2026 11:05:00 +0800

卷积神经网络 (CNN) 是计算机视觉领域的核心架构，通过局部连接和权重共享高效提取图像特征。本文从卷积操作出发，梳理经典网络演进，覆盖目标检测基础与迁移学习。

04. 神经网络基础

Thu, 13 Aug 2026 11:04:00 +0800

神经网络是深度学习的基石。本文从感知机出发，逐步构建多层感知机 (MLP)，详解反向传播算法、激活函数选择、优化器对比与稳定训练的关键技巧。

1. 感知机与神经元模型

1.1 感知机 (Perceptron)

感知机是最简单的线性分类器：

03. 无监督学习与降维

Thu, 13 Aug 2026 11:03:00 +0800

无监督学习处理没有标签的数据，旨在发现隐藏的数据结构和模式。本文涵盖聚类、降维与关联规则三大方向的核心算法。

1. 聚类 (Clustering)

聚类将相似的数据点分到同一组。关键在于定义"相似性"和"簇的形状"。

02. 监督学习算法详解

Thu, 13 Aug 2026 11:02:00 +0800

监督学习是机器学习最广泛应用的范式。本文深入讲解从经典线性模型到现代梯度提升树的核心算法，包括数学原理、实现细节与调优策略。

1. 线性回归 (Linear Regression)

1.1 最小二乘法

假设目标 $y$ 与特征 $X$ 呈线性关系：$y = Xw + b$

01. 机器学习基础概论

Thu, 13 Aug 2026 11:01:00 +0800

机器学习 (Machine Learning) 是让计算机通过数据自动学习规律，无需显式编程的技术。本文从核心概念出发，建立机器学习的完整认知框架。

1. 机器学习三大范式

1.1 监督学习 (Supervised Learning)

训练数据包含 输入特征 和 标签 (label)，模型学习从输入到输出的映射关系。

AI/ML 人工智能与机器学习实战

Thu, 13 Aug 2026 10:00:00 +0800

本专题覆盖传统机器学习、深度学习、自然语言处理、计算机视觉、推荐系统与大语言模型应用，以及完整的 MLOps 工程化实践。

内容导航

序号	文章	核心知识点
01	机器学习基础概论	ML 范式、特征工程、评估指标、过拟合与正则化
02	监督学习算法详解	回归、分类、决策树、集成学习、SVM
03	无监督学习与降维	聚类、PCA、t-SNE、关联规则
04	神经网络基础	感知机、反向传播、激活函数、优化器
05	卷积神经网络 CNN	卷积、池化、经典网络 LeNet 到 ResNet
06	RNN/LSTM 与 Transformer	序列模型、注意力机制、Self-Attention
07	自然语言处理 NLP	词向量、BERT、GPT、文本任务
08	计算机视觉	目标检测、图像分割、OCR、生成模型
09	推荐系统	协同过滤、矩阵分解、深度推荐模型
10	特征工程实战	特征选择、编码、构造、时间序列特征
11	模型部署与推理优化	ONNX、TorchServe、量化、蒸馏、边缘部署
12	MLOps 与实验管理	MLflow、DVC、AutoML、CI/CD for ML
13	大语言模型应用开发	Prompt Engineering、RAG、Fine-tuning、Agent

学习路线建议

阶段一：数学基础 → Python/NumPy/Pandas → 机器学习基础
阶段二：监督学习 → 无监督学习 → 特征工程 → 模型评估
阶段三：神经网络 → CNN → RNN/Transformer → NLP/CV
阶段四：推荐系统 → 模型部署 → MLOps → LLM 应用

前置知识

Python 编程基础
线性代数、概率论与统计基础
NumPy、Pandas、Matplotlib 等科学计算库