模型训练与迁移学习
本文系统讲解视觉模型训练与迁移学习,回答冻结多少层、学习率怎么设、数据增强用哪些、混合精度怎么开等实战问题。覆盖损失函数、SGD 与 AdamW、余弦退火与 warmup、RandAugment 与 MixUp、特征提取与逐层解冻、AMP 与梯度累积、过拟合诊断与正则,并给出微调 ResNet18 与分层学习率两段可运行 PyTorch 代码,附策略对比表、权衡与常见坑。
tag
本文系统讲解视觉模型训练与迁移学习,回答冻结多少层、学习率怎么设、数据增强用哪些、混合精度怎么开等实战问题。覆盖损失函数、SGD 与 AdamW、余弦退火与 warmup、RandAugment 与 MixUp、特征提取与逐层解冻、AMP 与梯度累积、过拟合诊断与正则,并给出微调 ResNet18 与分层学习率两段可运行 PyTorch 代码,附策略对比表、权衡与常见坑。
Nix 中的 CUDA 与机器学习环境实战:GPU 环境为什么难(驱动/运行时/库三方版本约束)、nixpkgs 的 cudaPackages 布局、驱动与 cudatoolkit 的版本匹配、GPU 开发 shell 搭建、PyTorch 打包与 Python 生态、版本匹配矩阵与常见错配、容器镜像部署、cudaCapabilities 编译加速与多 GPU、常见坑与排错清单。
迁移学习实战:什么是迁移学习、预训练模型生态(ImageNet/HuggingFace)、冻结与微调策略、特征提取 vs 微调的选择、学习率分层、适配层设计、CNN 与 Transformer 迁移、完整微调代码流水线。
从零实战计算机视觉:图像数据表示、OpenCV 预处理(缩放/归一化/增强)、CNN 图像分类(PyTorch CIFAR-10)、经典网络(ResNet)、目标检测/分割概览、迁移学习与部署。
从 MLP 走向深度学习的进阶实战:CNN 卷积网络结构、RNN/LSTM 序列建模、Dropout/BatchNorm/数据增强正则化、优化器演进(SGD/Adam)、学习率调度、迁移学习,PyTorch 训练 CIFAR 全流程。
从神经元与感知机讲起,用 PyTorch 从零构建并训练第一个神经网络:张量与自动求导、前向传播与损失函数、反向传播直觉、优化器与训练循环、评估与预测,最后完整跑通 MNIST 手写数字识别。
从感知机到多层神经网络,深入理解激活函数、反向传播、损失函数、优化器与 Dropout/批归一化等训练技巧
Python 数据科学生态全景:Pandas vs Polars vs NumPy 选型与性能对比、PyTorch 模型推理与优化、Transformers pipeline 实战、ONNX 导出与跨平台推理、与 Rust(PyO3)互操作加速。覆盖从数据处理到生产部署的完整链路。
为有编程基础的学习者设计 12 个月机器学习学习计划,覆盖数学基础、Python、经典算法、深度学习、项目实践、工具选择、评估方法和求职作品集。