PyTorch 速查

使用说明

PyTorch 常用写法速查：张量与基础、模型、训练循环、数据、设备与保存；支持搜索与分类筛选，点击即可复制。

1. 按用途点分类：张量与基础、模型、训练循环、数据、设备与保存。
2. 点「写法」列复制，替换维度与设备后使用。
3. 训练四步固定套路：前向→算损失→zero_grad→backward→step。
4. 评估与推理务必用 model.eval() + torch.no_grad()。

常见问题

zero_grad 是必须的吗？

是。PyTorch 默认累积梯度，不清零会叠加历史梯度导致训练发散；每次反向传播前调用 optimizer.zero_grad()。

train 和 eval 模式有何不同？

影响 Dropout 与 BatchNorm 等层：训练时启用随机丢弃/用批统计，评估时关闭丢弃/用运行统计，必须显式切换。

数据和模型不在一台设备会怎样？

会报设备不匹配错误。张量与模型必须放在同一设备（CPU/CUDA），常见写法是 .to(device) 后再前向。

延伸阅读

• TensorFlow 速查
• NumPy 速查
• MLflow 速查