先说几个关键点：在PyTorch里写多层感知机，用nn.Sequential把线性层和ReLU串起来是最直接的做法，但维度匹配、梯度清零、打印损失这些细节，但凡一个没注意，训练就可能翻车。下面把几个常踩的坑拆开说清楚。
PyTorch里怎么写一个带ReLU和线性层的MLP
用nn.Sequential最省事，但得清楚每层输入输出维度必须对得上，否则运行时报RuntimeError: mat1 and mat2 shapes cannot be multiplied。常见错误是忘记把二维输入（比如batch_size × 784）展平，或者在最后一层漏掉nn.Linear导致输出不是标量/类别数。
实操建议：
- 输入进网络前务必用
x = x.view(x.size(0), -1)或x.flatten(1)展平（图像类任务尤其容易忘） - ReLU放在线性层之后、下一层线性层之前，别反了——
nn.ReLU()不改变shape，但没它梯度可能全死掉 - 最后一层
nn.Linear的输出特征数必须等于分类数（比如MNIST是10），别写成1或100硬编码
示例骨架：
model = nn.Sequential(
nn.Linear(784, 128),
nn.ReLU(),
nn.Linear(128, 64),
nn.ReLU(),
nn.Linear(64, 10)
)
为什么loss.backward()前要调optimizer.zero_grad()
因为PyTorch默认累积梯度，不手动清零的话，第二次backward()会把新梯度加到旧梯度上，模型乱训——现象是loss不下降、权重爆炸、甚至NaN。这不是bug，是设计如此，但新手几乎必踩。
实操建议：
- 每次
optimizer.step()前必须有optimizer.zero_grad()，顺序不能换 - 如果用了
torch.no_grad()上下文（比如验证阶段），里面调backward()会报错RuntimeError: element 0 of tensors does not require grad，这和zero_grad无关，是另一回事 - 用
model.train()/model.eval()控制dropout/batchnorm行为，和梯度清零无关，但常被混为一谈
训练循环里loss.item()和loss到底该用哪个
loss是带计算图的Tensor，存着整个反向传播链；loss.item()是Python float，只取当前值。打印、存日志、画图必须用.item()，否则显存越占越多，很快OOM。
实操建议：
- 日志记录、
print()、写入tensorboard都用loss.item() - 别在循环里反复调
loss.detach().cpu().numpy()，.item()更轻量 - 如果loss是vector（比如per-sample loss），
.item()会报错，此时得先.mean()或.sum()
反向传播卡住或梯度为零的几个硬检查点
不是所有NaN都来自学习率太大。有些是数据本身带inf或NaN，有些是激活函数输入超限（比如torch.exp(1000)），还有些是自定义loss写错了求导路径。
实操建议：
- 训练前用
torch.isnan(data).any()和torch.isinf(data).any()扫一遍输入数据和label - 在
backward()后立刻加print([p.grad.norm().item() for p in model.parameters() if p.grad is not None])，看是否全为零或爆炸 - 怀疑某层出问题时，临时插入
assert not torch.isnan(x).any()，定位到具体tensor - 用
torch.autograd.set_detect_anomaly(True)开启异常检测（只在debug时开，性能损耗大）
复杂点在于：梯度问题往往跨多个环节——数据加载、预处理、模型结构、loss设计、优化器配置，任何一个环节埋雷，都得逐层断点查，没法靠改一行代码解决。
