Ubuntu下PyTorch调试技巧有哪些

Ubuntu下PyTorch调试技巧汇总

1. 基础调试工具：print与日志

• print语句：最直接的调试方式，在代码关键位置（如变量赋值、模型前向传播后）插入print("变量名:", variable)，输出变量值和执行流程，快速定位异常位置。
• logging模块：比print更灵活，支持日志级别（DEBUG/INFO/WARNING/ERROR）和文件输出。通过logging.basicConfig(level=logging.DEBUG)开启DEBUG模式，使用logging.debug("变量详情: %s", variable)记录信息，适合生产环境或复杂项目。

2. 交互式调试：pdb及其增强版

• pdb（Python自带的调试器）：在代码中插入import pdb; pdb.set_trace()，程序运行到该行会暂停，支持以下命令：
  • n（next）：执行下一行；
  • s（step）：进入函数内部；
  • c（continue）：继续执行到下一个断点；
  • p 变量名（print）：打印变量值；
  • q（quit）：退出调试。
• ipdb/IPython调试器：增强版pdb，支持语法高亮、自动补全和更友好的交互界面，安装后使用方式与pdb一致（如import ipdb; ipdb.set_trace()）。
• pdb++：进一步优化的pdb版本，增加了命令历史、变量查看等功能，提升调试效率。

3. IDE集成调试：PyCharm/VSCode

• PyCharm：
  • 设置断点：点击代码行左侧空白区域；
  • 启动调试：点击工具栏“虫子”图标；
  • 调试操作：使用调试工具栏的“Step Over”“Step Into”“Resume Program”按钮，通过“Variables”面板查看变量值，“Call Stack”面板查看调用栈。
• VSCode：
  • 安装Python扩展：在扩展商店搜索“Python”并安装；
  • 配置断点：点击代码行左侧；
  • 创建launch.json：通过“Run and Debug”面板创建，默认包含Python调试配置；
  • 启动调试：点击绿色“开始调试”按钮，使用调试控制台查看输出和变量。

4. PyTorch专用调试工具

• 梯度异常检测：使用torch.autograd.set_detect_anomaly(True)启用自动异常检测，当梯度计算出现NaN/Inf或非法操作时，程序会抛出详细异常（如梯度爆炸/消失的原因），帮助快速定位梯度问题。
• 性能分析：通过torch.autograd.profiler分析模型性能瓶颈，例如：

  from torch.autograd import profiler
  with profiler.profile(record_shapes=True) as prof:
      output = model(input_data)
  print(prof.key_averages().table(sort_by="cuda_time_total"))
  

  输出包含各操作的CUDA耗时、调用次数等信息，帮助优化模型速度。
• 可视化工具：使用torch.utils.tensorboard记录训练指标（如损失、准确率），通过SummaryWriter写入日志，再通过tensorboard --logdir=runs启动服务，在浏览器中查看可视化曲线，直观了解训练过程。

5. 辅助调试技巧

• assert语句：在代码中插入assert 条件, "错误信息"，当条件不成立时抛出AssertionError，用于检查关键假设（如张量维度、数值范围）。例如：assert input_dim == model.input_size, "输入维度与模型不匹配"。
• 单元测试：使用unittest或pytest框架编写单元测试，验证模型各模块（如层、函数、数据加载器）的正确性。例如，测试数据加载器是否能正确读取数据：

  import unittest
  class TestDataLoader(unittest.TestCase):
      def test_loader(self):
          loader = DataLoader(dataset, batch_size=32, num_workers=0)
          batch = next(iter(loader))
          self.assertEqual(batch[0].shape, (32, 3, 224, 224))  # 检查图像维度
  

• 交互式环境：使用IPython或Jupyter Notebook逐步执行代码，实时查看变量值和模型输出，适合探索性调试和原型开发。