ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

【AI大模型】TensorBoard 进阶:看 Loss 曲线诊断模型问题

【AI大模型】TensorBoard 进阶:看 Loss 曲线诊断模型问题

【AI大模型】TensorBoard 进阶:看 Loss 曲线诊断模型问题

写在前面:Loss 曲线会“说话”

上一课讲了 Wandb,本课讲本地部署、免费无上限的 TensorBoard。很多人只会“看 loss 有没有下降”,其实 Loss 曲线的形态藏着大量诊断信息——欠拟合、过拟合、学习率过高、梯度爆炸,都能从曲线形状读出来。

本文讲透 TensorBoard 进阶用法:记录指标 → 启动面板 → 看懂常见曲线 → 据此调整训练。全文代码可直接运行。

一、TensorBoard 能看什么

TensorBoard 不只是画 loss,还能记录并可视化:

  • 标量曲线——loss、准确率、学习率随时间变化。

  • 分布直方图——权重/梯度的分布。

  • 图像与计算图——模型结构。

一句话:对微调来说,最核心的是“标量曲线”,尤其是训练/验证 loss 与学习率。

二、用 Trainer 自动记录到 TensorBoard

Hugging Face Trainer 默认就会把日志写到 TensorBoard,只需指定日志目录:

from transformers import TrainingArguments args = TrainingArguments( output_dir="./tb-out", per_device_train_batch_size=4, num_train_epochs
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进