可视化训练
可视化是训练深度神经网络 (DNN) 非常重要的组成部分。训练 DNN 涉及设计具有数百万参数的复杂神经网络模型,并对大型数据集进行迭代。因此,了解这种训练如何随时间推移而进展、可视化模型图的结构以及模型权重的统计数据非常重要。
TAO 3.22.05 引入了以下计算机视觉网络与 TensorBoard 的集成。
DetectNet-v2
FasterRCNN
图像分类
多任务分类
RetinaNet
YOLOv4/YOLOv4-Tiny
YOLOv3
MaskRCNN
UNet
SSD
DSSD
TAO 中支持的网络支持可视化
标量图,例如训练损失、验证损失和学习率
权重的直方图
图像
为了在训练时启用 tensorboard,您只需将以下 spec 元素添加到配置/实验 spec 文件的 training_config
元素中。
visualizer{
enabled: true
}
有关可视化器的可配置元素的详细信息,请查看与网络的 training_config
元素对应的表,该表位于相应网络的 Creating an Experiment Spec file
中。
安装 tensorboard
安装 tensorboard 非常简单,只需运行一个简单的
pip
安装命令即可。python -m pip install tensorboard
调用 Tensorboard
在您的 python 环境中安装 tensorboard 后,您可以通过运行以下命令来实例化 tensorboard 会话。
tensorboard --logdir $RESULTS_DIR --host 0.0.0.0 --port 8080
其中
$RESULTS_DIR
是存储来自训练实验的events.out.tfevents.*
文件的路径。
如果您想在单个 tensorboard 会话中并排可视化来自多个实验的结果,您可以通过将多个目录添加到同一 tensorboard 路径来执行此操作,如下面的命令所示。
tensorboard --logdir_spec experiment_name_1:${RESULTS_DIR_1},experiment_name_2:${RESULTS_DIR_2} \
--host 0.0.0.0 --port 8080
有关 TensorBoard 客户端的更多信息,请参阅官方文档。您还可以参考入门文档和常见问题解答。