DIGITS 教程

摘要

本教程提供了编写自定义插件的逐步说明。DIGITS 数据插件启用了一种机制，您可以通过该机制扩展 DIGITS 以从自定义源摄取数据。同样，DIGITS 提供了许多模型输出可视化类型，例如图像分类、对象检测或图像分割。DIGITS 可视化插件使可视化非标准模型的输出成为可能。本指南将引导您完成添加您自己的插件的过程。

1. DIGITS 概述

深度学习 GPU 训练系统™ (DIGITS) 将深度学习的力量赋予工程师和数据科学家。

DIGITS 不是框架。DIGITS 是 TensorFlow™ 的包装器，它为这些框架提供了一个图形化 Web 界面，而不是直接在命令行上处理它们。

DIGITS 可用于快速训练高度准确的深度神经网络 (DNN)，用于图像分类、分割、对象检测任务等。DIGITS 简化了常见的深度学习任务，例如管理数据、在多 GPU 系统上设计和训练神经网络、使用高级可视化实时监控性能，以及从结果浏览器中选择性能最佳的模型进行部署。DIGITS 是完全交互式的，因此数据科学家可以专注于设计和训练网络，而不是编程和调试。

2. 编写 DIGITS 插件

DIGITS 支持从有限数量的数据源摄取数据（支持的图像文件格式列表）。

DIGITS 数据插件启用了一种机制，您可以通过该机制扩展 DIGITS 以从自定义源摄取数据。

同样，DIGITS 提供了许多模型输出可视化类型，例如图像分类、对象检测或图像分割。DIGITS 可视化插件使可视化非标准模型的输出成为可能。

本节将引导您完成添加您自己的插件的过程。

2.1. 从 DICOM 文件读取数据

在本例中，我们将为图像分割实现一个数据插件，该插件从 DICOM 文件读取图像，并从文本文件读取其 ground-truth。此插件已在医学影像示例中进行了介绍。此插件被称为 Sunnybrook 插件，来自相应数据集的名称。完整代码可在此处获取：此处。在以下情况下，DIGITS 可能会使用数据插件：

创建新数据集时，为了创建数据库；
执行推理时，为了向模型馈送数据。

注意

注意：我们创建数据插件需要理解的大多数概念也适用于编写可视化插件。

安装插件后，DIGITS 开始在主页上显示相应的菜单。例如

图 1. DIGITS 主页

或者，如果您的数据模块已指示它也可以在推理期间摄取数据，您将在模型页面上看到 可视化选项 菜单。

2.1.1.1. `setup.py`

setup.py 文件指定如何安装插件。此处感兴趣的主要部分是来自 setuptools 包的 setup 命令的调用

复制
已复制！

            
            setup(
    name="digits_sunnybrook_data_plugin",
    version="0.0.1",
    author="Greg Heinrich",
    description=("A data ingestion plugin for the Sunnybrook cardiac dataset"),
    long_description=read('README'),
    license="Apache",
    packages=find_packages(),
    entry_points={
        DIGITS_PLUGIN_GROUP: [
        'class=digitsDataPluginSunnybrook:DataIngestion',
        ]},
    include_package_data=True,
    install_requires=['pydicom'],
)

安装后，Python 包将导出入口点 (entry_points)。示例代码将 digitsDataPluginSunnybrook 包中的 DataIngestionclass 分配给 DIGITS_PLUGIN_GROUP 入口点组。这将使 DIGITS 能够在启动时发现已安装的插件。

在 install_requires 参数中，我们指定此插件的 Python 包依赖项列表。在本例中，插件需要 pydicom 包。

2.1.1.2. `MANIFEST.in`

MANIFEST.in 文件指定要包含在插件包中的资源文件。在本示例中，我们递归包含 digitsDataPluginSunnybrook 文件夹中的所有 .html 文件。如果您正在编写自己的插件，请确保这些文件位于包文件夹中。

复制
已复制！

            
            recursive-include digitsDataPluginSunnybrook *.html

digitsDataPluginSunnybrook/init.py 文件指示 digitsDataPluginSunnybrook 文件夹是一个 Python 包。在大多数情况下，digitsDataPluginSunnybrook 文件夹可以留空。在我们的例子中，因为我们正在创建 data.py 文件的 DataIngestion 成员的快捷方式，所以我们可以在 setup.py 文件中将其称为 digitsDataPluginSunnybrook:DataIngestion。

2.1.1.4. `data.py`

digitsDataPluginSunnybrook/data.py 文件实现了一个 DataIngestion 类，该类实现了 DIGITS 数据扩展数据库（interface.py）。请务必查看接口 API 及其文档字符串。DataIngestion 类是 DIGITS 和 Sunnybrook 插件之间唯一的接口。熟悉该接口以了解在此类中需要实现的必需方法。最重要的有：

get_dataset_form

这是一个静态方法，它返回一个表单（flask.ext.wtf.Form 的子类），其中包含创建数据集所需的所有字段。例如，表单可能包含文本字段，以允许用户指定文件名或各种数据集选项。

get_dataset_template

这是一个静态方法，它返回要在 DIGITS Web 用户界面中显示的表单的 Jinja 模板；此方法还返回一个上下文变量字典，该字典应包含 Jinja 模板中引用的所有变量。例如，Sunnybrook 插件将表单作为上下文提供，因为 Jinja 模板引用此变量以将表单呈现到 Web 用户界面中。

get_inference_form

这与 get_dataset_form 类似，但在推理期间显示数据摄取选项时使用。

注意

注意：此方法可能返回 None，以指示您的数据插件无法在推理期间运行。在这种情况下，预计 DIGITS 中的常规图像推理选项将适用于您正在训练的模型。

get_inference_template

这与 get_dataset_template 类似，但在推理期间使用。

__init__

这是用于创建类实例的初始化例程。在初始化期间，会为其提供两个参数。第一个参数名为 is_inference_db，指示此实例是否将在推理期间使用。第二个参数是一个字典，其中包含用户在数据集创建期间或在指定推理数据选项时指定的所有表单字段。

itemize_entries

此方法解析表单字段，以便生成数据样本标识符列表。例如，如果您的数据插件需要编码目录中的所有文件，则 itemized entries 可以是所有文件名的列表。

encode_entry

此方法是数据插件的核心。它读取与 itemize_entries 中返回的标识符之一关联的数据，并将数据转换为 3 维 NumPy 数组。此函数还返回一个标签，该标签可以是标量或另一个 3 维 NumPy 数组。注意：读取 DICOM 文件中的图像的过程相对简单

复制
已复制！

            
            f = dicom.read_file(full_path)
img = f.pixel_array.astype(np.int)

2.1.1.5. `form.py`

digitsDataPluginSunnybrook/form.py 文件是我们定义以下内容的地方：

用于指定数据集的 DatasetForm 类，以及
可选地，用于指定推理数据的 InferenceForm 类

在 Sunnybrook 示例中，这些类的实例在 DataIngestion:get_dataset_form 和 DataIngestion:get_inference_form 中创建和返回。这些类是 flask.ext.wtf.Form 的子类。有关更多信息，请参阅 WTForms 文档。

2.1.1.6. `dataset_template.py`

digitsDataPluginSunnybrook/templates/dataset_template.py 文件是一个 Jinja 模板，用于定义您将在 Web 用户界面中看到的内容。有关更多信息，请参阅 Jinja 文档。

注意

注意：Sunnybrook 模板引用了 form 变量，该变量在 DataIngestion:get_dataset_template 中作为上下文给出。例如

复制
已复制！

            
            {{ form.image_folder.label }}

2.1.1.7. `inference_template.py`

digitsDataPluginSunnybrook/templates/inference_template.py 文件是用于显示推理数据选项的 Jinja 模板。

2.1.2. 安装插件

为了安装插件，您需要从包含数据插件 setup.py 文件的目录中运行以下命令。

复制
已复制！

            
            $ pip install .

接下来，重新启动 DIGITS 以使更改生效。

您的插件已安装。

2.2. 可视化插件

可视化插件的工作方式与数据插件类似。主要区别在于可视化插件实现了 view 接口。有关使用方法的更多信息，请参阅此文件中的内联文档字符串。

3. 故障排除

3.1. 支持

有关最新的发行说明，请参阅 DIGITS 发行说明文档网站。有关 DIGITS 的更多信息，请参阅：

注意

注意：nvidia-docker 镜像与此镜像之间可能存在细微差异。

声明

本文档仅供参考，不得视为对产品的特定功能、条件或质量的保证。NVIDIA Corporation（“NVIDIA”）对本文档中包含的信息的准确性或完整性不作任何明示或暗示的陈述或保证，并且对本文档中包含的任何错误不承担任何责任。NVIDIA 对因使用此类信息或因使用此类信息而可能导致的侵犯第三方专利或其他权利的后果或使用不承担任何责任。本文档不构成开发、发布或交付任何材料（如下定义）、代码或功能的承诺。

NVIDIA 保留在不另行通知的情况下随时对本文档进行更正、修改、增强、改进和任何其他更改的权利。

客户应在下订单前获取最新的相关信息，并应验证此类信息是否为最新且完整。

NVIDIA 产品根据订单确认时提供的 NVIDIA 标准销售条款和条件进行销售，除非 NVIDIA 和客户的授权代表签署的单独销售协议（“销售条款”）另有约定。NVIDIA 特此明确反对将客户一般条款和条件应用于购买本文档中引用的 NVIDIA 产品。本文档不直接或间接地形成任何合同义务。

NVIDIA 产品并非设计、授权或保证适用于医疗、军事、航空、航天或生命支持设备，也不适用于 NVIDIA 产品的故障或故障可能合理预期会导致人身伤害、死亡或财产或环境损害的应用。对于将 NVIDIA 产品包含和/或使用在此类设备或应用中，NVIDIA 不承担任何责任，因此此类包含和/或使用由客户自行承担风险。

NVIDIA 不保证基于本文档的产品适用于任何特定用途。NVIDIA 不一定会执行每个产品所有参数的测试。客户全权负责评估和确定本文档中包含的任何信息的适用性，确保产品适合客户计划的应用，并为应用执行必要的测试，以避免应用或产品的默认设置。客户产品设计中的缺陷可能会影响 NVIDIA 产品的质量和可靠性，并可能导致超出本文档中包含的附加或不同条件和/或要求。NVIDIA 对可能基于或归因于以下原因的任何默认设置、损坏、成本或问题不承担任何责任：(i) 以任何与本文档相悖的方式使用 NVIDIA 产品或 (ii) 客户产品设计。

本文档未授予 NVIDIA 专利权、版权或其他 NVIDIA 知识产权下的任何明示或暗示的许可。NVIDIA 发布的有关第三方产品或服务的信息不构成 NVIDIA 授予使用此类产品或服务的许可，也不构成对其的保证或认可。使用此类信息可能需要获得第三方在其专利或其他知识产权下的许可，或者获得 NVIDIA 在其专利或其他知识产权下的许可。

只有在事先获得 NVIDIA 书面批准的情况下，才允许复制本文档中的信息，并且复制时不得进行更改，并应完全遵守所有适用的出口法律和法规，并附带所有相关的条件、限制和声明。

本文档和所有 NVIDIA 设计规范、参考板、文件、图纸、诊断程序、列表和其他文档（统称为“材料”）均按“原样”提供。NVIDIA 对材料不作任何明示、暗示、法定或其他方面的保证，并且明确声明不承担所有关于非侵权性、适销性和特定用途适用性的暗示保证。在法律未禁止的范围内，在任何情况下，NVIDIA 均不对因使用本文档而引起的任何损害（包括但不限于任何直接、间接、特殊、附带、惩罚性或后果性损害），无论其成因和责任理论如何，即使 NVIDIA 已被告知可能发生此类损害。尽管客户可能因任何原因而遭受任何损害，但 NVIDIA 对本文所述产品的总体和累积责任应根据产品的销售条款进行限制。

VESA DisplayPort

DisplayPort 和 DisplayPort Compliance Logo、DisplayPort Compliance Logo for Dual-mode Sources 以及 DisplayPort Compliance Logo for Active Cables 是视频电子标准协会在美国和其他国家/地区的商标。

HDMI

HDMI、HDMI 标志和 High-Definition Multimedia Interface 是 HDMI Licensing LLC 的商标或注册商标。

OpenCL

OpenCL 是 Apple Inc. 的商标，已获得 Khronos Group Inc. 的许可使用。

商标

NVIDIA、NVIDIA 标志以及 cuBLAS、CUDA、cuDNN、DALI、DIGITS、DGX、DGX-1、DGX-2、DGX Station、DLProf、Jetson、Kepler、Maxwell、NCCL、Nsight Compute、Nsight Systems、NvCaffe、PerfWorks、Pascal、SDK Manager、Tegra、TensorRT、Triton Inference Server、Tesla、TF-TRT 和 Volta 是 NVIDIA Corporation 在美国和其他国家/地区的商标和/或注册商标。其他公司和产品名称可能是与其关联的各自公司的商标。

摘要