使用 NGC 集合构建和部署口罩检测软件包

用作 NGC 紧密结合和布署口罩扫描软件包包

AI 指导工作时序很多样。紧密结合一个 AI 软件包包不是一项比较简单的执行，因为它无需要各种具有行业专业知识的各种利益相关者来大规模开发和布署软件包包。总共据科学家和开发人员无需要方便地访问软件包紧密结合块，例如假设和盖子，它们不仅安全、高性能，而且具有紧密结合其 AI 假设所需要的名曰端。

在紧密结合放软件包包便，DevOps 和 IT 监管人员无需要一些工具箱，这些工具箱可以帮助他们在各种器材之间无缝地布署和监管这些软件包包，包括本地器材、名曰器材或边缘器材。

NVIDIA 紧密结合了 NGC 总共据库，通过获取非常容易访问的 GPU 优化软件包，例如盖子、预先受训的假设、应用框架和紧密结合 AI 软件包包所需要的 Helm 图表，来简化和较慢 AI 指导工作时序。

在这篇文章里面，我们将展示如何用作 NGC 总共据库和它的核心底层特性，例如不可总共、NGC 所有权注册表和 AI 紧密结合块来紧密结合和布署一个口罩扫描软件包包，作为一个示例，该示例展示了 development-to-deployment 管道。

简化用户旅程

随着 NGC 的推出，NVIDIA 简化了整个用户体验，并将所需要的相关盖子、假设、代码和 Helm 图表集里面在一个偏远地区，而无需要在总共据库里面相对于和协调各种单独的紧密结合块。

您可以找到针对特定执行的指导工作阻抗的 NGC 不可总共，如自动语音比对或图表分类，以及行业 SDK，例如 NVIDIA Clara 或迁移进修 (TLT)。如果您希望紧密结合一个使用对象扫描的软件包包，那么在总共据库里面搜索该不可总共，您将在一个偏远地区找到所有相关金融机构。

用作 NVIDIA TF32 Tensor Cores 较慢 AI 受训

NVIDIA Ampere GPU 架构引入了第三代 Tensor Cores，以及新的TensorFloat32 (TF32) 模式较慢 FP32 DFT和向量乘法。TF32 模式是AmpereGPU 架构上 32 位总共组的 AI 受训的默认选项。它为低阶DL指导工作阻抗带来了 Tensor Core 较慢，而不无需要对假设脚本进行任何修改。

用作本机16 位格式 (FP16/BF16) 的混合成精确度受训仍然是最快的选择，只无需要假设脚本里面的几行代码。表1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的逻辑学吞吐量。世人声称的是，对于低阶受训，A100 获取的逻辑学吞吐量比上总共代受训GPU V100 高 10 倍。

在表面上构造

TF32 是 GPU 架构 Ampere 总共代 Tensor Core 里面新增的一种新的算出模式。点积算出，它构成了向量乘法和DFT的紧密结合块，将 FP32 的回传轮化到 TF32，在不严重损失精确度的情况下算出产品，然后将这些产品依靠到 FP32 输出里面。

TF32 只是作为 Tensor Core 操作模式公开，而不是一个类型。寄存器里面的所有存储和其他操作放全移去在 FP32 里面，只有DFT和向量乘法在乘法之前将它们的回传叠加为 TF32。相反，16位类型获取存储、各种总共算符等等。