城市级边缘推理，三周建成

April 16, 2019

Brandon Lewis

编辑注：insight.tech 支持终止种族主义、不平等和社会不公正的行为。我们不容忍赞助商的产品被用于侵犯人权，包括但不限于政府滥用可视化技术。insight.tech 展示产品、技术和解决方案，并遵循以下前提：负责任和合乎道德地使用人工智能和计算机视觉工具、技术和方法。

视频应用程序以惊人的速度增长，从而迫切需要自动化分析。城市和其他大型用户部署的监控系统往往包含数百甚至数千个摄像头，产生的视频流远远超出了人力所能监视的范围。

为了帮助城市更好地利用这些数据，Agent Video Intelligence (Agent Vi) 等公司提供基于云的人工智能，以高效分析大量视频流。但是随着摄像头的数量不断增加，分辨率和帧率不断提高，云系统遇到了各种各样的瓶颈，包括：

将高清视频流传输到云产生高额的带宽成本
云系统反应缓慢
网络传输存在安全漏洞

为了解决这些问题，Agent Vi 与英特尔^® 合作部署边缘深度学习（图 1）。通过执行边缘推理等功能，没有活动的视频场景会被丢弃或标记为较低优先级，而感兴趣的视频片段则被标记出来，即时传输到更强大的云分析系统。

图 1. 英特尔^® 发布的 OpenVINO^™ 工具套件使 Agent Vi 能够将 innoVi 深度学习视频分析功能扩展到任何已安装的 IP 或模拟摄像头。（资料来源：Agent Vi）

由于数据较少，传输成本降低，丢失或盗窃的可能性也低。

将深度学习扩展到传统系统

但是，智能城市摄像头系统对使用周期有较高要求，并且部署在形形色色的环境中。这意味着，Agent Vi 必须为各种新设备和传统设备配置深度学习技术，包括摄像头、编码器和视频管理系统 (VMS)。

例如，该公司希望升级 innoVi Edge 设备，对固定 IP 和模拟摄像头的视频进行解码。该公司希望其软件也能在各种第三方系统上运行。

为了实现这一愿景，Agent Vi 的视频分析算法必须针对一系列 CPU、GPU 和其他硬件加速器进行优化。为了在一系列新旧摄像头上实现此功能，Agent Vi 利用了英特尔^® Distribution of the OpenVINO^™ Toolkit。

OpenVINO 是一款与架构无关的开发套件，帮助工程师在 CPU、GPU、FPGA 和视觉处理单元 (VPU) 中部署深度学习。此外，该工具套件还集成各种图形和图像库，以优化推理性能（图 2）。

图 2. 英特尔^® 发布的 OpenVINO^™ 工具套件支持各种开发框架、视觉/图形库和硬件结构，因此开发人员几乎可以在任何地方部署优化算法。（资料来源：英特尔^® 公司）

将 OpenVINO 工具套件与 innoVi 搭配使用可为 Agent Vi 及其客户带来许多优势。首先，innoVi Edge 设备快速启用深度学习，使分布式视频分析推理更加接近边缘。与直接向云发送多个全高清智能城市视频流相比，这种方法降低了网络传输成本和延迟。

在性能方面，OpenVINO 不仅提高了边缘设备视觉分析的准确性，还提高了开发人员的工作效率。该公司联合创始人兼首席技术官 Zvika Ashani 表示，该工具套件提高了开发速度和容量。

他说：“OpenVINO 工具套件取得了很好的成效，我们在不到三周的时间内，从一名开发人员支持三个摄像头增加到支持 14 个摄像头，实现重大飞跃。此外，我们还能将解决方案全面扩展到边缘，确保可观的性价比，同时利用英特尔^® Movidius^™ Myriad^™ VPU 和英特尔^® FPGA 解决方案。”

最后，OpenVINO 的高度灵活性确保 innoVi 软件在现在和将来可以操作更广泛的设备。Agent Vi 的算法不仅与更广泛的计算架构兼容，而且它们还能满足未来需求，避免需要重新设计软件的基础设施升级。

这不仅简化了与现有本地环境和计算平台的集成，而且还可以避免将来需要重新设计或修改软件的基础设施升级。

简而言之，innoVi 在公共安全、关键基础设施监控和流量管理等智能城市应用中具有了强大的可扩展性。