利用 iWave 的 Versal AI Edge 板上的 Vitis AI NPU 加速边缘 AI 推理

边缘人工智能 (AI) 正在迅速改变嵌入式系统处理和响应实时数据的方式。为了满足日益增长的边缘智能需求,iWave Global 成功地在 Versal™ AI Edge VE2302 系统级模块 (SoM) 及其评估平台上集成了 Vitis AI NPU(神经处理单元)。

此次集成彰显了 iWave 为开发人员提供高性能、高能效和超低延迟 AI 推理解决方案的承诺。该平台以 iW-RainboW-G57D SoM 为基础,可加速提升复杂的 AI 工作负载,如实时物体检测,提供更接近数据生成地的边缘智能。

Vitis AI:为 AI 工作负载提供 FPGA 加速功能

Vitis AI 是 AMD 的统一 AI 推理软件栈,专为基于 FPGA 的硬件平台(包括 Versal Adaptive SoC)而设计。它可以将为 GPU 训练的 AI 模型无缝迁移到 FPGA 架构,而无需进行重大返工。

Vitis AI 支持 TensorFlow、PyTorch、ONNX 和 Caffe 等流行的深度学习框架,允许开发人员在针对并行性和低功耗优化的硬件上高效部署训练有素的神经网络。

这就是 AI 加速流水线,它融合了 FPGA 的灵活性和专用神经加速器的性能,非常适合对延迟要求极高的边缘应用。

系统概览和演示设置

在 iWave 的 VE2302 Versal AI Edge 评估套件上运行的 Vitis AI NPU 现场演示,展示了实时物体检测能力。

演示组件:

  • iWave VE2302 Versal AI Edge 开发套件
  • HDMI 显示器
  • 用于实时视频输入的 USB 网络摄像头
  • 12V/5A 电源和调试电缆

用于 AI 推理的数据流流程

iW-RainboW-G57D 上的 AI 推理工作流利用了 VART X API 模块和实时处理结构。技术人员创建了一个脚本,以便在 SoM 上运行 NPU 应用。该脚本使用 USB 摄像头捕捉视频,并将其转换为 NV12 格式。然后由 NPU 处理转换后的视频,并在 HDMI 显示屏上突出显示检测到的对象。

数据流流程如下:

现场演示

在 VE2302 Versal AI Edge SoM 上体验实时物体检测!观看演示,了解 iWave 专家如何利用 NPU IP 进行 AI 推理,从而实现精确高效的物体检测。

边缘 AI 为什么选择 Versal AI Edge?

AMD 的 Versal AI Edge 系列将可编程逻辑、AI 引擎和异构处理系统集成在单个芯片中。这种架构可在一个平台上实现传感器融合、视觉分析和 AI 推理,同时保持确定性的实时控制。

主要亮点包括:

  • AI 引擎和 DSP 引擎,用于视觉、雷达和激光雷达工作负载
  • 最高 800 万像素分辨率的原生 MIPI 支持
  • 支持单精度和半精度浮点运算,适用于各种 AI 和信号处理任务

AI 计算与可编程逻辑的结合,为从机器人到工业自动化的各种边缘 AI 用例提供了可扩展的基础。

iWave 模块化 Versal AI Edge 系统级模块特性

  • 与 VE2302 / VE2202 / VE2102 / VE2002 器件兼容
  • 双核 Arm Cortex-A72 和 Cortex-R5F 处理器
  • 最高 328K 逻辑单元和 150K LUT
  • 8 个 GTYP 收发器,速度达 32 Gbps
  • 最高 8GB LPDDR4 内存和 128GB eMMC 存储
  • 用于扩展的双 240 针高速连接器
  • 连接性:PCIe Gen4、以太网、USB 3.0

该 SoM 外形紧凑、坚固耐用,支持 40G 以太网、MIPI 摄像头接口和 122 个可配置 I/O,可确保无缝集成到需要高速数据移动和实时推理的边缘 AI 系统中。

实际应用

iWave 的 Versal AI Edge SoM 上的 Vitis AI NPU 为各行各业带来了新机遇:

  • 智能监控:实时物体和面部识别,实现智能监视
  • 汽车和 ADAS:高速检测交通标志和行人
  • 工业自动化:用于缺陷检测与预测性维护的设备端分析
  • 医疗保健:AI 驱动的诊断成像和患者监护
  • 智能零售:自动结账和客户分析
  • 智慧城市:利用实时视频分析进行自适应交通管理

该解决方案融合了高吞吐量人工智能处理和电源效率,可在毫秒级的环境中提供精确的实时性能。

用边缘 AI 工具给开发人员赋能

iWave 提供一整套软件工具、库和电路板支持包 (BSP),可在 Versal 平台上简化人工智能开发周期。通过支持 Vitis AI、OpenCV 和基于 Linux 的开发,工程师可以更快地部署、测试和优化 AI 工作负载。

在全面的文档、长期可用性(10 年以上)和 ODM 设计服务的支持下,iWave 可确保客户放心地从原型扩展到生产。

iWave Global 是一家值得信赖的工程解决方案供应商,专门为工业、汽车、医疗和国防市场提供基于 FPGA 的系统级模块 (SoM) 和 ODM 设计服务。凭借数十年的嵌入式专业技术,iWave 通过可靠、可扩展和高性能的硬件平台实现了边缘创新。

欲了解 Versal AI Edge SoM 如何助您完成下一次 AI 创新,请访问 www.iwave-global.com 或联系mktg@iwave-global.com

关于此作者

Image of Tawfeeq Ahmad

Tawfeeq Ahmad 在 iWave Systems Technologies Pvt.Ltd. 负责产品营销。Tawfeeq 对电子行业充满热情,对市场和销售展现出极大兴趣。他旨在通过 iWave 的一系列嵌入式专业技术帮助全球各地的公司缩短开发周期,提高产品开发效率。Tawfeeq 拥有电子与通信专业学士学位和市场营销专业 MBA 学位,他的目标是将 iWave Systems 打造成全球领先的产品工程公司。

More posts by Tawfeeq Ahmad
 TechForum

Have questions or comments? Continue the conversation on TechForum, Digi-Key's online community and technical resource.

Visit TechForum