现代的中央处理器(CPU)有4个、8个甚至16个核,而图形处理器GPU)可以有成百上千个计算单元。这些高度并行的、专用的计算核心用于图形处理,具有非常适合并行计算应用程序的体系结构。使用GPU执行传统上由CPU处理的计算(在图形处理单元上称为通用计算,或GPGPU)可以通过在多个核上分配计算工作负载来加速计算密集型应用程序。
gpu可以提高各种工作负载的性能,包括图像处理和分析、计算加速和人工智能(AI)。随着对边缘系统的响应能力和准确性的要求越来越高,cpu和gpu的结合变得越来越主流,以实现单位功耗性能的最佳效率。
向边缘式系统添加GPU可能非常复杂,因为要满足关键的边缘式系统需求,比如较低的系统延迟、较长的产品可用性和电源效率,并不是一件容易的事情。而边缘系统中运行的应用程序示例中的一个常见主题是需要快速将外部数据从传感器和其他来源移动到GPU进行处理。凌华科技通过实现远程直接内存访问(RDMA)来实现这一点,RDMA是NVIDIA®Quadro®gpu中NVIDIA GPUDirect™技术的一个特性,可以将数据吞吐量提高约80%(3.6到6.5 GB/s),并将系统延迟降低60%。* RDMA允许外部数据源直接访问GPU的外部内存。
寻求从深度学习和人工智能中获得最大创新和生产率收益的公司,应该考虑使用针对这些应用程序中使用的算法类型进行优化的计算平台。深度学习和人工智能算法操作的输入范围很广,包括视频、文本、语音、图像和传感器数据,这些数据是按顺序或并行处理的。为了处理这些不同的需求,一个优化的计算平台通常会使用两种或更多不同类型的计算核心来加速边缘计算和AI工作负载。这就是凌华的异构计算平台发挥作用的地方。
凌华科技是全球领先的边缘化计算解决方案提供商,是NVIDIA®Quadro®嵌入式合作伙伴和Jetson™首选合作伙伴。为使边缘化计算能够得益于GPU的强大计算能力,凌华异构计算解决方案提供了一个全面的优化组合,包括嵌入式MXM GPU模块和PCI Express基于NVIDIA®Quadro®GPU显卡,边缘AI平台基于NVIDIA®Jetson™模块,GPU计算平台和其他嵌入式形式因素,可以加速边缘计算和人工智能工作负载,以满足广泛的嵌入式需求基于性能,生命周期长,功耗大,外形美观。
ADLINK的嵌入式MXM GPU模块和PCIe图形卡提供了改进的系统响应能力、功率效率和系统强固性,显著提高了边缘应用程序所需的人工智能(AI)计算的速度和效率。
嵌入式MXM GPU模块具有宽温选项,非常适合在苛刻的环境中切换受限的应用程序。PCIe图形卡最大限度地提高了计算能力和即插即用的便利性,以显著提高计算密集型和性能关键型应用程序的性能。支持定制固件和较长的产品生命周期,以满足边缘应用程序的需求。