FPGA与GPU计算存储加速对比:单位功耗性能考量因素

时间:2025-04-28  作者:Diven  阅读:0

为了提升计算基础设施的性能,并紧跟数据分析与 AI 不断攀升的需求,众多企业将硬件加速视为主要的解决方案。在大多数情况下,先进的可编程硬件(主要是指 GPU 和 FPGA)是加速的主要方式。通过使用这种先进的硬件,企业正在赢得计算优势;对于编程难度,仍然存在合理的担忧。

FPGA与GPU计算存储加速对比:单位功耗性能考量因素

图 1:分析/AI 流水线组件

硬件制造商正在将加速方法应用于计算存储,这是专门设计用于包含内嵌计算元素的存储。这种方法已经被证明可以为分析和 AI 应用提供优异的性能(图 1)。使用或者不使用机器学习辅助的分析以及验证,都可以借助计算存储器件进行加速。这些器件提供了一个关键的优势,使得成本高昂的计算被卸载到存储器件上,而不必在服务器 CPU 上完成。与标准的存储/CPU 方法相比,通过计算存储获得的优势包括:

1. 借助应用专用编程定制可编程硬件,获得更高性能

2. 将计算任务从服务器卸载到存储器件,释放 CPU 资源

3. 数据与计算共址,降低数据传输需求

这种新颖的方法前景光明。不过,您应根据具体用例评估这种方法,考量性能、成本、功耗和易用性。性价比和单位功耗性能在选择加速硬件评估时,占据主要比率。在本文中,我们将研讨单位功耗性能(另一篇文章则专门研讨性价比)。

计算存储功耗比较

3种系统

在这个场景中,我们将比较以 CSV 数据读取用例为主的三种工具:英伟达 GPUDirect 存储 和RAPIDS存储,以及基于赛灵思技术的三星 SmartSSD 存储。CSV 读取在计算密集型流水线中起着重要的作用(参见图 1)。

在下文中,我们将性能定义成 CSV 的处理速率,或处理“带宽”。我们先快速回顾一下三种系统的运行方式。

英伟达 GPUDirect 存储

·端到端满足分析和 AI 需求

·将 GPU 用作计算单元,紧贴基于 NVMe 的存储器件布局 (GPUDirect)

·使用 CUDA 进行编程 (RAPIDS)

英伟达用其 CSV 数据读取技术衡量相对于标准 SSD 的性能提升。结果如图 1 所示。使用 1 到 8 个加速器时,对应的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驱动器

·将赛灵思 FPGA 用作计算单元

·与存储逻辑内嵌驻留在同一个内部 PCIe 互联上

·通过编程在存储平台上开展运算

赛灵思数据分析解决方案合作伙伴 Bigstream 与三星合作,为 Apache Spark 设计加速器,包括用于 CSV 和 Parquet 处理的 IP。SmartSSD 的测试使用单机模式的 CSV 解析引擎,以便开展比较。结果如图 2 所示,使用 1 到 12 个加速器时,对应的吞吐量是 4 到 23GB/s,同时也给出英伟达的结果(使用 1 到 8 个加速器)。请注意,本讨论中的所有结果都按 x 轴上的加速器数量进行参数化。

这些结果令人振奋,但在选择您的解决方案时,请务必将功耗情况纳入考虑。

图 2:SmartSSD 驱动器的 CSV 解析性能结果

单位功耗性能比较

图 3 显示了将功耗考虑在内后的分析结果。代表单位功耗达到的性能水平,根据上述讨论中引用的相关材料,给出了以下假设:

·Tesla V100 GPU:最大功耗 200 瓦

·SmartSSD 驱动器 FPGA:最大功耗 30 瓦

图 3:CSV 解析的每瓦功耗带宽比较

在这个场景下,计算表明,在全部使用 8 个加速器的情况下,SmartSSD 的单位功耗性能比 GPUDirect Storage 高 25 倍。

FPGA 与 GPU 对比:有关单位功耗性能的最终思考

计算存储的优势在于能增强数据分析和 AI 应用的性能。要让这种方法具备可实际部署的能力和实用性,就必须在评估时将功耗纳入考虑。

针对用于 CSV 数据解析的两种不同的计算存储方法,我们已经提出按功耗参数化的吞吐量性能曲线。结果显示,在使用相似数量的加速器进行比较时,SmartSSD 驱动器的单位功耗性能优于 GPUDirect存储方法。

GPUDirect 是英伟达通过 NVIDIA DGX-2 应用平台提供的研究系统。

三星 SmartSSD 驱动器是可部署的量产型 PCIe 可插拔平台,现在已经通过赛灵思及分销商供货。

如需了解更多信息,请查看:

· 有关 Bigstream 与 SmartSSD 计算存储器件结合使用,加速大数据和数据分析的电子书。

· Bigstream 硬件加速 Apache Spark解决方案。

· 有关使用三星 SmartSSD 驱动器给工作负载带来优势的 三星 SmartSSD 页面。

猜您喜欢

电容纸是重要材料,用于电器中。的功能和用途很多。本文将探讨电容纸的作用及其应用领域。电容纸的基本定义电容纸是绝缘材料。具有很高的电阻率。通常是用纸和涂层制成的。...
2025-03-26 21:00:35

在选择雨衣时,有几个关键参数需要关注,以确保您在雨天保持干爽和舒适。防水等级是最重要的参数。通常以水柱高度来表示,数值越高,防水性能越好。2000mm的水柱高度...
2024-01-23 00:00:00

贴片电阻上的「25D」并不是直接表示阻值的,而是代表阻值代码。它采用EIA-96 标准的3位数代码表示法。前两位数字表示有效数字,第三位数字表示10的幂次方。 ...
2025-04-14 15:03:28

4角套筒是应用于各类机械和设备中的重要工具,因其独特的设计和优良的性能,成为许多行业不可少的部件。在汽车维修领域,4角套筒常用于拆卸和安装轮胎螺母,方便快速地完...
2014-03-31 00:00:00

气泡膜是常见的包装材料,应用于保护易碎物品。气泡膜并非千篇一律,实际上存在多种区别。气泡膜的气泡大小不同。常见的有大气泡和小气泡两种。大气泡适合保护较重或体积较...
2009-11-03 00:00:00

担架是重要的救援工具,应用于医疗、消防和户外探险等领域。主要用于将伤员或病人安全、迅速地转移到医疗机构或安全地点。担架的设计通常考虑到轻便、坚固和舒适性,能够有...
2008-01-28 00:00:00


现代电子设备中,连接器的选择对于设备性能和可靠性非常重要。CONN_15.65X4.4MM_SM连接器因其独特的设计和优越的性能而受到关注。本文将详细探讨这一连...
2025-04-24 12:30:40

长期以来,鹿科动物受到一种神经系统疾病的侵袭,这种疾病对个体来说致死率高达100%,并且具有群体效应。这种疾病被称为慢性消耗性疾病(CWD),是由错误折叠的朊病...
2023-08-29 09:10:00

SOT23G-3是应用于电子设备中的小型封装,因其体积小、性能高而受到许多工程师的青睐。通常用于集成电路、放大器和其电子元件的封装。本文将详细介绍SOT23G-...
2025-04-26 15:30:11