FPGA的Block RAM级联架构给AI/ML带来超高数据流通量

时间:2025-04-28  作者:Diven  阅读:0

随着数据中心、人工智能、自动驾驶、5G、计算存储和先进测试等应用的数据量和数据流量不断增大,不仅需要引入高性能、高密度FPGA来有着其并行计算和可编程硬件加速功能,而且还对大量数据在FPGA芯片内外流动提出了更高的要求。于是,在FPGA芯片中集成包括片上二维网络(2D NoC)和各种最新高速接口的新品类FPGA芯片应运而生,成为FPGA产业和相关应用的新热点。

FPGA的Block RAM级联架构给AI/ML带来超高数据流通量

拉开这场FPGA芯片创新大幕的是全球最大的独立FPGA技术和产品提供商Achronix半导体公司,其采用7nm工艺打造的Achronix Speedster7t FPGA不仅拥有诸多高性能外围Hard IP,而且是全球首次在FPGA的逻辑阵列上集成了2D NoC,一经推出就在市场得到了积极的响应,并引来竞争对手的模仿和跟随。

Speedster7t这款专门针对人工智能/机器学习(AI / ML)和高带宽应用进行优化的高性能、高密度FPGA,包括了革命性的二维片上网络(2D NoC)、新型机器学习处理器(MLP)、400G以太网和PCIe Gen5端口,以及高带宽GDDR6和DDR4/5存储控制器。Speedster7t FPGA架构如图1所示。

图1 Speedster7t FPGA结构图

Achronix Speedster7t FPGA除了在外围Hard IP上都采用目前业内领先的大带宽高速率IP,在内部的可编程逻辑的架构中也做了大量的优化去进一步提高内部可编程逻辑的性能,从而适配外围IP超高带宽需求。本文首先谈谈Speedster7t FPGA的片上SRAM,也就是Block RAM针对传统的结构所做出的一些优化。

Speedster7t FPGA中可编程逻辑的架构

Speedster7t FPGA中内部的可编程资源是按列排布,包括LUT、FF、ALU、MUX、MLP、Block RAM、LogIC RAM。如图2所示。

图2 Speedster7t FPGA可编程逻辑结构

其中MLP、Block RAM、LogIC RAM是集成在一起,之间的连接用的是专有的走线,不占用可编程逻辑走线资源,这样做的目的主要是为了提高性能,同时也可以节省可编程逻辑走线资源,这个架构对于AI,还有需要用到MLP的一些复杂算法的性能优化是非常明显的,在我们的MLP系列文章中会详细讲到,这里我们只重点说一下Block RAM。

Speedster7t FPGA的Block RAM特点

Speedster7t FPGA内部的Block RAM是一个容量为72k bit的简单双端口RAM,有一个读端口,一个写端口。两个端口的时钟完全独立,并且可以完全独立的配置读写位宽。可以灵活的配置成简单双端口RAM或者ROM。

Block RAM的主要特性如表1所示。

表1 Block RAM的关键特性

Block RAM框图如图3所示。

图3 Block RAM内部结构

Speedster7t FPGA的Block RAM级联结构

Speedster7t FPGA的Block RAM最大的特点是增加了Block RAM间的级联走线,级联走线是BRAM间专有的连线,不占用可编程逻辑的走线资源,可以极大的提升多个Block RAM级联的性能。图4显示了Block RAM间级联走线的架构。

图4 Block RAM级联结构

由图4可以看出,读写地址线和数据线都有专有的级联线连接。这样的架构在一些场景中都会有应用,比如:需要从外部端口接收数据或者从GDDR6读数据去初始化大量Block RAM的场景,AI的神经网络就是一个典型的应用,在每一层的卷积算法中,系统都会从GDDR6读出图像数据和权重数据放入每个引擎的Block RAM中,引擎计算完毕以后再存入到GDDR6中供下一次运算使用。

有了这样的级联架构,我们在写入数据去初始化大量Block RAM的时候不需要外部数据有很大的扇出,直接通过同一列Block RAM的级联线就可以轻松完成,具体实现可以参考Achronix MLP_Conv2D参考设计。另外一个例子就是在需要多个Block RAM去构成更大容量的RAM的时候,如果利用级联线可以大大提升系统的性能。我们针对这个专门做了一个工程比较一下,生成一个位宽64bit,深度16384的一个简单双端口RAM,需要用到16个Block RAM。我们分别用专有级联线和内部可编程逻辑去拼深度两种方法来对比。可以看到用专有的级联线资源更省,而且性能有了很大的提高。

使用专有的级联线资源占用和性能:

使用可编程逻辑资源占用和性能:

后面我们会继续深入了解Speedster7t FPGA可编程逻辑的各种特性,并且会用一些例子来说明如何更高效的利用这些特性,以将Speedster7t这款业界首创的高数据带宽FPGA芯片与更多的创新智能化应用结合起来。

Achronix也提供Speedcore嵌入式FPGA硅知识产权(IP)产品,用来帮助用户在应用规模进一步扩大后,去开发带有eFPGA逻辑阵列的ASIC或者SoC产品,由Achronix的ACE FPGA开发工具提供支持,从而可以重用FPGA开发成果,这是Achronix在率先引入2D NoC和MLP之外,另一个层面上的创新。

参考文献:

Achronix website www.achronix.com

Achronix Speedster7t IP component UG090

猜您喜欢

贴片电阻,就是贴装在电路板表面的微小电阻器。在电子电路中是很重要的配件,主要作用包括:限流、分压、阻抗匹配以及发热。限流方面,贴片电阻可以限制电路中电流的大小,...
2024-11-29 10:25:58

MEMS,全称微电机系统(Micro-Electro-Mechanical Systems),堪称科技界的“袖珍英雄”,将微型化、精密度和高性能完美融合,是推动...
2024-12-27 09:59:00

在电子领域,贴片电阻是不可或缺的元件。而对于初学者来说,区分颜色相近的电阻值,比如蓝色和黑色,常常让人感到困惑。本文将提供一些简单实用的方法,帮助您快速识别蓝色...
2024-11-26 11:30:02


随着科技的不断发展,绿色发光二极管(LED)已成为现代照明和显示技术的重要组成部分。相较于传统照明方式,LED具有高效、环保、寿命长等优点。很多用户在使用绿色L...
2025-04-06 02:01:38

贴片电阻上的18B并不是直接表示阻值,而是采用EIA-96标准的标识方法。其中,前两位数字18代表有效数字,字母B代表乘数因子。要计算具体的阻值,首先将18理解...
2024-11-29 10:26:32

功率电感是电子元件。在电路中起到重要作用。很多人问功率电感有正负性吗?本文将对此进行探讨。功率电感的基本概念功率电感是储存能量的元件。通过电流产生磁场。电感的单...
2025-03-21 20:00:35

压敏电阻是常用于过压保护的电子元件,应用于电源电路、通信设备和家用电器等。有时我们会发现压敏电阻出现炸裂的现象,这不仅影响设备的正常运行,还可能带来安全隐患。那...
2025-04-14 02:01:13

在日常生活和工作中,螺丝批是不可少的工具。我们的螺丝批套装集成了多种规格和类型,满足您各种需求。每套工具均采用高强度合金钢制造,确保耐用性和抗磨损性,长时间使用...
2012-01-23 00:00:00

OFDM定义fromwiki:调制是将传送资料对应于载波变化的动作,可以是载波的相位、频率、幅度、或是其组合。正交频分复用之基本观念为将一高速资料流程,分割成数...
2023-06-27 14:31:00