FPGA运算单元对高算力浮点应用

时间:2025-04-28  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列(FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

FPGA运算单元对高算力浮点应用

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢

来料贴片电阻的检验是为了确保其质量符合生产要求,避免因元件缺陷导致产品故障。检验标准通常包含以下几个方面:外观检验: 目视检查电阻表面是否有裂纹、缺损、污染等缺...
2024-11-29 10:26:00


电子电路中,采样电阻(Shunt Resistor)是常见的元件,用于测量电流。通过在电路中引入一个已知阻值的电阻,可以间接地获取电流大小。采样电阻的工作原理简...
2025-04-19 10:30:09

查找0603贴片电阻的5%精度阻值,可以使用多种方法:在线电阻值计算器: 许多电子元件网站提供在线电阻值计算器,输入三位数的阻值代码,即可快速得到实际阻值。例如...
2024-11-26 11:29:12

NTC热敏电阻(Negative Temperature Coefficient Thermistor)是一种具有负温度系数的电阻元件,应用于温度测量和温度补偿...
2025-03-18 10:00:02

以太网供电(Power over Ethernet,简称PoE)作为一种创新的电力传输技术,正在迅速改变我们的网络环境。PoE技术通过一根标准以太网网线同时传输...
2024-08-01 00:00:00

变容二极管是特殊类型的二极管,其主要功能是通过改变反向电压来调整其电容值。应用于调谐电路、振荡器和频率合成器等领域。了解变容二极管的参数对设计有效电路非常重要。...
2025-04-04 23:30:03

发光二极管(LED)是能够将电能转化为光能的半导体器件。自20世纪60年代首次被发明以来,LED技术不断发展,如今已应用于照明、显示屏、指示灯等多个领域。本文将...
2025-03-30 13:00:01

I2C简介I2C 是 PHILIPS 公司开发的一种半双工、双向二线制同步串行总线。两线制代表 I2C 只需两根信号线,一根数据线 SDA,另一根是时钟线 SC...
2023-10-08 14:14:00

现代市场中,配件不仅仅是辅助产品,更是提升主产品价值的重要组成部分。本文将围绕“Accessories_22X8MM_TM”这一主题,探讨其在各类产品中的应用及...
2025-04-23 05:31:13