在快速发展的人工智能领域,硬件架构的创新尤为重要。近日,深存科技(无锡)有限公司获得了一项名为“一种基于FPGA的AI加速器优化系统和方法”的专利,这一成果标志着该企业在AI技术加速器研发方面迈出了关键一步。
2025年1月27日,是一个值得关注的日子。浙江天泓波控电子科技有限公司获得了一项新的专利,名为“一种基于大容量FPGA的时钟树电路”,这项专利在国内FPGA设计领域具有重要的创新意义。该专利的申请日期为2024年4月,获得的授权公告号为CN222380114U。随着电子技术的不断发展,FPGA(现场可编程门阵列)在信息技术、通信、消费电子等多个领域的应用愈加广泛。尤其是在大容量、高性能的FPGA ...
目前,尽管CPU、GPU以及一些专门设计的加速器是支持AI运算的首选方案,但它们依然受限于传统的冯·诺伊曼架构。定制化的ASIC、FPGA和APU虽能提供更高的内存带宽和专控性能,但运行这些模型仍需消耗大量的RAM资源,使得生成式AI的经济性部署成为 ...
此外,现场可编程门阵列(FPGA)以其低延迟和灵活性,特别适合于需要极高实时性的推理任务。FPGA可以根据不同应用需求进行重新配置,相对比 ...
虽然目前的计算选择像CPU、GPU以及定制化的ASIC、FPGA等都各有优势,却依然受到内存带宽的限制,导致推理的费用不断攀升。加州大学伯克利分校的 ...
定制设计的ASIC、FPGA和APU提供具有更高内存带宽的专用控制器,并且需要大量RAM来将模型保存在内存中,这使得生成式AI几乎不可能经济地交付。 尽管存在这些成本和计算限制,但很快企业将广泛部署多种AI模型,扩大对推理的需求。这将需要计算能力的另一个 ...
AI红利加速释放 AI大模型的发展重点正在从训练转向推理,接近用户边缘的推理计算需求正在增长。这也给FPGA提供了机会。 谢征帆表示,AI分为训练(training)和推理(inference)两个阶段,由于从算力上来看,AI训练的需求超出了FPGA的能力,因此我们更加专注于AI ...
FPGA在数据中心场景中的另一个用途,是在推理侧提供计算加速。 “AI技术很大一部分应用是在推理侧。FPGA通过其硬件灵活性、低延迟、低功耗 ...
作为FPGA行业的领导者之一,Altera在AI推理工作负载中通过将Agilex FPGA与AI Tensor Blocks以及Altera FPGA AI开发套件相融合,并使用TensorFlow、PyTorch等流行框架 ...