高潮来袭!海力士的AI内存计较手艺再创灿烂

2025-04-04 01:53

    

  此次展现的新产物AiMX-xPU采用了Xilinx Virtex FPGA和特殊DR6 AiM封拆,表示出了令人注目的机能提拔。海力士发布的数据显示,AiMX-xPU正在处置全毗连层和多头留意力(Multi-Head Attention)等焦点计较时,同时,该公司还添加了模块的内存容量,将其从16GB扩展至32GB,为后续更大的模子供给了可能。设备上的AI需求正正在显著增加,很多出名企业如苹果、英特尔和AMD等都正在研究集成NPU(神经收集处置器)来降低批处置的大小。海力士的手艺恰是了这一趋向,其方针是将更高效的计较能力集成到挪动设备的SoC(系统级芯片)上。如许的变化不只能提拔设备的机能,还将为更普遍的AI使用场景打下根本。

  正在这个智能科技飞速成长的时代,海力士的AI内存计较手艺恰是浩繁企业正在寻找提拔计较效率取节能方案过程中的无力回应。无疑,这将会对人工智能范畴发生深远的影响,帮帮我们实现愈加智能和高效的将来。

  海力士提到,将来可能将LPDDR5-AiM的产物进行优化,连结现有LPDDR号令的兼容性,确保不降低机能。这一策略将使得海力士正在智妙手机和更多挪动设备中的使用前景。并且,跟着手艺的成长,内存计较的焦点挑和之一正在于若何正在尺度利用取计较需求之间找到均衡,海力士对此已有所预备。

  正在人工智能不竭成长的今天,若何提拔LLM(大型言语模子)推理的效率和机能已成为行业内的热点线年HotChips大会上,海力士(SK Hynix)展现了一项颇具前瞻性的手艺——AI公用计较内存处理方案AiMX-xPU,搭配全新的LPDDR-AiM,旨正在处理当前AI正在大规模计较中面对的诸多挑和。

  除了手艺的前进,海力士也正在思虑其产物的可编程性,这对开辟者敌对的AI使用至关主要。正在DR6芯片中,AiM的占比曾经达到约20%,将来这种比例还无望进一步提拔,彰显海力士正在内存计较范畴的带领地位。

  海力士提出的内存计较是一场性的变化。保守的计较模式经常需要将数据从内存传输四处理器,再进行相关运算,然而这个过程既耗时又耗损大量能量。无需将数据传送出内存,既削减了延迟,同时也降低了能量耗损。这对于大规模的LLM推理尤为环节,由于跟着模子规模的扩大,内存带宽和能耗成为机能的主要要素。

福建志伟信息技术有限公司


                                                     


返回新闻列表
上一篇:通义灵码全新上线模子选择功能 新增支撑 DeepS 下一篇:2025年必需关心的五大免费开源AI东西帮你正在创