用GDDR助力AI芯片?Rambus做好准备!
2023-05-30
15:19:10
来源: 互联网
点击
纵观当前的IT产业发展现状我们可以看到,市场对于数据的需求是不断上涨的。哪怕是在一些已经增长比较放缓的市场,对数据的需求依旧处于上升的趋势。尤其是在人工智能的推动下,市场对数据的需求更是水涨船高。
“类似ChatGPT等人工智能相关的应用程序的增长速度以及对数据的需求更是非常庞大,光是ChatGPT-3就以1750 亿个参数进行训练的。这些人工智能应用的快速发展,也对处理器及带宽提出了更高的要求和标准。”Rambus IP 核产品营销高级总监 Frank Ferro说。
在这种需求的推动下,越来越多的企业开始专注于开发自己个性化、定制化的处理器产品,以更好地满足神经网络以及专属应用的需求。毫无疑问,在这样的推动下,算力的增长非常显著,但是带宽上的进步却无法改善,这就造成两者间的不匹配。换而言之,在现有高算力的基础之上,很多的GPU资源其实并没有得到充分的占用和利用。
尤其是在AI推理市场,这个现象尤为明显。
据Frank Ferro介绍,相较于训练层,在人工智能的推理层,对算力的需求会有大幅下降,但变得比较敏感的因素是成本和功耗。因为绝大多数推理的场景,都是用在终端设备、消费者电子产品或者边缘设备。
同时,我们无法回避的一个趋势就是AI的推理越来越多地向边缘设备上进行集成和转移。在这种情况下,我们就会把已经训练过的系统实现更快的处理方式,处理速度的提高是非常大的迁移到边缘端的优势。正是在这个变化的趋势过程中,GDDR6也开始发挥它本身的作用。
所谓GDDR,据维基百科介绍,是Graphics Double Data Rate的缩写,此为显存的一种,GDDR是为了设计高端显卡而特别设计的高性能DDR存储器规格,其有专属的工作频率、时脉、电压,因此与市面上标准的DDR存储器有所差异,与普通DDR内存不同且不能共享。一般它比主内存中使用的普通DDR存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。
正如上文所说,GDDR一开始其实是作为显存技术而发明的,但后续却逐渐走向了数据中心,按照Frank Ferro所说,这背后主要是因为GDDR在和DDR等技术相比时展现出了巨大的性能差异鸿沟,进而驱使大家做出了这样的选择。
“除了在带宽上有优势,GDDR在容量密度、速度以及功耗等因素的综合表现上也非常出色。”Frank Ferro强调。这也就是为何Rambus认为有着高带宽以及低时延特性的GDDR6能够帮助边缘端更好地处理数据的原因。因为在他们看来,该技术是在AI应用场景下比较合理的产品和选择,可以在成本和性能之间达成不错的平衡。在日前,Rambus更是宣布推出了新的里程碑式产品GDDR6 PHY,助力于提升GDDR6内存接口性能。
Rambus表示,公司的GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。
除了业界领先的24Gb/s性能外,Rambus GDDR6 PHY还经过了全方位的优化,可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率,依靠的是其在信号完整性和电源完整性(SI/PI)方面享誉世界的专业知识,这些知识可用于设计PHY、芯片封装和印刷电路板(PCB)。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合,提供完整的GDDR6内存接口子系统解决方案。
“Rambus提供的产品已经实现了PHY以及控制器的完整集成。在客户收到产品之后,可以直接对我们的子系统进行定制化应用”Frank Ferro强调。他进一步指出,除了提供封装和PCB参考设计之外,Rambus也会在内部有专门的信号完整度和边缘完整性的专家,来帮助客户在24G的复杂环境之下完成整个的设计工作,更好地去缩短产品的上市时间。
“Rambus提供非常灵活的方案和一站式服务。我们可以为客户提供PHY和控制器集成解决方案,这样对客户来说更加省心省事。我们直接用类似turnkey方式,将集成测试好的子系统交付给客户直接使用。”•Rambus 大中华区总经理苏雷补充说。
在Rambus看来,GDDR会被应用到图形处理器,以及自动驾驶、AI人工智能、5G基础架构等应用中去。而随着Rambus 24Gbps GDDR方案的推出,则为以上各个应用提供了更高级别的性能和更多的选择。
“类似ChatGPT等人工智能相关的应用程序的增长速度以及对数据的需求更是非常庞大,光是ChatGPT-3就以1750 亿个参数进行训练的。这些人工智能应用的快速发展,也对处理器及带宽提出了更高的要求和标准。”Rambus IP 核产品营销高级总监 Frank Ferro说。
在这种需求的推动下,越来越多的企业开始专注于开发自己个性化、定制化的处理器产品,以更好地满足神经网络以及专属应用的需求。毫无疑问,在这样的推动下,算力的增长非常显著,但是带宽上的进步却无法改善,这就造成两者间的不匹配。换而言之,在现有高算力的基础之上,很多的GPU资源其实并没有得到充分的占用和利用。
尤其是在AI推理市场,这个现象尤为明显。
据Frank Ferro介绍,相较于训练层,在人工智能的推理层,对算力的需求会有大幅下降,但变得比较敏感的因素是成本和功耗。因为绝大多数推理的场景,都是用在终端设备、消费者电子产品或者边缘设备。
同时,我们无法回避的一个趋势就是AI的推理越来越多地向边缘设备上进行集成和转移。在这种情况下,我们就会把已经训练过的系统实现更快的处理方式,处理速度的提高是非常大的迁移到边缘端的优势。正是在这个变化的趋势过程中,GDDR6也开始发挥它本身的作用。
所谓GDDR,据维基百科介绍,是Graphics Double Data Rate的缩写,此为显存的一种,GDDR是为了设计高端显卡而特别设计的高性能DDR存储器规格,其有专属的工作频率、时脉、电压,因此与市面上标准的DDR存储器有所差异,与普通DDR内存不同且不能共享。一般它比主内存中使用的普通DDR存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。
正如上文所说,GDDR一开始其实是作为显存技术而发明的,但后续却逐渐走向了数据中心,按照Frank Ferro所说,这背后主要是因为GDDR在和DDR等技术相比时展现出了巨大的性能差异鸿沟,进而驱使大家做出了这样的选择。
“除了在带宽上有优势,GDDR在容量密度、速度以及功耗等因素的综合表现上也非常出色。”Frank Ferro强调。这也就是为何Rambus认为有着高带宽以及低时延特性的GDDR6能够帮助边缘端更好地处理数据的原因。因为在他们看来,该技术是在AI应用场景下比较合理的产品和选择,可以在成本和性能之间达成不错的平衡。在日前,Rambus更是宣布推出了新的里程碑式产品GDDR6 PHY,助力于提升GDDR6内存接口性能。
Rambus表示,公司的GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。
除了业界领先的24Gb/s性能外,Rambus GDDR6 PHY还经过了全方位的优化,可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率,依靠的是其在信号完整性和电源完整性(SI/PI)方面享誉世界的专业知识,这些知识可用于设计PHY、芯片封装和印刷电路板(PCB)。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合,提供完整的GDDR6内存接口子系统解决方案。
“Rambus提供的产品已经实现了PHY以及控制器的完整集成。在客户收到产品之后,可以直接对我们的子系统进行定制化应用”Frank Ferro强调。他进一步指出,除了提供封装和PCB参考设计之外,Rambus也会在内部有专门的信号完整度和边缘完整性的专家,来帮助客户在24G的复杂环境之下完成整个的设计工作,更好地去缩短产品的上市时间。
“Rambus提供非常灵活的方案和一站式服务。我们可以为客户提供PHY和控制器集成解决方案,这样对客户来说更加省心省事。我们直接用类似turnkey方式,将集成测试好的子系统交付给客户直接使用。”•Rambus 大中华区总经理苏雷补充说。
在Rambus看来,GDDR会被应用到图形处理器,以及自动驾驶、AI人工智能、5G基础架构等应用中去。而随着Rambus 24Gbps GDDR方案的推出,则为以上各个应用提供了更高级别的性能和更多的选择。
责任编辑:sophie
相关文章
- 半导体行业观察
- 摩尔芯闻
最新新闻
热门文章 本日 七天 本月
- 1 共筑国产汽车芯片未来,中国汽车芯片联盟全体大会即将开启
- 2 国产EDA突破,关键一步
- 3 摩尔斯微电子推出突破性物联网连接平台 新型 MM6108-EKH05 评估套件助力开发人员创建下一代物联网解决方案
- 4 芯片老化测试插座,这家公司享誉盛名