当前位置:首页>科技 >内容

英伟达推出用于加速计算和生成人工智能的新芯片

2023-08-10 09:52:24科技自然的汉堡

芯片制造商英伟达推出了一款新型人工智能芯片,旨在加速计算并处理世界上最复杂的生成人工智能工作负载,涵盖大型语言模型、推荐系统和矢量

芯片制造商英伟达推出了一款新型人工智能芯片,旨在加速计算并处理世界上最复杂的生成人工智能工作负载,涵盖大型语言模型、推荐系统和矢量数据库。

英伟达推出用于加速计算和生成人工智能的新芯片

该公司表示,下一代 GH200 Grace Hopper 平台基于新型 Grace Hopper Superchip,配备全球首款 HBM3e 处理器,将提供多种配置。

“新的 GH200 Grace Hopper Superchip 平台提供了卓越的内存技术和带宽,以提高吞吐量、连接 GPU 以毫不妥协地聚合性能的能力,以及可以在整个数据中心轻松部署的服务器设计,”Jensen Huang,英伟达创始人兼首席执行官在一份声明中表示。

新平台使用 Grace Hopper Superchip,它可以通过 Nvidia NVLink 与其他超级芯片连接,使它们能够共同部署用于生成 AI 的巨型模型。

该公司表示,这种高速、一致的技术使 GPU 能够完全访问 CPU 内存,在双配置时可提供总计 1.2TB 的快速内存。“HBM3e 内存比当前 HBM3 快 50%,提供总共 10TB/秒的组合带宽,使新平台能够运行比之前版本大 3.5 倍的模型,同时通过快 3 倍的内存带宽提高性能。”英伟达表示。

领先的系统制造商预计将在 2024 年第二季度交付基于该平台的系统。

声明本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们

Top