NVIDIA H100 Tensor核心GPU在MLPerf人工智能(AI)基准检验刚出现,就在各种推论作业的负载下创下了世界纪录,其效率比上一代更高GPU高达4.5倍。测试结果显示,对于先进AI模型有最高效能需求的用户来说,Hopper是首选产品。
南皇电子专注于整合中国优质电子Xilinx代理商国内领先的现货资源,提供合理的行业价格、战略备货、快速交付控制Xilinx芯片供应商,轻松满足您的需求Xilinx芯片采购需求.
NVIDIA Hopper在MLPerf人工智能推论基准检验首次登台,创新世界纪录
此外,NVIDIA A100 Tensor核心GPU及用于开发AI机器人的NVIDIA Jetson AGX Orin所有模块,如图像和语音识别、自然语言处理和推荐系统MLPerf在测试项目中,整体推论表现继续领先群雄。
亦称为Hopper的H100,在本轮测试的六个神经网络中提高单个加速器的效率标准。在独立服务器和脱机的情况下,在传输量和速度上表现出领先优势。NVIDIA Hopper架构效率较高NVIDIA Ampere架构的GPU高4.5倍,在MLPerf在测试结果中保持全面领先地位。
Hopper在热门的BERT自然语言处理模型的出色表现部分归功于其Transformer引擎。BERT自然语言处理模型是MLPerf AI模型中规模最大、对效能要求最高的模型之一。这些推论基准检验是H100 GPU本产品将于今年年底上市。H100 GPU将参与MLPerf未来的训练测试。
各大云服务供应商和系统制造商已采用NVIDIA A100 GPU,在最新的AI主流效率在推论测试中仍处于领先地位。在数据中心和边缘运算的类别和情况下,A100 GPU比其他参与者提交的测试结果更突出。A100在六月的MLPerf在训练基准测试中,一马领先,展示整个处理AI优秀的工作流程能力。
A100 GPU2020年7月首次参加MLPerf随着基准检查NVIDIA AI软件不断改进,效率提高了6倍。NVIDIA AI它是数据中心和边缘运算中唯一能够运行的一切MLPerf推断作业负载和情境的平台。
NVIDIA GPU能够在各大AI模型提供顶级效率,让用户成为真正的赢家。它们通常用于现实世界中的各种神经网络。AI应用程序可能需要了解用户的口头要求,对图像进行分类,提出建议,然后用听起来像人的声音做出回应。每一步都应该使用不同类型的AI模型。
MLPerf这些都包括基准检AI模型等热门模型AI操作负载和情境,如计算机视觉、自然语言处理、推荐系统、语音识别等。这些测试确保用户能够获得可靠和灵活的部署效率。
MLPerf基准检验是透明和客观的,因此用户依靠这些测试结果来做出明智的采购决策。亚马逊(Amazon)、Arm、百度(Baidu)、Google、哈佛大学(Harvard)、英特尔(Intel)、Meta、微软(Microsoft)、史丹佛大学(Stanford)多伦多大学(University of Toronto)很多业者和学术单位都是MLPerf表达支持。
NVIDIA Orin运行MLPerf边缘操作类别的每个基准测试都比其他低功耗系统的单芯片更好。与4月份首次参与相比MLPerf本次测试能效提高50%。在前一轮测试中,Orin与上一代相比,Jetson AGX Xavier模块快5倍,平均能效高2倍。
Orin将NVIDIA Ampere架构GPU与强大的Arm CPU集成到单个芯片中的核心丛。可用于开发机器人和自主系统NVIDIA Jetson AGX Orin在开发工具包和生产模块中获得并支持完整性NVIDIA AI软件堆栈包括自动驾驶汽车(NVIDIA Hyperion)、医疗设备(Clara Holoscan)与机器人(Isaac)多平台。
从MLPerf可以看到测试结果NVIDIA AI获得业内机器学习生态系最广泛的支持。在这一轮测试中,超过70个测试结果是通过NVIDIA平台运行,如微软Azure即在其云服务中提交NVIDIA AI的成果。
此外,由华硕(ASUS)、戴尔科技集团(Dell Technologies)、富士通(Fujitsu)、技嘉(GIGABYTE)、慧与科技(Hewlett Packard Enterprise)、联想(Lenovo)及美超威(Supermicro)十家系统制造商推出的19款NVIDIA本次测试还参与了认证系统。
它们的测试结果无论是在云中还是在用户自己的数据中心服务器上,NVIDIA AI为用户提供极好的效率。NVIDIA合作伙伴知道,MLPerf对客户进行评估AI因此,平台和供应商的宝贵工具将加入测试。最新一轮的结果显示,他们现在为用户提供的出色效率将伴随着NVIDIA平台的发展将继续加强。
本次测试中使用的各种软件公开MLPerf每个人都可以在资源库中取得这些世界级的成就。我们不断将优化结果纳入NGC(GPU加速软件目录)容器。用于本次提交AI优化推论测试结果NVIDIA TensorRT也能在NGC中取得。
Xilinx中国海量优质的信息资源、行业资讯、最新开发方案等资讯信息平台。