NVIDIA的显卡一直备受追捧,特别是高端的H100加速卡。尽管售价超过25万元,但仍然供不应求。
技嘉G292-280双路至强3代2U机架式RTX4090/8卡
[经销商]京东商城
[产品售价]¥52999元
进入购买
这款显卡的性能也非常惊人,在最新的AI测试中刷新了记录,特别是在基于GPT-3的大语言模型训练任务中,创下了令人瞩目的11分钟的成绩。
机器学习及人工智能领域的开放产业联盟MLCommons发布了最新的MLPerf基准评测,其中包括8个负载测试,其中就包括对LLM大语言模型的测试,该模型使用了基于GPT-3的开源模型。这些测试对平台的AI性能提出了很高的要求。
参与测试的NVIDIA平台由896个Intel至强8462Y+处理器和3584个H100加速卡组成,是所有平台中唯一跑完所有测试的,而且刷新了记录。在关键的基于GPT-3的大语言模型训练任务中,H100平台只用了10.94分钟,可以对比的是Intel平台,由96个至强8380处理器和96个Habana Gaudi2 AI芯片构建的系统中,完成同样测试的时间为311.94分钟。