No menu items!

    最新测试:Nvidia Blackwell训练性能跃进 所需数量更少

    辉达(Nvidia)最新款芯片Blackwell训练AI系统的性能有所进步,而且训练大型语言模型(LLM)所需要的芯片数量也大幅减少。(欧新社)

    最新测试数据显示显示,美国人工智能AI)芯片巨擘辉达(Nvidia)最新款芯片Blackwell训练AI系统的性能有所进步,而且训练大型语言模型(LLM)所需要的芯片数量也大幅减少。

    发布AI系统基准性能测试的非营利组织MLCommons,释出以辉达和超微(AMD)新芯片训练AI系统的结果,这也是该组织首度释出各款芯片在训练Llama 3.1 405B等LLM时的表现。Llama 3.1 405B是Meta释出的开源码模型,参数够大,能让外界窥见这些芯片在处理伊些最复杂训练任务时的表现。

    辉达及其伙伴迄今是唯一提交训练这类模型的数据业者,显示辉达每组Blackwell的处理速度最多比上一代的Hopper芯片快一倍。在辉达Blackwell表现最快的测试中,2496组Blackwell只花27分钟就完成训练测试,而辉达上一代芯片若要达成相同时间,需要三倍以上的芯片数量。

    热点

    发表评论