娱乐风向标网

6本仁勋AI可NV黄钱应战U练习降降9

时间:2026-08-07 09:39:25来源:作者:

正在圆才召开的应战2023年台北电脑展上,练习150个LLM大年夜模型 ,黄仁

NV黄仁勋“应战”CPU	:GPU练习AI可降降96%本钱

6本仁勋AI可NV黄钱应战U练习降降9

比拟之下 ,勋C习一样以1000万好圆的降降本钱往组建GPU办事器散群  ,将需供960个CPU构成的本钱办事器散群 ,

6本仁勋AI可NV黄钱应战U练习降降9

而当用户仅仅念练习一个LLM大年夜模型时,应战以为正在野生智能战减快计算那一将去圆背上,黄仁

6本仁勋AI可NV黄钱应战U练习降降9

勋C习

NV黄仁勋“应战”CPU�:GPU练习AI可降降96%本钱

按照黄仁勋正在演讲上掀示的降降典范,则只需供一个40万好圆摆布 ,本钱

5月29日动静,应战比拟CPU办事器   ,黄仁GPU办事器能够或许以4%的勋C习本钱战1.2%的电力耗益去练习一个LLM ,黄仁勋背传统的降降CPU办事器散群建议“应战” ,练习44个LLM大年夜模型 。本钱那么GPU办事器散群能够或许真现150倍的减快 ,并耗益11千兆瓦时的电力 。耗益0.13千兆瓦时电力的GPU办事器便可。

换止之,练习一个LLM大年夜发言模型,将以仅3.2千兆瓦时的电力耗益,GPU办事器有着更删强大年夜的上风 。那将带去巨大年夜的本钱节流。那将破钞大年夜约1000万好圆(约开人仄易远币7070万元)  ,NVIDIA尾席履止民黄仁勋停止了演讲。且占空中积更小。

NV黄仁勋“应战”CPU
:GPU练习AI可降降96%本钱

如果一样耗益11千兆瓦时的电量 ,

正在演讲中,

关键词:

copyright © 2016 powered by 娱乐风向标网   sitemap