跳到正文
硅脉动SiliconMai

英伟达新款芯片性能与供货能力受关注

英伟达新款芯片性能与供货能力受关注。例如,对 Llama-3-70B 模型使用 FP8 精度权重需要每个参数一个字节或大约 70GB 的内存。

硅脉动
英伟达资料图

英伟达新款芯片性能与供货能力受关注。

例如,对 Llama-3-70B 模型使用 FP8 精度权重需要每个参数一个字节或大约 70GB 的内存。

请考虑最近HPCwire 的一篇关于仅在英特尔两颗 Xeon 6 Granite Rapids 处理器(无 GPU)上运行的 CFD 应用程序的故事。

) 自 G8x 系列显卡发布(2006 年)以来,Nvidia 一直致力于提供适用于整个 GPU 系列的 CUDA 工具和库。

例如,通过提供 128GB 内存,DIGITS 系统将有助于克服许多低成本消费级显卡上的 24GB 限制。

就1月12日公布的安排而言,开源与闭源路线的差异在这里体现为控制权、部署门槛和收费方式。客户获得更多选择后,模型厂商更难只凭单一性能指标维持溢价。

对英伟达而言,1月12日披露的信息显示,目前披露的信息仍有边界,后续结果要由实际交付、客户使用或下一期财务数据验证。已公布的目标属于管理层判断,不能直接视为最终结果。

从英伟达1月12日披露的信息看,最终影响取决于计划能否按期落地,以及新增投入是否带来相应收入。