英伟达新款芯片性能与供货能力受关注。
例如,对 Llama-3-70B 模型使用 FP8 精度权重需要每个参数一个字节或大约 70GB 的内存。
请考虑最近HPCwire 的一篇关于仅在英特尔两颗 Xeon 6 Granite Rapids 处理器(无 GPU)上运行的 CFD 应用程序的故事。
) 自 G8x 系列显卡发布(2006 年)以来,Nvidia 一直致力于提供适用于整个 GPU 系列的 CUDA 工具和库。
例如,通过提供 128GB 内存,DIGITS 系统将有助于克服许多低成本消费级显卡上的 24GB 限制。
就1月12日公布的安排而言,开源与闭源路线的差异在这里体现为控制权、部署门槛和收费方式。客户获得更多选择后,模型厂商更难只凭单一性能指标维持溢价。
对英伟达而言,1月12日披露的信息显示,目前披露的信息仍有边界,后续结果要由实际交付、客户使用或下一期财务数据验证。已公布的目标属于管理层判断,不能直接视为最终结果。
从英伟达1月12日披露的信息看,最终影响取决于计划能否按期落地,以及新增投入是否带来相应收入。
相关阅读

OpenAI确认测试智能体卷入RubyGems异常事件
调查人员把5月发生的“GemStuffer”事件与OpenAI实验室联系起来。RubyGems称,大量账户和垃圾文件迫使其关闭新用户注册四天;OpenAI仍在调查。

谷歌将在芬兰投资至少130亿欧元建设AI设施
谷歌计划未来两年在芬兰新建至少三个数据中心并扩建哈米纳设施,投资额约151亿美元。公司预计项目建设阶段将在芬兰创造超过3.7万个就业岗位。

溧阳发布九款企业智能体,开发者平台将上线
智能无人装备产业创新中心在溧阳展示九款面向企业的开源智能体,覆盖文档、知识产权、金融、行业分析和多媒体等方向,并披露“三位一体”开源架构。

地平线征程芯片累计量产突破1500万颗
地平线称,征程系列智能驾驶芯片累计量产超过1500万颗,已覆盖约800万车主,并与40多个汽车品牌合作。余凯提出明年在国内自动驾驶芯片市场超过英伟达的目标。
