北京时间3月19日，英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕，这是时隔5年重回线下的会议，现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》，并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。
1、最新芯片技术Blackwell
黄仁勋在主题演讲中表示，英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术，英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面，Blackwell 的每芯片性能是其前身的 2.5 倍，在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连，速度是 Hopper 的两倍，并且可扩展至 576个GPU。 “加速计算已经达到临界点——通用计算已经失去动力，我们需要新的计算方式，来持续降低计算成本。加速计算普遍比通用计算速度更快！” 为了对全球人工智能基础设施进行大规模升级，黄仁勋推出了 NVIDIA Blackwell平台，满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。
据介绍，Blackwell GPU拥有2080亿个晶体管，而H100/H200有800亿个晶体管，采用台积电4NP工艺制程，可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。
新的芯片架构和技术将极大改善能耗。黄仁勋举例称，如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，跑90天只要消耗4兆瓦的电力。
据悉，在Blackwell产品正式发布之前，亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示，新芯片预计将于今年上市，但目前还未公布相关售价信息。
02. 推理微服务NIM：软件服务全面升级
黄仁勋指出，生成式人工智能已经彻底改变了软件开发的方式，不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM，该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署，用户可以在这里体验各种AI应用，企业可以在这里创建和部署自定义的AI应用。 黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人，旨在解决构建芯片时遇到的常见问题。“我们需要一个模拟引擎，以数字方式为机器人呈现世界，”他说，这就是 Omniverse。这些“微服务”将允许开发人员使用专有和自定义模型快速创建和部署“副驾驶”或人工智能助手。
此外，企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN)，人们现在将可以轻松将3D应用的OpenUSD（交互式通用场景描述）实时串流到Vision Pro混合头显中。
03.人形机器人： 下一波AI浪潮
英伟达发布了人形机器人基础模型“GR00T项目”，这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言，通过观察人类动作来模拟运动、学习走路，还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场，它用的就是英伟达Jetson芯片。
标签：Blackwell,伟达,GTC,AI,机器人,黄仁勋,芯片
From： https://www.cnblogs.com/ai2nv/p/18087765