此外,英伟达正在打造自己的基于DGX GH200的
大型AI超级计算机NVIDIA Helios
,以支持其研究和开发团队的工作。它采用4个DGX GH200系统,每个都将与英伟达Quantum-2 InfiniBand网络连接,带宽高达400Gb/s,以提高训练大型AI模型的数据吞吐量。Helios将包括1024颗Grace Hopper超级芯片,将于今年年底上线。
DGX GH200超级计算机包含英伟达软件,可为AI和数据分析工作负载提供全套解决方案。英伟达Base Command软件提供AI工作流管理、企业级集群管理、加速计算、存储和网络基础设施的库,以及为运行AI工作负载而优化的系统软件。英伟达AI平台的软件层AI Enterprise提供了100多个框架、预训练模型和开发工具,以简化AI生产的开发和部署。
永擎(ASRock Rack)、华硕(ASUS)、技嘉(GIGABYTE)、和硕(Pegatron)、QCT、超微(Supermicro)等将采用MGX构建下一代加速计算机,可将开发成本削减多达3/4,并将开发时间缩短
2/3
至仅需
6个月
。
有了MGX,制造商可以从为其服务器机箱加速计算优化的基本系统架构开始,然后选择GPU、DPU和CPU。AI训练和5G等多项任务可以在一台机器上处理,升级到下一代硬件也很方便。MGX还能轻松集成到云和企业数据中心中。
不同于英伟达HGX,MGX提供了与英伟达产品灵活的多代兼容性,以确保系统构建者可以重用现有设计并轻松采用下一代产品。同样MGX也提供英伟达完整软件堆栈的支持。
QCT和超微将率先进入市场,MGX的设计将于8月面世。超微今日公布的ARS-221GL-NR系统将采用Grace CPU,而QCT的S74G-2U系统将采用Grace Hopper。
黄仁勋还宣布,英伟达与日本电信巨头软银合作,在日本建立一个分布式数据中心网络。它将在一个共同的云平台上提供5G服务和生成式AI应用。
这是一项定制AI模型代工服务,中间件、工具和游戏开发者可以使用它来构建和部署定制的语音、对话和动画AI模型。它能赋予非玩家角色(NPC)更智能且不断进化的对话技能,使其能够以栩栩如生的个性来回答玩家的问题。
基于英伟达Omniverse,ACE for Games为语音、对话和角色动画提供了优化的AI基础模型,包括:
英伟达NeMo
,使用专有数据,构建、定制和部署语言模型;
英伟达Riva
,用于自动语音识别和文本转语音,以实现实时语音对话;
英伟达Omniverse Audio2Face
,用于即时创建游戏角色的表情动画,以匹配任何语音轨道。
开发人员可以集成整个NVIDIA ACE for Games解决方案,也可以只使用他们需要的组件。
英伟达与专注于为虚拟游戏世界开发先进对话AI的英伟达Inception初创公司Convai合作,展示了如何快速用英伟达ACE for Games来构建游戏NPU。在一款名为Kairos的演示中,玩家与拉面店的供应商Jin互动。基于生成式AI,Jin虽是个NPC,却能拟真地回答自然语言问题,且回答内容与叙述的背景故事一致。它是在虚幻引擎5中使用最新光线追踪功能和英伟达DLSS渲染的。
支持英伟达ACE for Games的神经网络针对不同的功能进行了优化,有不同的大小、性能和质量折中。ACE for Games代工服务将帮助开发者为其游戏重新调整模型,然后通过英伟达DGX Cloud、GeForce RTX PC或本地部署进行实时推理。这些模型针对延迟进行了优化,有助于优化游戏的沉浸式交互体验。多家游戏开发商和初创公司已采用英伟达的生成式AI技术。
黄仁勋还介绍了英伟达和微软如何在生成式AI时代合作推动Windows PC的创新。
新的和增强的工具、框架和驱动程序使PC开发者更容易开发和部署AI。例如,用于优化和部署GPU加速AI模型和新图形驱动程序的微软Olive工具链将提高带有英伟达GPU的Windows PC上的DirectML性能。此次合作将增强和扩展搭载RTX GPU的1亿台PC的安装基础,可提升400多个AI加速的Windows应用程序和游戏的性能。
06
英伟达与WPP合作
为数字广告打造生成式AI内容引擎
生成式AI也正为价值7000亿美元的数字广告行业带来了新机遇。基于NVIDIA AI和Omniverse的突破性引擎将来自领先软件制造商的创意3D和AI工具连接在一起,以大规模革新品牌内容和体验。
全球最大的营销服务机构英国WPP集团正与英伟达合作,在Omniverse Cloud上构建首个生成式AI内容引擎,使创意团队能够更快、更高效、更大规模地制作高质量的商业内容,同时与客户的品牌保持完全一致。
新引擎连接了3D设计、制造和创意供应链工具的生态系统,包括来自
Adobe
和Getty Images的工具。在演讲中,黄仁勋展示了创意团队如何将他们的3D设计工具连接起来,在Omniverse中构建客户产品的数字孪生。生成式AI的内容经过负责任的数据来源训练,并与英伟达Picasso一起构建,将使其能快速生成虚拟集。然后WPP客户可使用完整的场景生成大量广告、视频和3D体验,供全球市场和用户在任何网络设备上体验。
WPP首席执行官马克·里德(Mark Read)说,生成式AI正以惊人的速度改变营销世界,WPP与英伟达合作所提供的独特竞争优势是当今市场上其他客户无法获得的,这项新技术将改变品牌为商业用途创建内容的方式,并巩固WPP在为世界顶级品牌创造性应用AI方面的行业领导者地位。
07
电子制造商采用生成式AI
实现数字化的智能工厂
全球电子制造商正在使用一种全新的综合参考工作流程推进其工业数字化工作,在广泛合作伙伴网络的支持下,该工作流程结合了英伟达用于生成式AI、3D协作、仿真和自主机器的技术,可帮助制造商规划、构建、运营和优化其工厂。
这些技术包括:
英伟达Omniverse
,它连接了顶级计算机辅助设计应用以及生成式AI的API和前沿框架;用于模拟和测试机器人的
英伟达Isaac Sim
应用程序;
英伟达Metropolis视觉AI框架
,用于自动光学检测。
“世界上最大的工业生产物理产品。先用数字化构建它们可节省大量成本。”他谈道,英伟达使电子制造商能轻松构建和运营虚拟工厂,将其制造和检验工作流程数字化,并大大提高质量和安全,减少代价高昂的最后一刻意外和延误。
黄仁勋现场展示了一个完全数字化的智能工厂的演示。
富士康
工业互联网、宜鼎国际、和硕、广达和纬创正在使用新的参考工作流程,以优化他们的工作单元和装配线运营,同时降低生产成本,具体用例包括电路板质保检测点自动化、光学检测自动化、建设虚拟工厂、模拟协作机器人、构建及运营数字孪生等。
英伟达正在与几家领先的制造工具和服务提供商合作,构建一个全栈、单一的架构,每个架构都适用于每个工作流程级别。
在系统层面,英伟达IGX Orin提供了一个一体化的边缘AI平台,将工业级硬件与企业级软件和支持相结合。IGX满足边缘计算独特的耐用性和低功耗要求,同时提供开发和运行AI应用程序所需的高性能。其制造商合作伙伴们正在开发IGX驱动的系统,以服务于工业和医疗市场。
在平台层面,Omniverse连接了世界领先的3D、模拟和生成式AI提供商。团队可在他们最喜欢的应用程序之间构建互操作性,比如来自Adobe、Autodesk和Siemens的应用程序。