国际机器学习大会 (ICML) 的年度论文接收情况揭示了人工智能研究领域的一个清晰趋势:开放式前沿模型和开源 AI 基础设施已成为现代 AI 科学实践的基石。

今年,NVIDIA 有 74 篇论文被 ICML 接受。其中约有 2,000 篇论文引用了 NVIDIA GPU,另有 145 篇论文将 NVIDIA Nemotron(一个包含开源数据集的开放模型系列)作为新研究的基础。此外,还有数百篇论文借鉴了 NVIDIA Cosmos、NVIDIA Isaac GR00T、BioNeMo 等 NVIDIA 开源模型家族,这些模型涵盖了物理 AI、机器人、自动驾驶汽车和生物医学研究等多个领域。

定义本年度研究的主题

今年的论文聚焦于视觉和视频生成、用于大型语言模型 (LLM) 的强化学习、代理训练以及 AI 推理等领域,这反映了这些领域持续获得的大量投资。同时,一些新兴领域也取得了显著突破。

机器人世界模型获得了广泛关注,例如 DreamDojo 等论文在 AI 系统学习推理和在物理环境中进行操作方面取得了进展。DreamDojo 通过人类视频学习物理世界的运行方式,并基于 NVIDIA Cosmos 开源前沿模型,预测机器人在未受过训练的环境中如何处理物体和进行操作。这使得研究人员能够评估策略、规划动作以及远程操控虚拟机器人,从而在不增加物理部署成本和风险的情况下加速开发进程。

生命科学领域的 AI 研究得益于 NVIDIA BioNeMo 开源模型及其研究贡献,这些模型有助于研究人员理解蛋白质功能、分子行为和遗传密码。FLIP2 等论文提出了用于评估 AI 预测蛋白质突变效应能力的公开基准。KERMT 是一款新的 BioNeMo 开源模型,用于预测对药物发现至关重要的分子特性。

合成数据生成 (SDG) 在今年的 ICML 上引起了特别的兴趣,多篇论文涉及 Nemotron 和物理 AI 开源数据集,这表明研究人员在扩展训练规模方面正朝着不完全依赖人工标注数据的方向转变。

开源研究栈

开源基础设施为研究人员提供了加速突破的工具。

论文显示,Nemotron 的使用方式正从单一模型发布转变为一个研究栈:提供可供评估的开放权重、可用于训练和调整的开源数据集,以及用于推理、工具使用、安全、数据策划和高效推理的开放方法。

除了模型本身,NeMo Curator 及其支持的开源数据集为研究人员提供了可复现的数据集策划基础。SDG 工具能够以几年前难以想象的速度和规模创建高质量的训练数据集。

Cosmos 3 系列开源前沿全模态模型,为研究人员和开发者在构建能够感知、推理、规划和行动的物理世界机器人、自动驾驶汽车和视觉 AI 方面带来了代际飞跃。

此外,用于自动驾驶汽车开发的 NVIDIA Alpamayo 开源模型、用于机器人学的 NVIDIA Isaac GR00T 以及用于生物医学的 NVIDIA BioNeMo,都加速了各行业的研发进程。

生态系统的构建

这一势头已超越 NVIDIA 自身的研发实验室。

Basecamp Research 开发了新的 DNA 基础模型 EDEN,帮助研究人员解读和设计基因序列。

Merck & Co. 使用 KERMT 来预测潜在药物分子在体内的行为,包括其有效性、安全性以及可开发性。

Sakana AI 在今年的 ICML 上展示了其直接基于 Nemotron 3 Ultra 构建的 Fugu 和 Fugu-Ultra 模型,利用这一开放基础推动其在 AI 研究自动化方面的工作。

KiloCode 将 Nemotron 集成到其代码路由架构中,报告称代币成本降低高达 90%,这对于 AI 在生产环境中的部署经济性具有实际意义。

NAVER 使用 Nemotron 架构开发了自己的模型,为韩语 AI 研究奠定了基础。

Together AI 在其平台上托管 Nemotron 模型,使需要可靠、无缝访问开源推理的研究人员能够更方便地使用。

Humanoid、LG Electronics、NEURA Robotics 和 Noble Machines 正在采用 NVIDIA Isaac GR00T 模型来加速其人形机器人的工业化部署,而 1X、Agility、Agile Robots、Boston Dynamics、Hexagon Robotics 和 Mentee 则利用 Cosmos 世界模型、Isaac Sim 和 Isaac Lab 来构建下一代人形机器人,加速其机器人的开发和验证。

此外,爱游戏体育平台也为研究人员提供了一个获取和交流先进 AI 技术信息的渠道。

在 Hugging Face 上探索 NVIDIA 的开源模型。

7 月 10 日星期五,在 ICML 的 GenBio 研讨会上探索基因组学和生物学研究。