万亿参数联盟（TPC）：推进科学发现的人工智能模型

11 月 16 日消息，业内领先的科研机构、美国国家超级计算中心和诸多 AI 领域龙头公司，近日联合组建了万亿参数联盟（Trillion Parameter Consortium，简称 TPC）。

由 DALL-E 3 生成

IT之家从报道中获悉，TPC 联盟由来自全球实验室、科研机构、学术界和工业界的科学家组成，目标是共同推进用于科学发现的 AI 模型，特别关注一万亿或更多参数的巨型模型。

TPC 联盟目前已经正在开发可扩展模型架构和训练策略，组织和整理用于模型训练的科学数据，为当前和未来的百万兆次级计算平台优化 AI 库。

TPC 旨在创建一个开放的研究人员社区，为科学和工程问题开发大规模生成式 AI 模型，特别是，将启动联合项目，以避免重复工作并共享方法、途径、工具、知识和工作流程。通过这种方式，该联盟希望最大限度地发挥这些项目对更广泛的人工智能和科学界的影响。

TPC 还旨在创建一个由资源、数据和专业知识组成的全球网络。自成立以来，该联盟已经建立了许多工作组，以解决构建大规模人工智能模型的复杂性。

培训所需的百万兆次级计算资源将由美国能源部 （DOE） 的几个国家实验室以及日本、欧洲和其他国家 / 地区的几个 TPC 创始合作伙伴提供。即使有这些资源，培训也需要几个月的时间。

美国能源部阿贡国家实验室计算、环境和生命科学副主任、芝加哥大学计算机科学教授里克・史蒂文斯（Rick

Stevens）说：“在我们的实验室和世界各地越来越多的合作机构中，团队开始开发用于科学用途的前沿人工智能模型，并正在准备大量以前未开发的科学数据进行训练。