NVIDIA在2023亚马逊云科技re:Invent发布回顾：聚焦亮点

期间，NVIDIA 创始人兼首席执行官黄仁勋与亚马逊云科技首席执行官 Adam Selipsky 共同登台，向大众展示了这次发布的新内容，其中蕴含着多个创新的亮点。接下来，请跟随本文一同探索这些新动向。

▶亚马逊云科技与 NVIDIA 宣布开展战略合作，为生成式 AI 提供全新超级计算基础架构、软件和服务

▶NVIDIA 通过企业级生成式 AI 微服务为聊天机器人、AI 助手和摘要工具带来商业智能

▶NVIDIA BioNeMo 在亚马逊云科技上线，实现用于药物研发的生成式 AI

▶NVIDIA 为部分大型亚马逊 Titan 基础模型提供训练支持

亚马逊云科技与 NVIDIA 宣布开展战略合作，为生成式 AI 提供

全新超级计算基础架构、软件和服务

亚马逊云科技（AWS）和 NVIDIA 宣布扩大战略合作，共同提供最先进的基础架构、软件和服务，推进客户的生成式 AI 创新。

NVIDIA 与亚马逊云科技将集两家公司技术之大成，无论是采用 NVIDIA 最新多节点系统的新一代 GPU、CPU 和 AI 软件，还是 AWS Nitro System 高级虚拟化与安全功能、Elastic Fabric Adapter（EFA）互连接口和可扩展性 UltraCluster，均为训练基础模型和构建生成式 AI 应用的理想选择。

这一扩展合作建立在双方长期合作关系的基础上。两家公司通过为早期的机器学习（ML）先行者提供推进这些技术发展所需的计算性能，进而推动了生成式 AI 时代的发展。

NVIDIA 创始人兼首席执行官黄仁勋表示：“生成式 AI 正在深入改变云工作负载，并将加速计算作为多样化内容生成的基础。NVIDIA 和亚马逊云科技的共同使命是为每一位客户提供经济高效的前沿生成式 AI 技术。在这一使命的驱动下，NVIDIA 和亚马逊云科技正在开展覆盖整个计算堆栈的合作，包括 AI 基础架构、加速库、基础模型以及生成式 AI 服务。”

亚马逊云科技与 NVIDIA 宣布开展战略合作，为生成式 AI 提供全新超级计算基础架构、软件和服务

NVIDIA 通过企业级生成式 AI 微服务

为聊天机器人、AI 助手和摘要工具

带来商业智能

NVIDIA 宣布推出一项生成式 AI 微服务，支持企业将自定义大语言模型与企业数据相连接，使其 AI 应用能够提供高度准确的响应。

NVIDIA NeMo™ Retriever 是 NVIDIA NeMo（一个用于构建、自定义和部署生成式 AI 模型的框架和工具系列）的一项全新服务，通过企业级检索增强生成（RAG）功能，帮助组织加强其生成式 AI 应用。

作为一项语义检索微服务，NeMo Retriever 借助经 NVIDIA 优化的算法，帮助生成式 AI 应用作出更加准确的回答。使用该微服务的开发者，可以将其 AI 应用与位于各个云和数据中心的业务数据相连通。该服务为 AI 代工添加了 NVIDIA 优化的 RAG 功能，并被整合到亚马逊云科技 Marketplace 上的 NVIDIA AI Enterprise 软件平台中。

NVIDIA 创始人兼首席执行官黄仁勋表示：“具有 RAG 功能的生成式 AI 应用是企业的下一个杀手级应用。借助 NVIDIA NeMo Retriever，开发者可以创建自定义生成式 AI 聊天机器人、AI 助手和摘要工具。它们能够访问企业的业务数据，通过准确且有价值的生成式 AI 智能来提高生产力。”

NVIDIA 通过企业级生成式 AI 微服务为聊天机器人、AI 助手和摘要工具带来商业智能

NVIDIA BioNeMo 在亚马逊云科技上线，

实现用于药物研发的生成式 AI

制药和科技生物头部企业的研究与开发人员现在可以通过亚马逊云科技轻松部署 NVIDIA Clara 软件和服务，以加快医疗研究进程。

这让使用 AWS 云资源的医疗和生命科学开发人员能够灵活地集成 NVIDIA 加速的产品，比如用于药物发现的生成式 AI 平台 NVIDIA BioNeMo 等。

该平台即将登陆亚马逊云科技上的 NVIDIA DGX 云，目前可通过高性能计算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 机器学习服务使用。

NVIDIA BioNeMo 在亚马逊云科技上线，实现用于药物研发的生成式 AI

NVIDIA 为部分大型亚马逊 Titan 基础模型

提供训练支持

亚马逊云科技有一支由资深科学家和开发者组成的团队，致力于为 Amazon Bedrock（一项用于基础模型的生成式 AI 服务）创建 Amazon Titan 基础模型。该团队在过去几个月中一直在使用 NVIDIA NeMo。

NeMo 的并行技术可实现高效的大规模 LLM 训练。当与亚马逊云科技的 Elastic Fabric Adapter（EFA）配合使用时，团队可以将 LLM 扩展到多颗 GPU 上，从而加快训练速度。

EFA 为亚马逊云科技客户提供了一个 UltraCluster 联网基础设施，可直接连接 1 万多颗 GPU，并使用 NVIDIA GPUDirect 绕过操作系统和 CPU。

这一结合使亚马逊云科技的科学家们能够提供出色的模型质量，这是只依靠其他数据并行方法无法大规模实现的。

NVIDIA 为部分大型亚马逊 Titan 基础模型提供训练支持