NVIDIA 携手 Google Cloud,合力加速 AI 开发

NVIDIA 和 Google Cloud 宣布开展新合作,帮助世界各地的新创公司加速建立生成式人工智慧(AI)应用程式和服务。

此合作於今日在美国拉斯维加斯举行的Google Cloud Next 24大会上宣布,将结合针对新创公司的NVIDIA Inception计画和Google for Startups Cloud计画,以扩大获得云端积分(cloud credit)、市场推广支援和技术专业知识,协助新创公司更快地为客户提供价值。

AI投资高成本,新创公司将能解除限制

NVIDIA指出,NVIDIA Inception是一项支援超过18,000家新创公司的全球计画,其合格会员将能够加速使用Google Cloud基础设施,并获得Google Cloud积分,专注於AI的企业最高可获得350,000美元的积分,并可用於NVIDIA DGX Cloud。

Google for Startups Cloud计画成员可以加入NVIDIA Inception计画,并获得技术专业知识、NVIDIA深度学习机构课程学分、NVIDIA硬体和软体等。Google for Startups Cloud计画的合格成员还可以参与NVIDIA Inception Capital Connect,让新创公司能够接触到对该领域感兴趣的创投公司。

参与这两个计画的高成长新兴软体制造商也可以获得加快入驻Google Cloud Marketplace、共同行销和产品加速支援。

此次合作是两家公司为帮助降低各种规模企业开发生成式AI应用相关成本和障碍而发布的一系列公告中的最新一项,新创公司尤其受到AI投资相关高成本的限制。

Google Cloud助使用者部署NVIDIA NeMo框架

此外,今年2月,Google DeepMind推出了Gemma,这是一系列最先进的开放式模型。 NVIDIA与Google合作,近期为Gemma在所有NVIDIA AI平台上进行了最佳化,有助於降低客户成本,并加快针对特定领域用例的创新工作。

两家公司的团队紧密合作,利用NVIDIA TensorRT-LLM这个用於最佳化大型语言模型推论的开源库来加速Gemma在NVIDIA GPU上运行时的效能,Gemma采用与建立Google DeepMind迄今为止功能最强大的模型Gemini相同的研究和技术。

NVIDIA NIM微服务是NVIDIA AI Enterprise软体平台的一部分,它与Google Kubernetes Engine(GKE)一起为开发AI驱动应用程式以及将最佳化的AI模型部署到生产环境提供了简化路径。NIM基於NVIDIA Triton推论伺服器和TensorRT-LLM等推论引擎构建,支援各种领先的AI模型,并提供无缝、可扩展的AI推论,以加速企业中的生成式AI部署。

包括Gemma 7B、RecurrentGemma和CodeGemma在内的Gemma系列模型可从NVIDIA API 目录中获得使用者可以透过浏览器进行试用,使用API端点进行原型开发,并使用NIM进行自主托管。

透过GKE和Google Cloud HPC工具套件,Google Cloud让使用者可以更轻松地在其平台上部署NVIDIA NeMo框架,这使得开发人员能够自动化和扩展生成式AI模型的训练和服务,使他们能够透过可客制化的蓝图快速部署完整的环境,加速开发流程。

NVIDIA最新GPU,将於明年初导入Google Cloud

为了进一步扩大NVIDIA加速的生成式AI运算的可用性,Google Cloud也宣布A3 Mega将於下个月全面上市。这些执行个体是其A3虚拟机器系列的扩展,由 NVIDIA H100 Tensor核心GPU驱动,新执行个体将使A3虚拟机器的GPU到GPU之间网路频宽增加一倍。

NVIDIA表示,以NVIDIA Blackwell平台为基础的NVIDIA最新GPU将於明年初导入Google Cloud,共有NVIDIA HGX B200和NVIDIA GB200 NVL72两种版本,前者专为最严苛的AI、资料分析和高效能运算工作负载而设计,後者是专为下一前沿、大规模、兆级参数的模型训练和即时推论而设计,也是一款多节点机架规模系统,将与Google Cloud第四代先进液冷系统结合。

NVIDIA上个月宣布,提供企业开发人员使用、针对生成式AI需求进行最佳化的AI平台NVIDIA DGX Cloud目前已可在由H100 GPU驱动的A3虚拟机器上使用;另外,搭载GB200 NVL72的DGX Cloud也将於2025年在Google Cloud上提供。

(本文由 MoneyDJ新闻 授权转载;首图来源:NVIDIA)

openvpn合法吗

About the Author

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论

You may also like these

0
希望看到您的想法,请您发表评论x