新闻详情

AICG大模型浪潮带来AI部署挑战,英伟达发布全新GPU与工作站

发表时间:2023-08-11 16:09

英伟达于8月9日发布了全新的NVIDIA L40S GPU,能够帮助机构企业和数据中心增强生成式AI、图形和视频处理能力,满足不断增长的算力需求。并宣布,英伟达与 BOXX、戴尔科技、惠普和联想等工作站制造商合作,打造了一系列全新的高性能 RTX 工作站。


最新发布的 RTX 工作站提供多达四个英伟达 RTX 6000 Ada GPU,每个 GPU 配备 48GB 内存。单个桌面工作站可提供高达 5828 TFLOPS 的性能和 192GB 的 GPU 内存。


图片

根据用户需求,这些系统可配置 Nvidia AI Enterprise 或 Omniverse Enterprise 软件,为各种要求苛刻的生成式 AI 和图形密集型工作负载提供必要的动力。这些新发布预计将于秋季推出。


新发布的 Nvidia AI Enterprise 4.0 引入了 Nvidia NeMo,这是一个用于构建和定制生成式 AI 基础模型的端到端框架。它还包括用于数据科学的 Nvidia Rapids 库,并为常见企业 AI 用例(例如推荐器、虚拟助理和网络安全解决方案)提供框架、预训练模型和工具。


作为发布会的一部分,英伟达还推出了三款全新的桌面工作站 Ada Generation GPU:Nvidia RTX 5000、RTX 4500 和 RTX 4000。


全新 NVIDIA RTX 5000、RTX 4500 和 RTX 4000 桌面 GPU 采用最新的 NVIDIA Ada Lovelace 架构技术。其中包括增强的 NVIDIA CUDA 核心(用于增强单精度浮点吞吐量)、第三代 RT 核心(用于改进光线追踪功能)以及第四代 Tensor 核心(用于更快的 AI 训练性能)。


图片

Nvidia RTX 5000 Ada 一代 GPU。


这几款 GPU 还支持 DLSS 3,为实时图形提供更高水平的真实感和交互性,以及更大的 GPU 内存选项,用于大型 3D 模型、渲染图像、模拟和 AI 数据集的无差错计算。此外,它们还提供扩展现实功能,以满足创建高性能 AR、VR 和混合现实内容的需求。


因为配备了第三代 RT Core,这几款 GPU 的吞吐量高达上一代的 2 倍,使用户能够实时处理更大、保真度更高的图像,将应用于艺术创作和设计生产。


RTX 5000 GPU 已经上市,并由 HP 和分销合作伙伴发货,而 RTX 4500 和 RTX 4000 GPU 将于秋季从 BOXX、Dell Technologies、HP及其各自的分销合作伙伴上市。


英伟达还推出了配备 Nvidia L40S GPU 的 Nvidia OVX 服务器,用于生成式 AI 和数字化时代的开发和内容创作。


每台 Nvidia OVX 服务器将支持多达 8 个 Nvidia L40S GPU,每个 GPU 配备 48GB 内存。L40S GPU 由 Nvidia Ada Lovelace GPU 架构提供支持,拥有第四代张量核心和 FP8 Transformer 引擎,可实现超过 1.45 petaflops 的张量处理能力。


图片

英伟达全新的L40S GPU加速卡是L40的升级版,同样配备48GB GDDR6 ECC显存。这款GPU基于Ada Lovelace架构,包含第四代Tensor Core以及FP8转换引擎,运算速度可达1.45 PFlops。L40S GPU内置142个第三代RT核心,能够实现212 TFLOPS光追性能。此外,L40S GPU包含18176个CUDA核心,可提供近5倍的单精度浮点运算(FP32)性能(91.6 TFlops),几乎是英伟达A100 GPU的5倍。需要注意的是,L40S与上一代一样不支持NVLink。

图片


官方表示,对于具有数十亿个参数和多种数据模式(文本、视频)的复杂AI工作负载,L40S的生成式AI推理性能是A100的1.2倍,训练性能是A100的1.7倍。



图片



英伟达L40S GPU将在今年秋季上市,包括华硕、戴尔、技嘉、HPE、联想、QCT、美超微在内的厂商,将很快提供搭载英伟达L40S GPU的OVX系统。这些服务器将帮助业界推动人工智能的发展和应用。


图片

关于慧维智能

    慧维智能医疗科技有限公司成立于2019年6月,专业从事智能医疗产品的研发、生产与销售。我们的核心成员,均来自全球顶尖的科研机构和世界五百强企业。慧维智能以在“人工智能”和“边缘计算”领域的自主核心技术为驱动力,致力于为全球医疗机构提供“高水准、低成本、好体验”的医疗产品与服务,最大程度地帮助医生提高诊疗水平与效率。