新闻详情

NVIDIA 首席科学家 Bill Dally 介绍了有望通过ARM,将AI算力提升至新高的研究

发表时间:2023-09-08 09:51

图片


NVIDIA 首席科学家兼研究高级副总裁 Bill Dally 近日在面向处理器和系统架构师的年度活动—— Hot Chips 上的主题演讲中表示,硬件性能的巨大提升催生了生成式 AI,并为未来的ARM加速提供了丰富的思路,以推动机器学习能力再创新高。


图片

ARM引领服务器 CPU,科技行业新风口


曾经,英伟达收购ARM的时候,英伟达创始人CEO黄仁勋在电话发布会上向记者回应了这项收购称这是“一生仅有的机会”。可见ARM是英伟达以及整个科技行业的未来发展方向。本次Bill Dally 也介绍了ARM方面的新进展。


近日,Bill Dally 演讲中谈到了 NVIDIA Grace CPU 超级芯片的性能更新。该超级芯片是首款采用 Neoverse V2 核心的处理器。测试表明,在相同功率下,Grace 系统在各种 CPU 工作负载下的吞吐量比当前的 x86 服务器高出两倍。此外,Arm 的 SystemReady 计划证明了 Grace 系统无需任何更改就能运行现有的 Arm 操作系统和应用。

图片

Grace CPU 让数据中心运营商能够选择是提高性能还是降低功率。


Grace CPU 使用一种超快速结构,在每个裸片中连接 72 颗 Arm Neoverse V2 核心,然后使用某个版本的 NVLink 将其中两个裸片连接到同一封装中,实现了 900 GB/s 的带宽。它是首款使用服务器级 LPDDR5X 内存的数据中心 CPU,在保持成本基本不变的情况下将内存带宽提升 50% 以上,而功率仅仅是普通服务器内存的八分之一。


可见ARM技术,必将是英伟达以及整个科技行业的新的风口。


ARM技术简介


说到ARM,就不得不提苹果,全球首次推出基于ARM架构的芯片M1,凭借优秀的能效比以及足够强大的硬件性能将X86笔记本“虐”了个遍。


ARM架构和X86架构发展方向并不相同,前者小而精,后者大而全。X86发展数十年市售最为复杂指令集,而ARM是精简指令集。可见X86在指令集方面更加复杂,处理器能力更强,性能更高,对应的功耗也会更高。对于需要强大性能且不在乎功耗的计算机而言,X86指令集能够提供强大的性能、更加全面的指令集以及复杂的PCB设计,可以实现更高工作效率,几乎就是强大和全面的代名词。ARM架构则刚好相反,移动端设备异常关注功耗问题,所以只需要提供够用的指令集,对于复杂的操作,ARM通常采用指令集组合、软解码等的方式来完成。在X86架构的PC电脑中,各个硬件之间想要进行通信就需要通过计算机总线,CPU作为计算机的大脑往往需要统筹所有运算,CPU如果需要读取内存中的一组数据,那么信号首先就需要经过北桥,再经过前端总线才能写入CPU。想要读取显存中的数据,信号还要从显卡先到内存才能到达CPU。极大降低了效率。在某些关键领域,这样反复且复杂的X86架构的缺陷是“致命”的,尤其是性命攸关的医疗行业。


而ARM的优势主要聚焦在设备体积小、低功耗、高性能、低成本,与慧维智能产品的产品定位高度吻合。


紧跟英伟达技术线,带来AI医疗好体验


慧维智能作为国内最早和英伟达战略合作的AI医疗企业,一直秉承“高水准、低成本、好体验”的服务理念,合作三年多以来紧跟英伟达技术线,目前深度开发X86与ARM芯片技术架构领域。


“ARM”+“英伟达”或可进一步优化动态医学影像AI辅助检测产品——内镜“帧探”更高性能AI算法计算,进一步提高计算精度,并降低功耗,为医院、医生、患者提高检出率。目前,慧维在X86与ARM两条不同技术线上均有技术沉淀,期待将AI技术更好的服务于医疗行业,为患者、医生、医院带来更高服务效率与收益,致力于全球智能医械市场,让AI技术服务全社会。


图片
Dally
2009年加入NVIDIA担任首席科学家兼研究高级副总裁,曾担任四年的斯坦福大学计算机科学系主任、美国国家工程院院士以及美国艺术与科学学院和 IEEE、ACM 院士,撰写了四本教科书,表了250多篇论文,拥有超过120项专利,并曾荣获IEEE Seymour Cray奖、ACM Eckert-Mauchly奖和ACM Maurice Wilkes奖。

原稿来自英伟达中国

NVIDIA首席科学家Bill Dally将在Hot Chips大会发表主题演讲 - NVIDIA 英伟达中国官方博客



图片

关于慧维智能

    慧维智能医疗科技有限公司成立于2019年6月,专业从事智能医疗产品的研发、生产与销售。我们的核心成员,均来自全球顶尖的科研机构和世界五百强企业。慧维智能以在“人工智能”和“边缘计算”领域的自主核心技术为驱动力,致力于为全球医疗机构提供“高水准、低成本、好体验”的医疗产品与服务,最大程度地帮助医生提高诊疗水平与效率。

图片