毫无疑问, AI已经成为下一代用户体验的推动力。不管是快速浏览喜欢的社交应用程序,还是基于 AI推理提供的网上购物推荐,几乎所有移动终端体验都和 AI密不可分。现在这些平台每天都有上百万的用户,这又意味着什么呢?为了满足上述平台持续运行所需的 AI推理性能,他们需要性能卓越的高密度服务器。

当前,通过与 AMD最新的 EPYC™7003系列处理器和技嘉科技最新的G292-Z43服务器解决方案的结合,高通技术公司正在帮助性能卓越的机架式服务器满足高性能需求。以上是企业在硬件技术专业领域的联合,带来了一流的性能,为现代化数据中心树立了全新的标杆。高通科技公司最新的 Cloud AI 100可以很好地匹配技嘉服务器系统,这将推动大量优秀的 AI应用在高速数据分析、个性化推荐、智慧城市和5 G通信等领域得到推广。

技嘉G292-Z43服务器将支持两个 AMDEPYC™7003系列处理器用于处理负载,并将支持多个高通 Cloud AI 100PCI-E卡用于支持 AI推理,以支持需要密集计算的应用。高通 Cloud AI 100推理加速器支持高达400 TOPS的运算能力,同时具有突破性的性能功耗比,单凭一张高通 Cloud AI 100PCI-E卡就可以做到。想象一下,如果每台技嘉服务器最多支持16个高通 Cloud AI 100PCI-E推理卡,那么每秒可以完成6.4千万亿次运算(400 TOPS x 16,1 POPS等于1000 TOPS)。在高通的 AI技术基础上,这是第一个突破每秒千万亿次运算(POPS)大关的解决方案。更加引人注目的是,每台服务器都可以管理19个以上的服务器单元,从而轻松实现超过100 POPS的计算能力,这充分显示了高通技术公司在 AI领域的强大实力。如需有关参数,请参阅下面的资讯图表。

具体地说,高通 Cloud AI 100PCI-E推理卡的单次运算能力为400 TOPS (半高、半长),每秒能支持19,000张图像进行Resnet50模型分类推理,相当于一个服务器机柜每秒能处理600多万张图像。这样强大的 AI性能,有望提升和大规模扩展全球 AI体验。对 AMD和技嘉科技取得这一惊人成就,我们深表感谢。

华为云 AI 100PCI-E卡和搭载 AMD EPYC™7003系列处理器的技嘉服务器即将上市,详情请参阅产品图末尾。