高通携AI云100家族进军数据中心推理市场

高通在人工智能日发布了一系列新产品和公告,这些产品都专注于扩大公司的业务范围和人工智能战略。除此之外,该公司还推出了他们的最新产品骁龙655,730和730G芯片,让Facebook和微软等合作伙伴有机会展示他们的产品人工智能策略,并介绍了其AI云100家族。

人工智能云100家族的首次亮相被认为是一次软发布,而不是一次全面的产品发布,这意味着高通进一步进入人工智能领域的雄心。高通认识到随着5克以及具有人工智能功能的设备,满足日益增长的数据中心推理空间的产品市场提供了巨大的机会。虽然NVIDIA是数据培训市场的明显领导者,但数据中心推断市场目前更加开放。英特尔在数据中心cpu领域占据绝对优势,并将推出无数新产品。它们的定位很好,因为大多数数据中心推理都可以在现有的cpu上完成。其他竞争对手包括Xilinx、华为(Ascend 910 2019年第二季度上市)、AMD、亚马逊(Inferentia)和谷歌的tpu。Graphcore、Wave Computing、Habana Labs等资金雄厚的初创公司也加入了竞争。

高通AI日:云AI 100

作为这个领域的新手,高通押注于自己的优势。它在提供高性能和低功耗计算产品以及流程节点方面有着悠久的历史。高通还瞄准了推理市场,而不是培训市场,推出了新的AI Cloud 100 Family产品线,因为该公司认为未来这一领域将增长更快。然而,它需要小心,不要重蹈两年前在使用centrq数据中心处理器时的覆辙。当时,它也试图瞄准一个特定的利基市场,以便进入市场,但收效甚微。从那时起,高通决定继续前进,追求更高的投资回报率(ROI)机会。

高通的声明没有透露包括规格、定价在内的许多细节,甚至没有提供成本节约或人工智能能力方面的任何对比图表。唯一提到的数据点是指金鱼草855以及AI Cloud 100的AI能力是其最新移动芯片的50倍。该公司还声称,AI Cloud 100能够命中100多个TOPS。骁龙855有7个TOPS(但跨CPU, GPU和dsp),所以理论上AI Cloud 100家族有350个TOPS。目前,这似乎令人怀疑。我们甚至不知道它正在进行什么样的处理(INT8或INT4)。例如,英伟达去年10月刚刚推出了专门为数据中心推断而设计的特斯拉T4芯片。特斯拉T4的报价是INT8的130 TOPS, INT4的两倍。总体而言,高通声称其产品在推理任务中的平均速度将提高10倍。作为一个严格的推理ASIC解决方案,高通正在优化AI Cloud 100,以完全专注于AI推理。这将使数据中心比其他通用的CPU/GPU/DSP产品在进行推断时节省成本。

高通将于2019年下半年开始对AI Cloud 100 Family系列产品进行采样,最终产品将于2020年推出。考虑到关于其好处的信息的缺乏,现在说AI云100家族阵容将在市场上产生什么样的影响还为时过早。推断市场仍然被英特尔的cpu所主导。因此,对于高通来说,在2020年推出一个杰出的客户名单将变得非常重要,以表明它有能力在这个市场取得成功。鉴于数据中心推理市场的运营商有限,这对他们来说将是一场艰难的战斗。最重要的是他们的芯片规格。更高的TOPS是一件事,但同样重要的是TOPS/瓦特。电力效率不仅对小型电池供电设备至关重要,对消耗大量电力的数据中心也至关重要。总之,高通有自己的工作,但如果它能做好这件事,也有机会让公众刮目相看。