高通以AI云100系列进入数据中心推理市场

高通在AI日发布了一系列新产品和公告,都聚焦于扩大公司的业务范围和AI战略。此外,该公司还推出了最新产品骁龙655、730和730G芯片,为Facebook和微软等合作伙伴提供了展示自己的机会人工智能策略,并推出了AI云100家族。

AI Cloud 100 Family的首次亮相被认为是一次软发布,而不是一次全面的产品发布会,这标志着高通在AI领域深入发展的雄心。高通认识到这一进步5克以及具有人工智能功能的设备,满足不断增长的数据中心推理空间的产品市场提供了一个巨大的机会。虽然NVIDIA是数据培训市场的明显领导者,但数据中心推理市场目前更加开放。英特尔在数据中心cpu领域占据绝对优势,并有大量新产品即将推出。它们的位置很好,因为目前大多数数据中心推理都可以在现有的cpu上完成。其他竞争对手包括Xilinx、华为(Ascend 910 2019年第二季度上市)、AMD、亚马逊(Inferentia)和谷歌的tpu。资金充足的初创企业,如Graphcore、Wave Computing、Habana Labs等也加入了竞争。

高通AI日:云AI 100

作为这一领域的相对新手,高通押注于自己的优势。它在提供高性能和低功耗计算产品方面有着悠久的历史,同时也是流程节点领域的领导者。高通还瞄准了推理市场,而不是培训市场,他们的新AI Cloud 100 Family产品线,因为它认为该领域在未来增长更快。然而,它需要小心,不要重蹈两年前在centrq数据中心处理器上的覆辙。那时候,它也曾试图瞄准一个特定的细分市场,以进入中国市场,但收效甚微。从那时起,高通决定继续前进,追求更高的投资回报率(ROI)机会。

高通的公告没有透露许多细节,包括规格、定价,甚至没有就成本节约或人工智能能力进行任何形式的对比。唯一提到的数据点是指金鱼草855以及AI Cloud 100的AI能力是其最新移动芯片的50倍。它还声称AI Cloud 100能够达到100多个TOPS。骁龙855有7个top(但跨CPU、GPU和dsp),所以理论上AI云100家族最多有350个top。目前来看,这似乎值得怀疑。我们甚至不知道它在做什么类型的处理(INT8还是INT4)。例如,NVIDIA去年10月刚刚发布了新的特斯拉T4芯片,这是专门为数据中心推理设计的。特斯拉T4的INT8报价130 TOPS,但INT4的两倍。总的来说,高通声称其产品在推理任务中的平均速度将提高10倍。作为一个严格推理的ASIC解决方案,高通正在优化AI Cloud 100,以完全致力于AI推理。这将使数据中心比做推理的其他通用CPU/GPU/DSP产品节省成本。

高通将在2019年下半年开始试用AI Cloud 100 Family系列,最终产品将于2020年推出。目前还无法判断AI云100家族阵容将对市场产生何种影响,因为缺乏有关其益处的信息。推理市场仍然被英特尔的cpu所主导。因此,对高通来说,在2020年推出一个突出的客户名册,以显示它有能力在这个市场上取得成功,这将变得非常重要。鉴于数据中心推理市场的运营商有限,这对他们来说将是一场艰难的战斗。最重要的,将是他们的芯片规格。更高的峰值是一方面,但同样重要的是峰值/瓦特。电力效率不仅对小型电池供电设备至关重要,对消耗大量电力的数据中心也是如此。总之,高通的工作很艰巨,但如果它能做好这一点,它也有机会让公众惊叹。