高通为什么进入数据中心推理市场？

除了技术方面的考虑之外，另外一个推动高通公司进入AI推理加速器市场的重要因素便是－钱！
尽管目前人们对人工智能推理市场的最终规模能达到多少存在很大争议，但是高通公司认为，到2025年，数据中心推理加速器市场可能会达到170亿美元。如果预测成真，这确实是一个相当大的市场，也是一个高通绝对不愿意错过的市场，它完全可以媲美高通当前的芯片制造业务。

此外，值得注意的是，上面所说的还只是单纯的推理市场，而不是整个数据中心推理＋训练市场，这里存在很大的区别。因为，虽然训练也很重要，但是针对训练的计算需求和针对推理的计算需求有很大不同。虽然可以使用相对低精度的数据类型（比如INT8，有时还会更低）执行准确的推理，但是目前大多数训练任务都需要FP16或者更高精度的数据类型。这就需要一种不同类型的芯片，特别是我们讨论的是ASIC，而不是类似于GPU那样的通用产品。

推理加速器的规模可以很容易地扩展：虽然训练神经网络可能需要部署大量资源，但是只需要部署一次就可以了，然后，训练好的神经网络可以复制到推理加速器集群中去执行。所以，对于和训练同样重要的推理，潜在客户需要的推理加速器数量要远大于训练用处理器。

与此同时，尽管高通公司没有明确喊话，但是很明显，它正打算颠覆市场领导者英伟达，英伟达已经用自己的AI处理器建立了一个小型的人工智能帝国。目前，英伟达的特斯拉T4／P4／P40加速器构成了数据中心AI推理处理器世界的支柱，从财报上来看，来自数据中心的收入是英伟达整体营收中利润率很高的板块。因此，即使整个数据中心市场没有像之前预期的速度和规模增长，这依然是一块非常有利可图的业务。

加入这个战局，高通还必须时刻牢记来自英特尔的威胁。英特尔公开表达了自己的人工智能计划，从低功耗的Movidius加速器到最新的Cascade Lake Xeon可扩展CPU，英特尔有几个不同的AI产品系列计划。不过，具体到高通公司想要进入的数据中心AI推理加速器市场而言，来自英特尔最大的威胁可能是它即将推出的Xe GPU，这些GPU来自英特尔最近刚刚重建的GPU部门。和高通一样，英特尔也在对英伟达发起挑战，因为人工智能推理市场上的竞争对手们没有一个希望失败。

努力落地

高通公司只是表达勃勃的雄心远远不够，在接下来的12个月内，它的重点将是发展第一批客户。要做到这一点，高通必须证明，它对于云AI 100系列所做的所有事情都是极其认真的，它的硬件拿得出手，而且还能提供可以与竞争对手的软件生态系统PK的易用软件。所有这一切都不容易，所以高通公司需要从现在开始努力，以兑现吹过的牛逼。

多年来，高通公司一直对服务器和数据中心市场抱有各种各样的梦想，但是都是“过于雄心勃勃”。比如，高通公司在2017年大张旗鼓地宣布将突出基于ARM的服务器CPU－Centriq系列，结果整个项目在一年内就遭遇了滑铁卢。高通公司的Centriq虽然失败了，但是它的另外两个拳头产品－移动处理器和调制解调器－都是非常强悍的存在。为了让数据中心运营商们信任并敢于使用云AI 100系列，高通公司不仅需要为其第一代产品制定一个伟大的计划，还需要为未来几代产品制定可以执行落地的计划。

在这个年轻、不断增长的推理加速器市场中，数据中心运营商也愿意尝试CPU之外的新处理器。所以，我们没有理由认为高通的云AI 100系列肯定不会取得成功，但是，高通公司要说服在其它方面依然谨慎的数据中心运营商，它就必须在其产品上投入更多的资源。

除了器件本身，软件层面同样重要。英伟达在人工智能领域取得的巨大成功在很大程度上应该归功于他们的人工智能软件生态系统，该生态系统本身就是自己十年前的CUDA生态系统的扩展，CUDA生态系统让其在GPU领域的竞争对手AMD被打压得抬不起头来。对于高通公司来说，它的优势在于目前已经存在最流行的框架、运行时工具。TensorFlow、Caffe2和ONNX都是很不错的选择，高通知道这一点，它也有能力实现它，所以它承诺为其AI加速处理器提供广泛的软件栈。不过，高通公司必须在软件栈上加快速度，因为他们的软件栈实际运行性能如何决定了整个项目的成败。高通必须提供良好的硬件和软件组合才能在这个市场上取得成功。

高通公司今天发布的公告是一个预告片，它宣布了未来一年将要发生的事情。它制定了一项雄心勃勃的计划，旨在打入日益增长的人工智能推理加速器市场，并提供和这个开放性的市场上其它任何产品都有所不同的加速器。从预告片到正式上映将会是一个巨大的挑战，但是高通公司是在资金和工程资源方面最有实力的处理器巨头，所以，高通公司能够在推理加速器市场上取得多大的成绩取决于它有多渴求这个市场。它有能力开发这种处理器，也知道如何避免导致之前的服务器处理器计划失败的失误。

不过，最重要的是，高通公司也不会轻易地攻下推理加速器市场，它必须为之一战。高通的成功等价于英伟达市场份额的丢失，英伟达肯定不会束手就擒，英特尔也在虎视眈眈，更不用说其他GPU厂商、FPGA供应商和ASIC厂商了。在这个新兴技术主导的年轻市场中，所有参与者都有可能迅速崛起和衰败。所以，虽然距离2020年还有差不多一年，但是，人工智能加速器市场必将在2020年掀起第一场世界大战。