客户自研芯片冲击英伟达,华为、谷歌成最大隐患
英伟达针对超大规模数据中心(Hyperscale data center)需求,推出AI推论平台NVIDIA TensorRT。
NVIDIA指出,数据中心每天需要处理数十亿的语音搜寻、翻译、图像、影像、推荐服务以及社群媒体互动等,上述的每一个应用皆需透过伺服器内部不同类型的神经网路来处理。为了优化数据中心的最大吞吐量以及伺服器使用率,NVIDIA TensorRT包含即时推论软件以及Tesla T4 GPU,其处理搜寻结果的速度较单独使用CPU快40倍。
而Microsoft与Google等数据中心服务商与Dell与HPE等数据中心伺服器厂商也都将导入。NVIDIA还预估AI推论产业将于未来五年内成长至200亿美元。
NVIDIA正努力在数据中心开疆辟土,全球数据中心大多采用NVIDIA GPU,而数据中心业务虽然营收总额还不到游戏业务的一半,却是NVIDIA各部门中成长最快的,同时也是影响股价的重要因素。
数据中心是营收成长火车头,连两季YoY成长至少70%
根据NVIDIA2018年第二季财报,NVIDIA第2季营收为31.23亿美元,其中游戏业务第2季营收为18亿美元,YoY增加52%。数据中心业务营收则是来到7.6亿美元,YoY增长高达83%。而在第一季数据中心营收7.01亿美元,YoY成长也高达71%,可说是NVIDIA的营收成长火车头。
短期内,NVIDIA仍能稳坐数据中心宝座,竞争对手AMD与Intel目前与NVIDIA还有明显差距。
AMD甫推出7纳米Radeon GPU,虽然比Nvidia的7纳米产品提前半年至一年推出,制程上领先,但在下游应用端要取代NVIDIA并非易事,而Intel的数据中心GPU产品也才刚起步。
短期内,NVIDIA数据中心业务保持成长火车头没有大太问题,但若把时间拉长到3-5年以上,则NVIDIA隐患浮现。因为全球前七大数据中心其实都正在研发自家芯片。
垂直整合,全球前七大数据中心都有「异心」
以三大云端厂商的Google、Microsoft与Amazon的数据中心来说,目前都采用NVIDIA GPU,但也都有「异心」,各自研发「非」GPU芯片,彼此保持竞争又合作的诡谲关系。而且对这些云端大厂来说,自研芯片不会仅是尝试,而是一种趋势,「垂直整合态势」明显,半导体芯片将从一般通用走向「Domain Specific(特定领域)」用途,IC设计不做标准化产品,而是跟着应用需求做产品。而这也是为什么这些科技大厂开始自行研发芯片的主因。
黄仁勋与Google的口水战
其中又以Google的态度最为明显,2016首次亮相的ASIC芯片Cloud TPU,供云端运算的机器学习训练和推论使用,短短两年已经演进到第三代,而且在2017年Google还透过论文《In -Datacenter Performance Analysis of a Tensor Processing Unit》发表、大肆宣传,更有趣的是,论文中还拿出NVIDIA多年前旧产品Tesla K80 GPU和最新TPU的效能做比较,结果显示TPU的速度快Tesla K80 GPU15至30倍,此举引发NVIDIA创办人黄仁勋不满,特地跳出来反驳。
今年Google则延伸至终端,推出Edge TPU,供边缘运算的推论使用。虽然目前仍为Google自家用途为大宗,但Google也在测试对外贩售以「变现」的可能性(如Google在2018年2月公布开放开发者使用,Cloud TPU服务以秒计费,每小时收费6.5美元),什么时候完全对企业开放收费,业界都在关注。
而Microsoft Azure则和Intel合作,在深度学习云端平台Project Brainwave服务中也提供以Intel FPGA为基础架构的硬件加速服务。Amazon则也找上全球最大FPGA芯片商赛灵思(Xillinx),在Amazon Elastic Compute Cloud(Amazon EC2)中使用Virtex UltraScale+系列芯片。
中美贸易战下,若微软中国当真采用华为芯片,代表什么?
另一个隐忧,则是中国大陆的华为。不过华为和Google的威胁不同,华为继寒武纪IP麒麟980芯片,成为全球焦点后,近日美国媒体《The information》指出,微软和华为正商谈,让微软中国数据中心采用华为AI芯片。
述媒体称,目前尚未能确定双方会否达成合作。一旦交易达成,这将是华为首次挑战处于行业龙头地位的美国AI芯片制造商英伟达(Nvidia)。
报道称,微软目前使用的是英伟达的芯片开发AI功能,如微软小娜(Cortana)和必应(Bing)中的语音和脸部识别,英伟达的GPU芯片可处理大量数据,应用于深度学习中。
知情人士向上述媒体透露,华为已生产新芯片的商业样品,该芯片能展现与英伟达芯片类似的功用。华为高层近月一直向微软负责AI及研究的全球执行副总裁沈向洋(Harry Shum)兜售这款AI芯片。
不过,微软的要求相当严格,有华为工程师正在客制化运行芯片的软件,以达到微软的标准,并且运用微软的演算法测试新芯片。
事实上,对于华为而言,取代英伟达,与微软合作,这是一个不小的挑战。在芯片领域,英伟达作为领先的硬件生产商,影响力不可忽视。
先不论消息是否属实,这若是纯商业面的消息到还好,但若牵涉到政策面,那可就严重了。
美国禁止政府机构及与官方合作单位采用华为与中兴相关设备与产品,那有无可能中国也以此反制,外资大厂在中国地区的数据中心业务,要采用中国AI芯片,如同苹果iCloud在中国必须由中国厂商营运。由于中美贸易战火持续,此时传出此消息,不能不往政策面方向思索。
- 半导体行业观察
- 摩尔芯闻