巨头们的AI芯片战火已经从云端蔓延至了边缘,这是一个喜忧参半的消息。
原标题 | AI芯片战火蔓延至边缘端:谷歌祭出千元开发板,英伟达说只卖664
文| 包永刚
AI的热潮还在持续,AI的战火自然也在升级。英伟达作为这一波AI浪潮中最受关注的公司之一,在很大程度上影响着AI的战局。上周在美国举行的GTC 2019上,黄仁勋大篇幅介绍了英伟达在AI软件和计算力方面的提升,但售价仅为99美元(约664元人民币)的Jetson Nano人工智能计算机却成了最受关注的焦点。本月早些时候的TensorFlow开发者峰会上,谷歌也发布售价149.99美元(约1009元人民币)的Edge TPU开发板。
这意味着,巨头们的AI芯片战火已经从云端蔓延至了边缘,但这为什么是一个喜忧参半的消息?
云端AI芯片战火向下蔓延
虽然是最受关注的AI芯片公司,但2018年的英伟达算不上顺利,先是因为矿难导致GPU库存高企,后又因中国市场的需求和服务器市场需求低于预期股价受拖累。整个2018年,英伟达的市值缩水了近一半。因此,在AMD已经抢先发布7nm GPU的背景下,外界更加期待英伟达能在GTC 2019上发布最新7nm GPU。
不过,黄仁勋并未发布最新的7nm GPU,而是花了大量的时间介绍RTX和CUDA-X AI。
CUDA-X AI把所有英伟达的库整合。根据黄仁勋的说法,CUDA-X AI解锁了Tensor Core GPU的灵活性,能够将机器学习和数据科学工作负载加速多达50倍。另外,CUDA-X AI还可以加速典型AI工作流程的每一步,包括用深度学习训练语音和图像识别系统。
英伟达也宣布已经有七家世界级的厂商将推出基于 NVIDIA T4 GPU 和 NVIDIA CUDA-X AI 加速库的服务器,这些服务器都已经针对 CUDA-X AI 进行了特殊优化。亚马逊 AWS副总裁 Matt Garman还宣布最新的 EC2 G4 服务器采用了英伟达 T4 Tencor Core GPU,该服务器将在未来几周内可用。
虽然英伟达没有推出性能更强的GPU,但正在通过CUDA-X AI提升其GPU在云端的性能和吸引力。即便如此,英伟达的重要客户谷歌还是推出了自主研发的云端AI芯片TPU。
自2015年起,谷歌开始在内部使用TPU芯,2016年谷歌首次公开承认TPU的存在,2017年发布了第二代TPU,TPU 3.0在2018年发布。这意味着,谷歌在云端AI芯片市场与英伟达的关系从此前的合作变为了合作竞争的关系。
雷锋网了解到,黄仁勋在谈到谷歌TPU时曾强硬的表示对TPU的威胁不以为然。谷歌与英伟达在云端AI芯片市场的竞争短期内难见结论。但却可以明确他们的芯片竞争已经蔓延到了边缘端。
边缘端的AI芯片战
作为老牌芯片巨头,英伟达很早就已经入局边缘计算市场,Jetson系列的包括用于完全自主机器的Jetson AGX Xavier和用于边缘人工智能的Jetson TX2已经推出,只是几百甚至上千美元的价格阻挡了不少用户。GTC 2019推出的同系列Jetson Nano之所以关注度很高,关键的原因就是价格。
纵观不同行业发展的历程,产业的爆发除了有技术成熟的因素,产品价格下降到市场可接受的程度也非常关键。GTC 2019上推出的Jetson Nano计算机,价格让然惊喜,外观小巧但性能不低。据悉,Jetson Nano的性能可达472 GFLOPS(每秒十亿次浮点运算),耗电量仅为5瓦。同时,Jetson Nano支持高分辨率传感器,可以并行处理多个传感器,并且可在每个传感器流上运行多个现代神经网络。
针对不同的需求,英伟达还推出了两个版本的Jetson Nano,一个是售价99美元的开发者套件,专为开发人员、创客和技术爱好者提供,另一个是售价129美元的生产就绪型模块,面向大众市场创建边缘系统的企业。
Nvidia Jetson Nano
与英伟达的Jetson Nano类似,谷歌本月初发布的搭载Edge TPU的开发板Coral售价150美元。Coral开发板拥有1GB的LPDDR4内存和8GB的eMMC存储,安装Mendel版Linux或者Android,可以进行本地的离线运算,性能最高可达 4 万亿次操作。
除了Coral开发板,谷歌还发布了一款售价75美元的Coral USB加速器,同样包含一颗Edge TPU,可以在任何64位ARM或x86平台的Debian Linux上运行。
Google Edge TPU开发板
黄仁勋不认为谷歌的TPU是一个威胁,但在边缘端低价产品进展方面两大巨头显得颇有默契。先是谷歌推出搭载Edge TPU售价75美元和150美元的开发板以及加速器。不久后英伟达就推出售价99和129美元的Jetson Nano。
不仅售价相互竞争,面向的边缘计算市场也会重叠。英伟达表示,Jetson Nano可以创建数百万个智能系统,模块面向网络录像机、家用机器人和具有完整分析功能的智能网关等嵌入式应用。英伟达希望能为复杂、稳健、节能的人工智能系统的硬件设计、测试和验证节约时间,缩短总体开发时间让产品更快将推向市场。
Coral开发板也强调面向嵌入式设备的隐私、低延迟、高效和离线部署。具体的应用方面,谷歌展示了基于Coral的一个有趣的图像分类应用。谷歌表示其提供了简单的API,可在Edge TPU设备上执行图像分类,对象检测。这意味着,Edge TPU看好和图像相关的边缘端应用。
因此,无论是从定位、性能、应用还是售价看,谷歌和英伟达在边缘端又一次正面竞争。
普及AI还是革命AI芯片初创公司?
谷歌和英伟达的竞争能够在一定程度上促进AI的发展,特别是在边缘端。Jetson Nano和Coral开发板的方式能在很大程度上降低AI产品开发的难度并加速产品的上市时间,为现有做AI应用的公司增加了选择,当然也会想要借助AI进行更多创新的公司和个人提供了更加便携的选择,这对AI在边缘端的普及具有积极意义。
然而,对于众多AI芯片初创公司而言可能是个坏消息。雷锋网2018年曾统计过,创立于国内的13家AI芯片初创公司有11家都布局了自动驾驶和安防领域,并且都是面向边缘端的AI芯片。AI芯片初创公司们之所以大部分都选择AI边缘计算市场,是因为在云端,英特尔和英伟达占据绝对的优势地位,初创公司想要在这一领域获得成功难度非常大。
虽然边缘端AI给初创公司更大的市场和机遇,但从目前的情况看英伟达在自动驾驶领域也有不错的市场表现。如今,英伟达和谷歌都推出更加简单易用,且价格更易于接受的开发板,AI芯片初创公司又多了两个竞争对手,并且是实力强大的竞争对手。
更会让AI芯片初创公司感到不安的是,由于两大巨头都有云端AI芯片,与边缘端的AI芯片配合能够实现更强的竞争力。并且,软件在AI芯片中的重要作用正被越来越多的人看到,不巧的是英伟达和谷歌都有强大的软件。
文章开篇已经提到,英伟达发布CUDA-X AI将提升GPU的AI性能,但与此同时Jetson Nano也是可运行所有人工智能模型的NVIDIA CUDA-X人工智能计算机。
谷歌方面,与Coral开发板同时发布的还有为移动和嵌入式设备提供的跨平台解决方案TensorFlow Lite,这个轻量级(Lite)的框架有助于机器学习模型部署在移动和IoT设备上的。谷歌表示,经过TensorFlow Lite的优化后,CPU的性能达到原来的1.9倍,在Edge TPU上的性能最高提升62倍。
雷锋网认为,巨头们拥有从云端到终端的AI芯片,并且有强大的软件帮助芯片提升硬件的性能,同时还有长期建立的品牌、渠道、市场等方面的优势,这在推动AI在边缘端普及的同时,还将与众多的AI芯片初创公司产生竞争。
只是,未来仍有诸多不确定性,英伟达、谷歌到底会在多大程度上影响AI芯片初创公司?