Arm在AI领域的策略是依托现有熟悉的市场,以计算平台为核心,首先在终端侧落地,逐步切入云端、边缘侧。
“我们AI的策略是以计算平台为核心,首先在终端侧优势领域落地,逐步切入云端、边缘侧,核心还是通过提供领先的计算架构作为基础,进一步与上面的算法、服务做配合,推动整个AI生态的发展。”Arm中国市场部负责人梁泉这样介绍Arm中国在AI方面的战略。
据悉,目前全球超过95%的智能手机运用了Arm的处理器,在智能硬件和物联网高速发展的如今,Arm有着绝对的地位,其所授权的芯片用在了移动计算、智能汽车、安全系统和物联网。
而在平台和生态建设上,Arm中国也发布了首个本土产品:周易人工智能平台,并积极与AI产业各个关键节点进行合作,力图打通从芯片、硬件方案、计算库、深度学习框架到应用的全产业链。
布局物联网市场
随着5G、AI和物联网技术的发展和不断融合,智能互联时代将到来。Arm预计,到2035年将有1万亿的物联网设备,在这些设备上实现本地人工智能,是AI应用的必然趋势。而要做到这一点,必须进一步降低人工智能的算力成本。
人工智能发展有三要素:算法、算力和数据。“Arm本身做的是计算平台,算力这块是我们最大的优势。除了CPU、GPU技术之外,Arm中国还在做基于AI的专门架构,即AIIP。在这之上,我们进一步再提供整套的平台架构,不仅包括AI核心的硬件技术,同时也包括上面的软件,可以让开发者更快对接现成的AI框架。”梁泉告诉记者。
从使用场景看,AI芯片主要分为云端和终端。目前主流的深度学习人工神经网络算法包括训练和推断两个环节。由于训练需要大量数据去训练人工神经网络,因此训练主要在云端进行,用到的芯片主要是CPU、GPU或者是TPU等计算能力相对更强的芯片。云端追求高性能,开发成本更大,终端更侧重低成本和低功耗。
推断则有所不同,既有在云端进行的,也有在设备端进行的,而且现在越来越多的推理被放到了边缘侧实现,边缘计算已经成为趋势。在物联网应用中,让智能思考留在本地,不仅可以降低功耗、降低时延、节约带宽,而且能够提高设备的独立性、安全性和私密性。
梁泉指出,目前市场上没有标准的AI芯片架构,一种做法是把一些常规的算法固化,支持很多通用的算法,效率中等;还有一种便是针对特定市场,比如语音或图像做专有的算法固化,虽然应用场景有限,但是特定领域的效率最高。“我们会尽量去梳理市场上的需求,然后归类到不同的产品形态,通用的、专用的、端侧的、边缘侧的甚至云端的都会覆盖。”梁泉并未透露细节,不过他表示会在合适的时间公布Arm中国在AI领域的完整路线图。
梁泉称:“我们在AI上面的打法其实依托于现有熟悉的市场,因为客户是现成的。客户有AI芯片的需求,我们有现成的产品,原来的CPU、GPU的IP在里面工作很好,这是我们的优势,但更多还是要看AI产品本身的成熟程度,然后看需求是不是和市场特别契合。”
中国AI生态圈
AI无疑是近几年最热的词。AI技术在获得广泛关注后也开始面临商业化落地的现实问题,一些企业也正围绕AI构建完善的产业生态链。
从资本市场看,创投分析机构CB Insights今年公布的一份人工智能报告指出,商汤科技(SenseTime)和旷视科技(Face++)是全球资金最充足的AI创业公司,这两家都来自中国。
作为重要的应用市场,中国已经有了广泛的AI应用。梁泉告诉记者,不管是人才储备、技术储备、实际应用场景上,投入的公司和投资力度上,还是政府的支持方面,中国在AI这个领域都走在世界前列。
虽然国外厂商在通用芯片领域占据了先发优势,云端训练领先国内,但国产品牌也在积极寻求从AI专用芯片及嵌入式领域实现突围的良机,AI技术公司开始向产业链上下游延伸,用整套解决方案深耕垂直领域,甚至有不少人期待通过AI芯片,中国能实现芯片领域的弯道超车。
梁泉称,AI芯片关键还是取决于其融入产业的速度,“如果这些AI公司,包括我们在市场上发展非常好,并且市场增速也非常快,我相信中国的发展速度真的有可能会超过美国,前提是市场足够大。”
2017年,Arm与厚朴投资等投资机构签署合作备忘录,成立中方控股51%的合资公司。梁泉向记者介绍,成立中国合资公司目的是在原本引进Arm全球技术架构的基础上,能进一步通过自主研发,推动国产芯片的发展,“我们投入了非常多的力量去做自主研发,这里面很多的技术完全由中国本土团队开发,核心知识产权在中国本土这边,希望对国产芯片进行更多的支持。”
Arm中国在本土推出的第一个自研成果是周易人工智能平台。该平台采用自主开发的AI处理器和软件框架,让芯片厂商能够在现有的技术能力上,快速部署人工智能计算的算力,在同等的成本功耗情况下,能做到人工智能应用所需要的算力。
它的核心包含两部分,一是Tengine软件框架,二是AIPU(人工智能处理单元),主要处理卷积神经网络、深度神经网络为代表的AI计算。从优化端侧芯片开发的角度看,周易平台降低了两个门槛:一方面是SoC集成AI功能的设计门槛,另一方面是上层软件的开发门槛。
在生态方面,Arm中国也积极与AI产业各个关键节点合作,力图打通从芯片、硬件方案、计算库、深度学习框架到应用的全产业链;在平台建设方面,Arm中国在国家政府和产业伙伴的支持下成立了Arm开放人工智能实验室(Open AI Lab)与Arm人工智能生态联盟(AIEC),致力于嵌入式人工智能技术的普及。
就在上月,在上海举行的第二届Arm人工智能开发者全球峰会上,Arm中国正式发布了极术AIoT开发者社区。该社区由Arm中国发起,并携手思否(SegmentFault)、OPEN AI LAB以及移知科技等合作伙伴,共同为AIoT开发者量身打造的问答型交互社区,首批发布包括人工智能、芯片软硬件和全球资源三大板块,在 AI技术、SoC开发以及Arm人工智能全球生态对接三个领域为中国人工智能物联网开发者提供一个互动平台。