好的芯片一定是在实际场景中打磨迭代而来的,如何去破解“用金钱投入换取时间”是目前最大的难点。
![](/res/202001/07/20200107_1626238_32_804899_140493_0.jpg)
雷锋网&AI掘金志去年曾统计,在国内创立的13家AI芯片公司中,超过10家都布局了安防(智慧城市)相关市场。
在这场世纪大争斗中,从业者也需沉心思考:安防究竟需要一款怎样的AI芯片?专用芯片是否会成为主流?端侧和云侧需要的AI芯片又有何不同?
对于这些疑问,宇视总裁张鹏国近日在接受AI掘金志专访时,给出了他的答案。对于行业市场的判断、技术走向的预测有着敏锐的直觉和出色的洞察力。
2017年深圳安博会期间,宇视总裁张鹏国在接受AI掘金志采访时就曾提到,以算法起家的AI创业公司,未来大概率会有三种活法:
1.蜕变成行业解决方案提供商
2.从算法到算力,软硬件一手抓
3.被收购或者直接消失
一众公司两年时间的不断试错也的确验证了张鹏国此前的预判。随着AI在安防等行业的不断渗透,今天的技术价值中心也的确逐渐由软件算法层转移至核心算力层。眼下,站在AI芯片方兴未艾的十字路口,张鹏国又作出了怎样的技术预判?以下是AI掘金志与张鹏国访谈内容:
AI掘金志:传统芯片公司、传统安防厂商、AI初创芯片企业,目前多股势力都在布局AI安防芯片。有的在芯片生态上比较完善、有的更了解安防行业的需求,有的则在加速方面能做到更优。你认为,哪一类企业的赢面会更大?
张鹏国:不同厂家可以基于自身优势和资源,选取不同的突破方向,生态、业务、性能各有优点,其实都是很好的出发点。
但实际上,安防行业也有它的特点,场景比较碎片化。所以做安防芯片必须要跨过的坎是,要做到约500万片的数量才有成本优势,目前仅有包括海大宇等为数不多的厂商有这个实力。
所以,很多AI芯片厂商其实面临很大挑战。此外,产品开发、前端、存储、组织建设都需要相应时间的积累。
好的芯片一定是在实际场景中打磨迭代而来的,怎么去破解“用金钱投入换取时间”是目前最大的难点,没有10年左右的打磨,其实很难达到AI工程化交付的能力。
AI掘金志:一款芯片是否达到AI工程化交付能力,主要看哪几个指标?
张鹏国:“AI算力”确实是衡量AI芯片指标的重要因素之一。回到2014年,人工智能刚刚兴起的时候,端侧的AI芯片算力仅有0.2Tops,云侧的AI芯片算力仅有5Tops;但现在端侧AI芯片算力已经达到4Tops,云侧的AI芯片算力达到了256Tops。
但只看AI算力肯定远远不够,由于应用场景不同,端侧芯片和云侧芯片需要分开看。
AI掘金志:在端侧,你认为需要怎样的AI芯片?
张鹏国:安防芯片本身竞争力、AI芯片与安防芯片的集成方式、开发工具成熟度与易用性、功耗与价格等。
一是安防芯片本身竞争力。安防领域,端侧一直用的是安防专用芯片,并不存在通用芯片。即使AI时代,端侧芯片首先需要的是有竞争力的安防芯片,其次才是在这基础上叠加AI 算力。比如,OS、安防SDK、ISP、编码都非常重要。这就对芯片厂商的综合要求很高,安防需要的是具备完备能力的芯片。端侧芯片虽然体积小价格低,但系统复杂度、技术难度一点都不低。
二是AI芯片与安防芯片的集成方式。比较早的时候,AI落地端侧,采用的是在主芯片边上加一颗AI 协处理器,即两颗芯片的方式。但现在,合二为一的方案已是主流,在系统复杂度、成本、功耗上都更有竞争力。
三是开发工具成熟度与易用性。芯片的软件开发工具非常重要,比如是不是能支持Caffe、Tensorflow、Pytorch等主流深度学习框架,相关工具是不是易用、稳定,对于AI应用开发者来说都非常重要,如果开发工具不成熟或不易用,很容易就会被开发者抛弃了。
四是功耗与价格。端侧设备,对功耗和价格都非常敏感。
AI掘金志:云侧呢?
张鹏国:解码能力、大数据并发效率、开发工具成熟度与易用性、功耗以及价格。
一是解码能力。云侧芯片处理的是经过编码的图片或视频,需要解码。在芯片设计上,需要内嵌专门的硬解码模块,不占用AI算力;另外,解码能力上必须不能低于AI处理能力,不然解码就会成为瓶颈。
二是大数据并发效率。现在云侧芯片的AI处理能力非常强,所以大数据并发交互的效率非常重要,大数据并发效率决定了AI算力实际能发挥多少。
三是功耗与价格。虽然这方面云侧芯片没有端侧芯片那么敏感,但低功耗与低价格永远都是用户的诉求。
AI掘金志:对于AI安防芯片的通用还是专用,你认为应该如何平衡?
张鹏国:AI安防芯片要看它是用在端还是后台,端芯片的应用关注算力和能耗,追求算力和能耗持续提升,这样就能让计算在前端完成,减少传输的压力,让后端专注于后端算力的提升,前端作为基本算力的存储。
AI芯片最重要的问题在于是否都能适配,所以就存在一个问题:AI芯片是通用芯片还是专用芯片,专用芯片对特殊场景会有优化和措施,灵活性会下降;通用芯片,通用性更强,能耗相应就会上升。
后台没有专门的AI芯片,因为要求更加通用化、多算法,因此需要思考如何做好通用性和各种算法的同时调度能力。
AI掘金志:在AI算法还没有完全成熟的时候做芯片,怎么平衡好AI安防芯片和快速迭代的算法之间的问题?
张鹏国:市面上绝大多数AI芯片不直接做“算法”,而只是做好“提供算力”、“提供底层算子”。
一方面AI算法迭代变化很快,无法固化到芯片中;另一方面,AI的场景化特点导致一个算法无法通吃所有场景。以智能识别为例,用于智能门禁的算法和用于静态检索的算法是两个不同的算法。所以,多数AI芯片厂商是“提供算力”、“提供底层算子”的思路,“算法”留给具备算法开发能力的安防厂商去做。但AI安防芯片厂商需要加强,对底层运算加速算法的适应性。
AI掘金志:AI芯片在安防摄像头中的位置是如何的,如果仅作为协处理器,是否会被主控芯片集成,只能在窗口期独立存在?
张鹏国:早期AI落地端侧,是在主芯片边上加一颗AI协处理器,即两颗芯片。如今,合二为一的方案已经成为主流,是目前的既成事实。在系统复杂度、成本、功耗上都更具竞争力,协处理器已经被淘汰了。
AI掘金志:你怎么看目前的AI芯片领域竞争态势?
张鹏国:分久必合,合久必分。
AI掘金志:怎么说?你是看到了什么潜在问题吗?
张鹏国:AI主控芯片在AI能力比较弱的情况下,对安防摄像头的端有很大促进作用,但还是要分成专用和通用来看,如果是专用芯片,要看主控芯片是否需要集成过来;如果是通用芯片,要看通用性和能耗。总之,需要关注综合成本和综合能耗,哪个更优,这一点要看市场、用户及产品本身。
在具体应用当中,算法仍是通用的,算法是专用还是通用没有定论,端侧和云侧在应用方向不一致,AI芯片到底是分两种路径,还是融合在一起走,行业也还在探索中。通用和专用的说法不同,哪家能越做越大是不确定的,每家都有不同观点。
智能摄像机是否还有用通用或专用芯片的空间,各自说辞不同,需要时间来总结和提炼AI应用场景的特性。
AI掘金志:未来,安防是否也会像手机、PC端一样形成类似ARM-安卓、Intel-微软的生态?届时,怎样的芯片厂商能参与构建这个生态,AI芯片将在其中扮演怎样的角色?
张鹏国:如果放在摄像头方面,也许会有这样的可能,但是在后端不太可能。在中国市场,很多用户要求不能受限于一个算法厂家的方案,在前端方案中或许会形成某种算法和芯片厂商的结盟,这样的生态要看是否有巨头来拉动,但目前我们还没看到这样的巨头。华为也许是,拭目以待。
编者注:宇视研究院算法部部长李聪廷、宇视战略合作部部长姚华、宇视研究院副院长谢会斌、宇视品牌部杨姝婧、樊喆,对本文亦有贡献。