华侨网,有态度的华人新闻网站!

帮助中心 广告联系

華僑時報 | 華僑網

热门关键词:  发顺丰  央行  蓝狐  詩詞  习近平
热门TAG标签:

吴韧谈异构智能芯片:比谷歌能耗低,比华为寒

来源:网络整理 作者:华侨时报 发布时间:2017-10-25
摘要:吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高

昨天的媒体交流会上,吴韧全程带笑。

和气、稳重是吴韧给人留下的第一印象。自2015年百度离职创立异构智能以来,这位CEO很少出来发声,异构智能也因此被打上了“神秘”的标签。

与其说这场名为《异构智能拥抱人工智能大势》的分享是场媒体交流会,倒不如说是场吴韧揭秘他与异构智能近况的恳谈。

“异构智能有芯片、模型,有超级计算机,希望将模型脱离云端,带到本地和终端,让终端变得智能。”吴韧一开始就表达了公司愿景。

吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高0

△ Novumind(异构智能)创始人兼CEO吴韧博士(右),及先烽资本创始人廖志宇(左)

智能终端

“(云端)物联网是个伪命题,是难以实现的。”吴韧说。

目前的现状是,看似魔术般连接起来的物联网,实际需要通过很多海底和底下光缆从分支道路连接到主干道。接入的分支道路呈指数级增长,已经远远超出主干道增长的速度。

因为传统的物联网的云端架构难以处理未来的海量数据,异构智能开始考虑将人工智能的能力从云端拿到终端,让边缘设备学会“思考”。将边缘设备思考的结果通过网络与世界连接,就是实现了吴韧口中的智联网(I2oT)。

“在本地做人工智能是未来的方向,异构智能将为这个方向的公司赋能。”吴韧说。

将AI放于终端对芯片提出了一高一低两点挑战。“高”在于,AI芯片主要有足够强大的高性能支持复杂的人工智能计算,“低”是指芯片需足够低功耗才能置于边缘的小物体上。

“是挑战,也是机会,”吴韧的声音中带着坚定,“异构智能的决定是take the challenge and seize the opportunity(接受挑战,抓住机遇)。”

吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高1

高性能-低能耗

在此情境下,异构智能选择放弃芯片的通用性,为AI场景设计一款专用芯片,以追求最高的性能功耗比。

吴韧表示,目前的人工智能芯片真正起效需要10TOPS(万亿次运算/秒)的计算力,谷歌等公司的顶级芯片计算力高但能耗也高,不满足本地落地的条件,而高通、寒武纪麒麟970等芯片虽然低能耗,但计算力却达不到。

相比之下,NovuTensor V1仅用5W的用电量,就能实现15TOPS的性能。能耗低,且满足计算需求。

吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高2

△ NovuTensor优势对比

5W是什么概念呢?吴韧现场形象化地表示,5W是USB可以提供的电量。

“这就是从云端突破到终端的能力。”吴韧说。

专利后的全栈解决方案

“人工智能的核心计算是三维张量的卷积计算,小立方体和大立方体重合的部分做点乘,”吴韧开始谈到芯片背后的技术,“异构智能的芯片在三维层面做操作,并且有四项专利保护。”

吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高3

△ NovuTensor核心技术

这四项专利包括三维张量卷积用硬件的直接实现,对数据的调度与分配、归并和处理器间的协作。

只看到机会还不够,异构智能最早找到办法把芯片和算法设计出来并加以实现,辅之以专利保护。这样看来,异构智能走得早,也走得稳。

“想为其他公司赋能。”吴韧不止一次提到这句话。

赋能,也就是帮助其他公司训练出更聪明的模型、更复杂的网络结构,让数据集发挥更大的作用。

责任编辑:华侨时报