北京赛车pk10开奖

Mythic公司公布模拟AI芯片战略,把所有东西放在内存里

2019-10-14来源: 半导体行业观察关键字:Mythic  AI芯片
说到人工智能硬件,我们向来事无巨细。WikiChip密切关注的一家公司是Mythic。这家公司还没有完全公开他们的架构和产品,但一些细节已经开始慢慢浮出水面。在最近的人工智能硬件峰会上,该公司的创始人兼首席执行官Mike Henry绍了该芯片的最新情况。


这家位于奥斯汀的初创公司由Mike Henry和Dave Fick于2012年创立,最近完成了7000万美元的B轮融资,总融资额刚刚超过8500万美元。如今,公司员工已增至110人。

Mythic是一家模拟公司。但是,在我们探讨细节之前,必须指出,它们目前仅专注于推理,无论是在数据中心还是在边缘。到2024年,这两个市场的TAM(Total Available Market总体有效市场)

预计将达到250亿美元,这就是为什么这里有如此多的关注点的原因。从长远来看,Mythic计划针对大众市场的消费品和汽车产品。

把所有东西都放在芯片上,放在闪存里


随着模型准确性的提高,其大小也会随之增加。如今,模型达到了数亿个参数,甚至达到数十亿。最重要的是,通常实时地需要确定性行为,例如一致的帧速率和延迟。这就是Mythic的作用。Mythic的论点很简单:将足够的存储与大量并行计算单元打包在芯片上,以最大化内存带宽并减少数据移动的能力。但是有一个转变——这就是Mythic的原始方法的闪光点——该公司抛弃了传统的SRAM,转而使用更密集的闪存,此外,Mythic还计划在模拟环境下直接在内存中进行本地计算。

但是为什么是闪存?答案很简单:因为它密度大,功耗低,而且便宜,几乎比SRAM的密度大两个数量级。


理论上,Mythic的芯片更像内存,而不是传统的CMOS。从更长的路线图来看,随着SRAM  bit cell的扩展变得越来越困难,它带来的好处也越来越深远。总的来说,从每美元的性能、每单位成本的密度和每瓦特的性能来看,这是一个潜在的巨大胜利。


多年来,我们看到了一大堆路线图,当他们开始谈论未来10年的时候,很容易忽视它。但对Mythic来说,有一些不同之处。值得特别指出的是,目前Mythic正在研究40纳米的嵌入式闪存。他们有一个相当清晰的28nm和22nm的路径,因此,粗略地说,这个图的一半是基于今天已经发布的现有节点。


Mythic公司的首席执行官Mike Henry似乎相信他们可以继续这样做,但是尽管正在进行一些工作以继续扩展到16/14纳米节点,还不清楚它是否会上市。


许多业内人士认为,嵌入式闪存在22纳米的时候遭遇了瓶颈。在与Mythic的一次简短交谈中,他们告诉我们,他们并没有与嵌入式闪存结合,如果其中一项新兴技术(如多位ReRAM、PCM或NRAM)作为一种强大的替代技术出现,他们肯定会考虑迁移到这种技术。



IPU


Mythic的芯片被称为IPUs或智能处理单元。在外设方面,该芯片非常简单,由PCIe的x4通道和DNN平铺网格组成,PCIe是负责整个芯片管理的基本控制处理器。由于芯片的设计是为了存储整个模型,没有DRAM。

Mythic表示,由于这是一个基于tiles的设计,如果有需求,他们可以通过添加直接的音频/视频和各种其他接口来进一步定制。在去年的Hot Chip上,Mythic谈论的是一款5000万权值(weights)的初始产品。在最近的人工智能硬件峰会上,Mike Henry表示,初始产品权值将达到1.2亿,这比最初的计划要多很多。在富士通的40nm制程中,近标线全尺寸芯片应具有约300M权值的容量,因此120M仍然是一个相当大的芯片。

IPU的作用是作为一个连接到主机的PCIe加速器。对于大型模型或多个模型,可以使用多个IPU。模型最初被加载到IPU中,并保持静止。没有DRAM和编程闪存相对较慢,因此模型应该能够适应芯片与多个应用映射到同一芯片。这对于许多边缘应用程序来说非常典型。在正常操作下,主机CPU将数据发送到IPU,并通过PCIe端口接收结果。

IPU总体设计(WikiChip)


该芯片由DNN tiles构成网格。在一个tiles里面是一个模拟矩阵乘法器,它建立在一个巨大的嵌入式闪存池的顶部,用来计算权值。嵌入式闪存单元使用浮动栅极通过存储电荷、控制阈值电压来存储位。晶体管支持256级电导(G=1/R)之间的完全关闭和打开状态,Mythic用它来表示8位值。


通过将所有神经元的权值映射到闪光晶体管上,他们可以利用欧姆定律自然地进行矩阵乘法运算。实现的方法是使用闪光晶体管将权值表示为可变电阻。这在计算之前执行一次。使用8位DAC,输入矢量作为一组电压通过可变电阻。根据欧姆定律,输出电流是输入数据与权值向量(I = V x G)相乘的结果。最后,一组adc将产生的电流转换回数字值,成为输出矢量。ReLu和其他各种非线性操作也由adc在那个时间点完成。


围绕这个组件还有一些额外的逻辑。不管工作条件如何,DAC/ADC封装器都会进行补偿和校准,以获得精确的8位计算—类似于今天的图像传感器所做的工作。

模拟矩阵乘法(wikichip)


需要指出的是,这个方案没有实际的内存访问。矩阵相乘是在内存中完成的,利用欧姆定律,所以没有权值访问能量。使用固定权值时,也没有批量大小或其他特殊处理。虽然固定容量可能会带来一些问题。顺便说一下,它们支持神经元稀疏,但不支持权值稀疏性。


有趣的是,Mythic说,对于他们的第一代,为了加快开发和上市时间,他们不会使用DAC作为输入。相反,他们使用一个数字近似电路,由此分别计算每个输入位,然后累加结果。他们将在将来用DAC消除这种情况,这有望为他们提供一些很好的改善。
关键字:Mythic  AI芯片 编辑:muyan 引用地址:http://news.2689mr.com/mndz/ic477010.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:当电子元件性能下降:如何保护您的模拟前端
下一篇:ADI全新集成24位ADC、有效降低成本并加快产品上市时间

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

星宸科技发布三大产品线AI芯片,有机会与华为一较高下?
国内领先的 AI Camera 系统芯片及解决方案供应商星宸科技(SigmaStar)在深圳举行了 2019 新产品发布会,现场发布了三大产品线的 AI 芯片新品。 其中包括,智能显示—轩辕系列 SSD201、SSD202D;、车载智能 DVR—越影系列 SSC8629D、SSC8629Q、SSC8668G、SSC8539;智能安防—降龙系列 SSC336D/Q、SSC338G、SSC339G、SSR621D/Q 等。 新闻主体:星宸科技团队源自晨星半导体(MStar) Smart Camera 事业部,由联发科集团投资设立的智能芯片设计公司。资料显示,星宸科技实际上是由联发科控股的子公司,联发科
发表于 2019-10-28
星宸科技发布三大产品线AI芯片,有机会与华为一较高下?
星宸科技发布三大产品线AI芯片,有机会与华为一较高下?
国内领先的 AI Camera 系统芯片及解决方案供应商星宸科技(SigmaStar)在深圳举行了 2019 新产品发布会,现场发布了三大产品线的 AI 芯片新品。 其中包括,智能显示—轩辕系列 SSD201、SSD202D;、车载智能 DVR—越影系列 SSC8629D、SSC8629Q、SSC8668G、SSC8539;智能安防—降龙系列 SSC336D/Q、SSC338G、SSC339G、SSR621D/Q 等。 新闻主体:星宸科技团队源自晨星半导体(MStar) Smart Camera 事业部,由联发科集团投资设立的智能芯片设计公司。资料显示,星宸科技实际上是由联发科控股的子公司,联发科
发表于 2019-10-28
星宸科技发布三大产品线AI芯片,有机会与华为一较高下?
天数智芯AI推理芯片流片成功,AI技术真正落地
日前,天数智芯发布首个正式流片的高性能边缘端AI推理芯片——Iluvatar CoreX I AI芯片。该芯片的发布,标志着天数智芯真正将AI技术转化成产品,也意味着天数智芯从边缘到云端“芯云战略”已进入落地阶段,赋能企业实现数字化转型,助力行业智慧发展。天数智芯名称由来天数智芯CEO李云鹏介绍了天数智芯名称的由来,其中天是代表着大,数则代表着数字经济时代。而天数智芯的英文名称Iluvatar是创世女神的意思,代表着创新、演进、价值和引领。李云鹏指出,天数智芯的目标应用是从轨道交通安全需求点出发,以行业智能解决方案的维度,为铁路安全提供云端及边缘的产品及方案支持,实现及时响应,有效管理等特点。目前全国共有三千组高速动车组列车和两万
发表于 2019-10-21
天数智芯AI推理芯片流片成功,AI技术真正落地
边缘AI芯片市场2024年将达76亿美元 竞争激烈
   多样性是游戏的名称,当谈到边缘人工智能(AI)芯片组产业。在2019年,人工智能行业见证了人工智能工作负载的不断迁移,特别是人工智能推断,转向边缘设备,包括前提服务器、网关、终端设备和传感器。基于人工智能在17个垂直市场的发展, ABI Research预计,边缘AI芯片组市场将从2019年的26亿美元增长到2024年的76亿美元,没有一家厂商占据40%以上的市场份额。这个市场的领跑者是NVIDIA,2019年上半年收入占39%。GPU供应商在关键的人工智能垂直领域有很强的影响力,目前在人工智能部署方面处于领先地位,例如汽车、相机系统、机器人和智能制造。“面对不同的用例,NVIDIA选择发布具有不同计算
发表于 2019-10-18
业界首款:奇景推超低功耗AI功能的WiseEye WE-I Plus芯片
奇景光电7日宣布,推出业界第1个先进人工智能边缘运算(Edge AI)芯片WiseEye WE-I Plus,内建AI加速器,具有机器学习功能、智能影像检测和语音识别,可供开发者在芯片平台上,发展类神经网络机器学习,应用在包含智能家电及智能监控系统的物联网产品。奇景指出,WiseEye WE-I Plus芯片,采用可程式处理器,支援数字信号处理加强功能,并内建硬件加速模组如CDM、HOG及JPEG等,支援实时的移动侦测、物体侦测、及影像处理。为满足开发者物联网产品对安全防护的需求,该芯片提供软、硬件整合的安全防护方案,包含安全启动、通过安全的即时网络下载技术升级、通过TLS网路安全协定传送资料等。而为达超低功耗及更长电池使用寿命
发表于 2019-10-10
小广播
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD。com。cn, Inc。 All rights reserved
天音彩票注册 北京赛车pk10计划 微彩彩票投注计划官网 众盈彩票投注 北京赛车pk10计划 北京赛车pk10计划 北京赛车pk10开奖 天音彩票官网 五八彩票注册开户平台 北京赛车