Mythic公司公布模拟AI芯片战略,把所有东西放在内存里

2019-10-14来源: 半导体行业观察关键字:Mythic  AI芯片
说到人工智能硬件,我们向来事无巨细。WikiChip密切关注的一家公司是Mythic。这家公司还没有完全公开他们的架构和产品,但一些细节已经开始慢慢浮出水面。在最近的人工智能硬件峰会上,该公司的创始人兼首席执行官Mike Henry绍了该芯片的最新情况。


这家位于奥斯汀的初创公司由Mike Henry和Dave Fick于2012年创立,最近完成了7000万美元的B轮融资,总融资额刚刚超过8500万美元。如今,公司员工已增至110人。

Mythic是一家模拟公司。但是,在我们探讨细节之前,必须指出,它们目前仅专注于推理,无论是在数据中心还是在边缘。到2024年,这两个市场的TAM(Total Available Market总体有效市场)

预计将达到250亿美元,这就是为什么这里有如此多的关注点的原因。从长远来看,Mythic计划针对大众市场的消费品和汽车产品。

把所有东西都放在芯片上,放在闪存里


随着模型准确性的提高,其大小也会随之增加。如今,模型达到了数亿个参数,甚至达到数十亿。最重要的是,通常实时地需要确定性行为,例如一致的帧速率和延迟。这就是Mythic的作用。Mythic的论点很简单:将足够的存储与大量并行计算单元打包在芯片上,以最大化内存带宽并减少数据移动的能力。但是有一个转变——这就是Mythic的原始方法的闪光点——该公司抛弃了传统的SRAM,转而使用更密集的闪存,此外,Mythic还计划在模拟环境下直接在内存中进行本地计算。

但是为什么是闪存?答案很简单:因为它密度大,功耗低,而且便宜,几乎比SRAM的密度大两个数量级。


理论上,Mythic的芯片更像内存,而不是传统的CMOS。从更长的路线图来看,随着SRAM  bit cell的扩展变得越来越困难,它带来的好处也越来越深远。总的来说,从每美元的性能、每单位成本的密度和每瓦特的性能来看,这是一个潜在的巨大胜利。


多年来,我们看到了一大堆路线图,当他们开始谈论未来10年的时候,很容易忽视它。但对Mythic来说,有一些不同之处。值得特别指出的是,目前Mythic正在研究40纳米的嵌入式闪存。他们有一个相当清晰的28nm和22nm的路径,因此,粗略地说,这个图的一半是基于今天已经发布的现有节点。


Mythic公司的首席执行官Mike Henry似乎相信他们可以继续这样做,但是尽管正在进行一些工作以继续扩展到16/14纳米节点,还不清楚它是否会上市。


许多业内人士认为,嵌入式闪存在22纳米的时候遭遇了瓶颈。在与Mythic的一次简短交谈中,他们告诉我们,他们并没有与嵌入式闪存结合,如果其中一项新兴技术(如多位ReRAM、PCM或NRAM)作为一种强大的替代技术出现,他们肯定会考虑迁移到这种技术。



IPU


Mythic的芯片被称为IPUs或智能处理单元。在外设方面,该芯片非常简单,由PCIe的x4通道和DNN平铺网格组成,PCIe是负责整个芯片管理的基本控制处理器。由于芯片的设计是为了存储整个模型,没有DRAM。

Mythic表示,由于这是一个基于tiles的设计,如果有需求,他们可以通过添加直接的音频/视频和各种其他接口来进一步定制。在去年的Hot Chip上,Mythic谈论的是一款5000万权值(weights)的初始产品。在最近的人工智能硬件峰会上,Mike Henry表示,初始产品权值将达到1.2亿,这比最初的计划要多很多。在富士通的40nm制程中,近标线全尺寸芯片应具有约300M权值的容量,因此120M仍然是一个相当大的芯片。

IPU的作用是作为一个连接到主机的PCIe加速器。对于大型模型或多个模型,可以使用多个IPU。模型最初被加载到IPU中,并保持静止。没有DRAM和编程闪存相对较慢,因此模型应该能够适应芯片与多个应用映射到同一芯片。这对于许多边缘应用程序来说非常典型。在正常操作下,主机CPU将数据发送到IPU,并通过PCIe端口接收结果。

IPU总体设计(WikiChip)


该芯片由DNN tiles构成网格。在一个tiles里面是一个模拟矩阵乘法器,它建立在一个巨大的嵌入式闪存池的顶部,用来计算权值。嵌入式闪存单元使用浮动栅极通过存储电荷、控制阈值电压来存储位。晶体管支持256级电导(G=1/R)之间的完全关闭和打开状态,Mythic用它来表示8位值。


通过将所有神经元的权值映射到闪光晶体管上,他们可以利用欧姆定律自然地进行矩阵乘法运算。实现的方法是使用闪光晶体管将权值表示为可变电阻。这在计算之前执行一次。使用8位DAC,输入矢量作为一组电压通过可变电阻。根据欧姆定律,输出电流是输入数据与权值向量(I = V x G)相乘的结果。最后,一组adc将产生的电流转换回数字值,成为输出矢量。ReLu和其他各种非线性操作也由adc在那个时间点完成。


围绕这个组件还有一些额外的逻辑。不管工作条件如何,DAC/ADC封装器都会进行补偿和校准,以获得精确的8位计算—类似于今天的图像传感器所做的工作。

模拟矩阵乘法(wikichip)


需要指出的是,这个方案没有实际的内存访问。矩阵相乘是在内存中完成的,利用欧姆定律,所以没有权值访问能量。使用固定权值时,也没有批量大小或其他特殊处理。虽然固定容量可能会带来一些问题。顺便说一下,它们支持神经元稀疏,但不支持权值稀疏性。


有趣的是,Mythic说,对于他们的第一代,为了加快开发和上市时间,他们不会使用DAC作为输入。相反,他们使用一个数字近似电路,由此分别计算每个输入位,然后累加结果。他们将在将来用DAC消除这种情况,这有望为他们提供一些很好的改善。
关键字:Mythic  AI芯片 编辑:muyan 引用地址:http://news.2689mr.com/mndz/ic477010.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:当电子元件性能下降:如何保护您的模拟前端
下一篇:ADI全新集成24位ADC、有效降低成本并加快产品上市时间

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

业界首款车规级全栈语音AI芯片流片成功 预计四季度量产
混合应用架构设计,更可获得本地与云端能力的最佳平衡。作为一款集音频信号处理模块、语音识别模块、离线分类引擎,自然语言处理模块、离在线仲裁模块、TTS引擎、离线推理引擎于一体的全栈语音AI芯片,为了更好的应用于汽车领域,该芯片还垂直打通了汽车的数据,增强针对汽车场景的本地逻辑推理等边缘计算的能力。在隐私数据方面,芯片引入了本地加密存储单元,可以更好的包含隐私数据。同时,该款芯片将支持多种人工智能算法学习和推导,处理包括感知,理解,分析,决策和行动等一系列任务,并且具有适应场景变化的能力。伴随着5G时代的到来,智能网联技术的飞速发展对于汽车行业的影响越来越深,人们在追求更快速、精准的语音操控。而车规级AI芯片作为人工智能在车内的最佳实现
发表于 2020-01-13
业界首款车规级全栈语音AI芯片流片成功 预计四季度量产
混合应用架构设计,更可获得本地与云端能力的最佳平衡。作为一款集音频信号处理模块、语音识别模块、离线分类引擎,自然语言处理模块、离在线仲裁模块、TTS引擎、离线推理引擎于一体的全栈语音AI芯片,为了更好的应用于汽车领域,该芯片还垂直打通了汽车的数据,增强针对汽车场景的本地逻辑推理等边缘计算的能力。在隐私数据方面,芯片引入了本地加密存储单元,可以更好的包含隐私数据。同时,该款芯片将支持多种人工智能算法学习和推导,处理包括感知,理解,分析,决策和行动等一系列任务,并且具有适应场景变化的能力。伴随着5G时代的到来,智能网联技术的飞速发展对于汽车行业的影响越来越深,人们在追求更快速、精准的语音操控。而车规级AI芯片作为人工智能在车内的最佳实现
发表于 2020-01-10
地平线车规级AI芯片征程二代打造智能驾驶“芯”生态
在拉斯维加斯举行的CES2020上,边缘 AI 芯片全球领导者地平线携中国首款车规级AI芯片征程二代、ADAS 解决方案、新一代Matrix自动驾驶计算平台及一系列智能驾驶落地成果参展,向参展观众展示了一个多层次、多维度、多场景的智能驾驶“芯”生态。 2019年,随着征程二代量产并成功批量部署前装定点,地平线国内外业务增长迎来了新的拐点。作为商业化的关键一年,地平线与全球多家顶级Tier1s在ADAS、自动驾驶、多模交互等领域展开多维度合作,智能驾驶业务年内订单高达数亿元。四度参展 CES,从零到一,地平线用自己的方式为人工智能普惠大众走出了一条坚实的商业化道路。   车规级AI芯片与高效
发表于 2020-01-09
地平线车规级AI芯片征程二代打造智能驾驶“芯”生态
芯智科技流片车规级全栈语音AI芯片
1月7日,安徽芯智科技有限公司宣布成功流片业界首款车规级全栈语音AI芯片,该芯片将于今年一季度上车验证,并计划于年底准备量产。芯智科技位于中国声谷,由云知声携手亿咖通科技共同投资成立,致力于研究在智能座舱内充分发掘端的算力以及语音离线处理能力的AI芯片。据悉,该款车规级全栈语音AI芯片作为新一代高性能车规级语音专用芯片,可以在复杂的环境下进行语音识别,通过采用面向深度学习和语音信号处理的AI定制指令以及体系架构,极大提高了本地语音识别及语义处理速度,延时更低,而端云结合的混合应用架构设计,更可获得本地与云端能力的最佳平衡。这款芯片集音频信号处理模块、语音识别模块、离线分类引擎,自然语言处理模块、离在线仲裁模块、TTS引擎、离线推理
发表于 2020-01-09
地平线四度亮相CES,车规级AI芯片征程二代引爆多项量产合作
在拉斯维加斯举行的2020年国际消费电子展(CES)上,边缘 AI 芯片全球领导者地平线携中国首款车规级AI芯片征程二代、ADAS 解决方案、新一代Matrix自动驾驶计算平台及一系列智能驾驶落地成果参展,向参展观众展示了一个多层次、多维度、多场景的智能驾驶“芯”生态。2019年,随着征程二代量产并成功批量部署前装定点,地平线国内外业务增长迎来了新的拐点。作为商业化的关键一年,地平线与全球多家顶级Tier1s在ADAS、自动驾驶、多模交互等领域展开多维度合作,智能驾驶业务年内订单高达数亿元。四度参展 CES,从零到一,地平线用自己的方式为人工智能普惠大众走出了一条坚实的商业化道路。位于南 2 馆 26026 展位的地平线展台车规级
发表于 2020-01-08
地平线四度亮相CES,车规级AI芯片征程二代引爆多项量产合作
吴忌寒缘何卸任比特大陆法定代表人?
据天眼查数据显示,比特大陆的运营主体北京比特大陆科技有限公司发生工商变更,比特大陆联合创始人吴忌寒卸任法定代表人,由 CFO 刘路遥接任。而就在 2019 年 10 月 28 日,比特大陆也曾发生过高管变更,原比特大陆董事长詹克团退出法定代表人及经理,由吴忌寒接任。 据界面新闻报道,2019 年 10 月 29 日,比特大陆创始人吴忌寒对公司员工发邮件称要解除詹克团在比特大陆的一切职务,即刻生效。“比特大陆任何员工不得再执行詹克团的指令,不得参加詹克团召集的会议,如有违反,公司视情节轻重考虑解除劳动合同;对公司经济利益造成损害的,公司将依法追究民事或刑事责任。”而在此前,由于对是否发展 AI 芯片业务存在强烈分歧,吴忌寒
发表于 2020-01-06
吴忌寒缘何卸任比特大陆法定代表人?
小广播
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2020 2689mr.com, Inc. All rights reserved
注册送彩金信誉网站 棋牌正版送彩金 彩票大赢家 送彩金的娱乐场 彩票大赢家 澳客彩票 正规官网送彩金 澳门赌场送彩金 全讯网送彩金 博彩送彩金全讯网