研究背景
近年来,人工智能技术得到快速发展,使其在医疗诊断、物联网和智能机器人等领域得到广泛应用,从而促使人类社会逐渐迈向智能化社会。但是,随之而来的是待处理的数据量的指数式增长。而现有的计算系统仍然是基于传统的存算分离的冯‧诺伊曼架构,已经无法满足高速、高能效数据处理的需求。因此,存储池计算作为一种新型的神经形态计算架构是一种很有前景的解决方案,成为当下神经形态计算领域的研究热点之一。
存储池计算源于2001年Jaeger提出的回声状态网络和2002年Maass提出的液体状态机,主要包括输入层、存储池和输出层三部分。其中,输入权重和输出权重是不需要训练的,只有输出权重需要通过简单的线性回归算法进行训练,这使得存储池计算可以大幅度降低计算的时间和能量消耗。目前,存储池计算主要是利用现实世界的不同物理现象来进行硬件实现的。值得注意的是,许多新兴物质(如自组装的纳米线网络)的出现为物理实现存储池计算提供了更多的硬件平台,并可以利用材料的本征动力学特性实现计算(称之为基于材料的存储池计算)。
在众多物理系统中,纳米线网络型存储池计算具有显著的优势而备受关注。一方面,自组装赋予纳米线网络结点高的突触连接性,并提供优异的适应性、容错性和鲁棒性,使其与生物神经网络具有很大的相似性,这是单个元器件所无法实现的。另一方面,自组装的纳米线系统强调的整个系统的动力学特性,而不需要微调单个组成元素。这些优点使得纳米线网络成为实现存储池计算最有前景的硬件平台之一。
/ 工作亮点/
存储池计算系统的核心是存储池。本文从纳米线网络型存储池器件的制备、工作机制、动力学特性和神经形态应用等角度系统地回顾了基于纳米线网络的物理存储池计算的研究进展。最后总结归纳了纳米线网络型存储池计算目前所面临的挑战和未来的机遇。本文不仅有助于加深对纳米线网络型存储池计算的理解,也为纳米线网络型存储池计算的进一步研究提供指导。
图文 导读
目前,文献中报道的纳米线有多种类型。图1(a)和(b)分别展示了两种典型的忆阻和忆容型纳米线的表面结构。如图所示,纳米线是一种具有核/壳结构的一维材料,表面被各种功能材料所包覆。根据所用材料的不同,纳米线通常分为三类。一是金属/金属无机化合物纳米线,如Ag/Ag2Se;二是金属/有机物纳米线,如Ag/PVP(聚乙烯吡咯烷酮);三是有机物/有机物纳米线,如SWNT/Por–POM(单壁碳纳米管/卟啉-杂多酸化合物)。纳米线的合成方法有氧化还原法、多元醇法和模板法等。
(a) 高度互连的Ag/PVP忆阻纳米线网络的光学显微镜图像;(b) SWNT/Por–POM忆容纳米线的原子力显微镜图像
纳米线网络的制备主要是得到具有随机交叉互连网络结构的薄膜。如图2(a)所示,将制备好的纳米线溶液通过动态旋涂的方法滴加在旋转的衬底上,通过离心力的作用均匀地涂覆在衬底表面。经过一段时间的自然干燥,得到纳米线网络。由于纳米线中可能含有有机物,使其与传统的CMOS制备工艺不兼容。因此,不含有机物的纳米线网络的多电极阵列的制备可以采用光刻工艺辅助完成(图2(b)),而含有有机物的纳米线网络的多电极阵列的制备需要采用硬掩模的方法完成(图2(c))。制备电极的主要目的是将电极按一定的间距排列,以固定测试的探针之间的距离。因此,也可以通过在外部设计探针台来固定探针之间的距离,而无需制备测试电极,如图2(d)所示。
(a) 动态旋涂法制备纳米线网络示意图;(b)通过光刻工艺制备电极阵列的工艺流程图;(c) 通过掩模工艺制备电极阵列的工艺流程图;(d) 通过金属探针扎在纳米线网络上实现电接触的示意图
在纳米线的交叉点处形成的金属-绝缘体-金属三明治结构可以看作是一个两端器件。由于使用的材料不同,纳米线表现出两种不同的工作机制,即忆阻原理和忆容原理。它们分别是由电阻和电容的变化引起的。如图3(a)和(b)所示,Ag/PVP忆阻纳米线结点中金属Ag先在电场作用下发生氧化反应形成Ag+,然后Ag+在电场作用下定向移动到阴极并被还原成Ag,形成Ag导电细丝,使得结点从初始的高阻态转换到低阻态。撤去电场后,导电细丝会自发溶解,使结点又自发回到初始态。忆阻结点就是这样在电场作用下实现高阻态和低阻态之间的切换。忆容纳米线的工作机制也是基于分子的氧化还原反应,使得结点电容器发生充放电行为,进而影响结点的电阻并引起电阻开关行为。例如,POM 分子吸附在SWNT上发生多级氧化还原反应时会导致电阻的非线性变化,并产生负的差分电阻(negative differential resistance,NDR)现象,如图3(c)和(d)所示。
(a) 单个忆阻纳米线交叉结点的忆阻工作机制的示意图;(b) 忆阻纳米线中级联的忆阻结点构成的导电路径的直流I-V曲线;(c) 单个忆容纳米线结点的忆容工作机制的示意图;(d)循环电压扫描下的电流变化,插图展示了负的差分电阻峰
纳米线网络中结点之间的相互作用赋予网络丰富的动力学特性,如与网络拓扑结构相关的小世界特性、WTA(Winner takes all,胜者为王)特性、自适应重构特性和幂律缩放特性等,以及与存储池计算性能相关的短时记忆特性、非线性特性、高维特性、分离和近似特性。正是由于具有这些丰富的动力学特性,纳米线网络非常适合作为存储池计算的硬件平台。通过简单的线性回归算法如岭回归算法对纳米线网络存储池计算系统的读出层进行监督式训练,便可以利用该系统去处理一些时序任务,主要包括识别、分类和预测任务。例如,Tanaka等构建了Ag/Ag2Se纳米线网络存储池计算系统,并实现了语音识别和分类(图4(a)、(b)和(c))。此外,Tanaka等构建了SWNT/Por-POM纳米线网络存储池计算系统,并应用到丰田人工辅助机器人(Toyota Human Support Robot ,HSR)上,实现目标分类和抓取任务(图4(d)和(e))。此外,纳米线存储池计算系统还可以完成一些其它任务如波形产生任务。图4(f)和(g)展示了Tanaka等利用Ag/Ag2Se纳米线网络存储池计算系统产生余弦波的过程,并获得了较高的准确率(~99%)。
目前的研究结果都展示了纳米线网络存储池计算系统在处理时序信息方面的潜力。虽然目前距离实际应用还存在很多问题,相信通过相关科研工作者的共同努力,这些问题终将会被逐一攻克。届时,纳米线网络存储池计算系统会融入人们的日常生活并带来极大的便利,促使人类社会迈向智能化社会。
(a) 语音分类的示意图,用Ag2Se存储池器件对不同说话人进行分类的混淆矩阵(b)和分类得分(c);(d) 丰田人工辅助机器人(左)的机械臂(中)连着一个夹子,通过力-扭矩传感器收集夹子角度变化的触觉数据来获得施加到物体上的力;(e) SWNT/Por-POM存储池的监督式二元物体分类的预测分类结果;(f) 波形产生任务的流程图;(g) 室温下余弦波产生任务的结果 |