表
1
巴甫洛夫联想记忆电路的对比信息汇总
| Citation: | DONG Zhekang, QIAN Zhikai, ZHOU Guangdong, JI Xiaoyue, QI Donglian, LAI Junsheng. Memory Circuit Design, Implementation and Analysis Based on Memristor Full-function Pavlov Associative[J]. Journal of Electronics & Information Technology, 2022, 44(6): 2080-2092. doi: 10.11999/JEIT210376
|
神经形态计算系统描述了受生物大脑启发运用动/静态电路来模拟神经生物学结构和功能的超大规模集成系统，其以现代电路理论为基础，广泛融合神经生物学、材料科学、脑科学等不同领域的前沿成果，旨在解决传统计算架构并行计算能力弱、信息层级处理效率低等问题[1,2]。科学界普遍认为：由脑科学启发的神经形态计算系统的深入研究有利于推进新一代人工智能技术和新型信息产业的发展[3,4]。特别地，在神经形态计算系统的研究过程中，“联想记忆电路”能够模拟生物真实的学习和遗忘过程，是构建更接近于人类大脑结构和功能的智能信息处理系统的关键[5,6]。
巴甫洛夫条件反射实验作为生物联想记忆的经典案例之一[7,8]，其对应的电路实现方案被相关领域的学者广泛研究。目前，巴甫洛夫联想记忆电路的实现方案大致可以分为两类：
(1)基于忆阻器实物的实现方案：2012年德国基尔大学Zigler团队[7]成功研制了一种Pt/Ge0.3Se0.7/SiO2/Cu结构的忆阻器，并结合少量的模拟电路元器件，设计了一种具有简单联想学习功能的巴甫洛夫条件反射电路。2013年Bicher等人[8]设计了一种基于单个纳米颗粒有机记忆场效应管 (Nanoparticle Organic Memory Field-Effect Transistor, NOMFET)忆阻器的电子突触，在此基础上搭建了巴甫洛夫条件反射电路，实现了联想记忆中的学习和遗忘过程。Hu等人[9]研制了一种具有生物突触的短/长时程可塑性的忆阻器，并利用该忆阻器构建了相应的多层神经网络，成功模拟了巴甫洛夫条件反射实验过程。Li等人[10]制备了Ag/AgInSbTe/Ta结构的忆阻器，并结合该器件特征，设计了一种结构简单、操作方便的联想学习电路，实验证明该电路能够模拟巴甫洛夫条件反射实验中的学习和遗忘功能。Yu等人[11]以壳聚糖为原料制备了一种柔性忆阻器，基于脉冲时序依赖可塑性学习规则设计了忆阻神经形态电路，模拟巴甫洛夫联想记忆中的学习和遗忘过程。徐威等人[12]制备了一种Cu/MXene/SiO2/W结构的忆阻器，基于该器件构建了忆阻突触并设计神经形态电路，成功模拟了经典巴浦洛夫条件反射行为。Pei等人[13]研制了低功耗、高稳定的碳量子点忆阻器，完成了包括短/长时程可塑性、脉冲时序依赖可塑性、稳态可塑性在内的多类型突触可塑性的测试，并以此构建忆阻神经形态电路，实现了巴甫洛夫联想记忆。
(2)基于忆阻器模型的实现方案：2010年Pershin团队[14]设计了一种2输入1输出(2I1O)结构的巴甫洛夫条件反射电路，该电路使用2个忆阻突触连接3个电子神经元实现联想记忆。2013年Chen等人[15]基于MIF学习规则和多阈值神经元模型设计了一种忆阻神经网络，该网络能够模拟巴甫洛夫条件反射的泛化和分化学习。2016年Wang等人[16]构建了基于脉冲速率依赖可塑性的忆阻神经网络，实现了联想记忆中的学习过程和两类遗忘过程。2018年Yang等人[17]构建了一种基于忆阻器的全功能巴甫洛夫联想记忆电路，实现了联想记忆中的学习过程和3类遗忘过程。该团队进一步设计了一种具有泛化和分化学习能力的联想记忆电路，采用强化学习的方法对电路进行训练，扩展了巴甫洛夫条件反射电路的功能[18]。2021年Sun等人[19]设计了一种具有双模式切换功能的忆阻神经网络电路，该电路考虑了不同学习过程之间的抑制效应，成功模拟了包含声音和光照两种刺激的巴甫洛夫条件反射行为。
上述两类实现方案在一定程度上均能模拟经典的巴甫洛夫条件反射实验，但是也存在着各自的问题(汇总于表1)：基于忆阻器实物的实现方案由于忆阻器在制备过程中影响因素较多且难以控制，使得忆阻器性能不稳定且器件之间存在较大差异，仅能模拟联想记忆中简单的学习或遗忘过程；基于忆阻器模型的实现方案通常能模拟功能相对完备的巴甫洛夫联想记忆过程，但是往往存在电路结构复杂、器件数量繁多、功耗过高等问题。此外，对于经典的条件反射来说，条件刺激与非条件刺激必须遵循严格的时序关系[7,8]。部分实现方案的学习过程未考虑刺激的输入顺序，与实际的条件反射形成机制不符，缺乏真实的生物特性。基于此，本文提出一种新型全功能巴甫洛夫联想记忆电路，主要贡献如下：
(1)基于水热合成法和磁控溅射法成功制备了Ag/TiOx nanobelt/Ti忆阻器，利用电化学工作站、四探针测试台和透射电子显微镜组成的性能测试系统，剖析了空气中水分子与氧空位作用对Ag/TiOx nanobelt/Ti忆阻器性能的影响，为后续忆阻器件的制备和应用提供了良好的参照。
(2)分析Ag/TiOx nanobelt/Ti忆阻器内部的物理机制，利用测试数据分别构建了对应的数学模型和SPICE电路模型，为实物忆阻器与神经形态计算系统、大规模集成电路等领域的深度融合提供了模型支持。
(3)利用提出的忆阻器电路模型，设计了一种包含2类学习过程和3类遗忘过程的全功能巴甫洛夫联想记忆电路，相比于已有的工作，提出的电路设计更简单、功能更完善且实现过程更符合生物的真实特性。
本文基于水热合成法和磁控溅射法制备了Ag/TiOx nanobelt/Ti 结构的忆阻器，其中水热合成法用于制备TiOx纳米带，磁控溅射法用于制备Ag电极，具体的忆阻器制备流程如图1所示。
步骤1 为了去除钛片表面的污染物，将钛片用去离子水、盐酸依次清洗30 min；
步骤2 将清洗干净的钛片移至马沸炉，在200 °C的空气中热处理3 h；
步骤3 称取2.0 g的NaOH加入20 mL的去离子水中，并且在室温下搅拌30 min直至其完全溶解；
步骤4 称取2.0 g的TiO2纳米粉末(纳米球的平均直径约为20 nm)，加入到上述制备好的NaOH溶液中，同时用磁力搅拌器不断搅拌直至TiO2纳米粉末完全溶解，制备得到前驱体溶液；
步骤5 将上述前驱体溶液转移到50 mL的水热反应釜中，同时往水热反应釜中插入经过热处理的钛片，本次制备过程中，钛片将作为TiOx纳米带阵列的基底；
步骤6 将反应釜放置于一个200 °C的烘箱中并保持48 h，钛片基底表面形成蓝灰色薄膜；
步骤7 取出钛片，依次使用浓度为10%HCl和去离子水清洗90 s和10 min；
步骤8 清洗操作完成之后，将该钛片放置在80 °C的烘箱中干燥24 h；
步骤9 采用磁控溅射的方法，在表面生长TiOx纳米带阵列的钛片上制备直径约为200 μm、厚度约为100 nm的Ag电极，形成Ag/TiOx nanobelt/Ti结构的忆阻器。
本文利用电化学工作站(CHI-660D)、四探针测试台(Lake Shore TTPX)和透射电子显微镜对制备的Ag/TiOx nanobelt/Ti忆阻器进行联合性能测试，具体的测试电路如图2(a)所示。特别地，电化学工作站主要用于测试忆阻器的I-V特性曲线，四探针测试台腔体内安装有小型湿度计负责检测空气相对湿度(Relative Humidity, RH)，透射电子显微镜用于表征材料的化学性能。基于图2(a)，测试电路的左边为Ag电极的光学图像，测试电路的右边为纳米带的透射电子显微镜图像。Ag/TiOx nanobelt/Ti忆阻器的忆阻效应是由氧空位迁移和金属(Ag)导电细丝的形成和断裂共同主导的。当对Ag电极施加负向扫描电压，Ti电极接地时，TiOx nanobelt/Ti界面处的氧空位逐渐向Ag电极方向迁移，而Ag/TiOx nanobelt界面处的水分子与氧空位进行分解反应产生OH─。随着负向扫描电压逐渐增加，OH─不断增加，氧空位迁移形成的导电通道不断被扩宽，忆阻器逐渐由高阻态(High Resistance State, HRS)转变为低阻态(Low Resistance State, LRS)。同样地，当对Ag电极施加正向扫描电压，Ti电极接地时，Ag电极开始氧化形成Ag+，在电场作用下向Ti电极迁移，到达Ti电极后还原成Ag原子并堆积产生金属细丝导电通道。特别地，该导电通道与氧空位迁移形成的导电通道方向相反，此时器件电流增加缓慢，器件仍处于LRS。当正向扫描电压逐渐减小至零时，金属细丝导电通道和氧空位迁移形成的导电通道处于断裂状态，器件由LRS转变为HRS。
图2(b)分别是空气相对湿度为0%，35%和95%时测量得到的器件I-V特性曲线，器件两端所加的电压为±6 V，电压扫描的速率为1 V/s。需要说明的是，3类空气相对湿度的实验环境可以通过以下方法获得：(1)在实验室条件下，其空气相对湿度约为35%；(2)将加热后的实验室空气通入3个相互连接的装有CaO粉末的试管，可获得空气相对湿度为0%的实验环境；(3)将实验室空气持续通入装有去离子水的洗气瓶，可以得到空气相对湿度约为95%的实验环境。基于图2(b)，Ag/TiOx nanobelt/Ti忆阻器的I-V特性会受到环境湿度的影响。具体地，当环境湿度RH=0%时，器件中能观察到非标准法拉第电容状态(Non-standard Faradic Capacitance, NFC)；当RH的值增加到35%～45%时，器件中能够观察到类电池电容状态(Battery-Like Capacitance, BLC)；当RH的值继续增加到95%～100%时，器件中能够观察到阻变状态(Resistive Switching, RS)。需要说明的是，本文讨论的Ag/TiOx nanobelt/Ti忆阻器即环境湿度RH保持在95%～100%时的Ag/TiOx nanobelt/Ti器件。
基于文献[20-22]，大部分忆阻器的制备容易受到实验环境、纳米材料等诸多不可控因素的影响，导致器件差异性较大，后续的应用研究难以开展。因此，这部分主要对制备得到的Ag/TiOx nanobelt/Ti忆阻器进行建模，具体如下：
Ag/TiOx nanobelt/Ti忆阻器的忆阻效应由氧空位迁移形成的导电通道和金属细丝形成的导电通道共同主导，满足肖特基隧穿(Schottky tunneling)机理[23]。该机理的数学表达式为
|
J∝exp(βKBTE12−φKBT) |
(1) |
|
β=√q34πε0εr |
(2) |
其中，
同时，Afifi等人[24]证明：在电场作用下，流经忆阻器的电流与忆阻器两端的电压之间满足sinh函数的曲线变化规律。基于以上分析，本文构建的忆阻器的I-V特性方程为
|
iGm(t)={a1⋅x(t)⋅exp(b1⋅x(t)3+1)⋅sinh(c1⋅(v(t)−vth1)3+d1),v(t)<0a2⋅x(t)⋅exp(b2⋅x(t)3+1)⋅sinh(c2⋅(v(t)−vth2)3+d2),v(t)>0 |
(3) |
其中，v(t)表示输入电压，
进一步，忆阻器状态变量x(t)的动态方程表示为
|
iGx(t)=dxdt=h(v)⋅f(x) |
(4) |
|
h(v)={kL⋅(v(t)−vth1)αL,v(t)<vth1<00,vth1≤v(t)≤vth2kH⋅(v(t)−vth2)αH,0<vth2<v(t) |
(5) |
其中，vth1和vth2分别表示忆阻器的正向阈值电压和反向阈值电压，kH, kL, αH和αL均为拟合参数。f(x)表示窗函数，主要用于保证状态变量x(t)始终处于[xmin, xmax]范围内。特别地，当x(t)=xmin时，忆阻器的阻值为极大值RH；反之，当x(t)=xmax时，忆阻器的阻值为极小值RL。窗函数的具体形式如式(6)所示[25]
|
f(x)={fL(x)=exp(−exp(aL−xwc))fH(x)=exp(−exp(x−aHwc)) |
(6) |
其中，wc, aL和aH均为拟合参数。
需要指出的是，本文中各项拟合参数均采用基于顺序模型的全局参数优化算法[26](Sequential Model-Based global Optimization, SMBO)得到。
接着，本文构建了Ag/TiOx nanobelt/Ti忆阻器模型的等效电路(如图3(a)所示)，该电路包含两个电流源Gm, Gx和一个电容Cx。对应地，模型拟合仿真结果如图3(b)所示，其中蓝色圆球表示Ag/TiOx nanobelt/Ti忆阻器在扫描电压(幅值：6 V，扫描速率：1 V/s)作用下实测的I-V响应数据，红色实线表示忆阻器的I-V响应曲线。为了验证构建的忆阻器模型的精确度，本文使用相对均方根误差(Relative Root Mean Square Error, RRMSE)作为评判标准[27]，RRMSE的数值越小，表明构建的忆阻器模型与制备的实物忆阻器越接近。经过严谨的计算，本文模型的RRMSE为0.138%(远小于1%)，验证了提出模型的精准度。
相应地，为了促进该忆阻器模型在电路仿真中的应用，本文构建了Ag/TiOx nanobelt/Ti忆阻器的SPICE模型，其子电路描述如表2所示。
| * Ag/TiOx nanobelt/Ti memristor |
| .SUBCKT IJBCMEM Plus Minus PARAMS: |
| +kL=-6 AlphaL=2 aL=-1 wL=2 a1=0.22 b1=-0.38 c1=0.166 d1=9.96E-05 kH=3E-3 AlphaH=4 aH=-1 wH=1 |
| +a2=0.22 b2=-10 b2=-10 c2=8.15 d2=3E-08 Vth1=0 Vth2=0 |
| ****************Differential equation mode*************** |
| Gx 0 x value={F(V(x),V(Plus,Minus),aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)} |
| Cx x 0 1 IC={0} |
| Raux x 0 1T |
| ***********************Ohms law*********************** |
| Gm Plus Minus value={IVRel(V(x),V(Plus,Minus),a1,a2,b1,b2,c1,c2,d1,d2)} |
| ***********************Functions*********************** |
| .func f1(x,v,kL,AlphaL,aL,wL)={kL*v^AlphaL*exp(-exp(aL*x+wL))} |
| .func f2(x,v,kH,AlphaH,aH,wH)={kH*v^AlphaH*exp(-exp(aH*x+wH))} |
| .func f3(x,v,a1,b1,c1,d1)={a1*x*exp(b1*x^3+c1)*sinh(d1*(v)^3)} |
| .func f4(x,v,a2,b2,c2,d2)={a2*x*exp(b2*x^3+c2)*sinh(d2*(v)^3)} |
| .func F(x,v,aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)={if(v<Vth1,f1(x,v,kL,AlphaL,aL,wL), |
| +if(v>Vth2,f2(x,v,kH,AlphaH,aH,wH),0))} |
| .func IVRel(x,v,a1,a2,b1,b2,c1,c2,d1,d2)={if(v<Vth1,f3(x,v,a1,b1,c1,d1),if(v>Vth2,f4(x,v,a2,b2,c2,d2),0))} |
| ENDS Ag/TiOx nanobelt/Ti memristor |
基于经典的巴甫洛夫条件反射实验[28,29]，实验过程可以分为两个部分，即学习过程和遗忘过程。
(1)学习过程：初始状态下，当实验者给狗喂肉时，狗本能地发生流涎反应，此时肉属于非条件刺激(Unconditional Stimulus, US)；当单独给狗提供铃声时，狗不会发生流涎反应，此时的铃声属于中性刺激(Neural Stimulus, NS)。学习过程分为2种情况，L1：当给狗喂肉之前先提供铃声，经过反复训练后，仅给狗提供铃声时，狗会发生流涎反应，此时铃声由NS变为条件刺激(Conditional Stimulus, CS)。特别地，当实验者继续给狗提供一个类似刺激(Similar Stimulus, SS)时，狗同样也会产生流涎反应。需要注意的是，本文将SS假设为另一低响度铃声。L2：当给狗喂肉之前提供正常铃声，而提供低响度铃声时并不给狗喂肉，经过反复训练后，狗在听到正常铃声时会发生流涎反应，而在听到低响度铃声时将停止分泌唾液。
(2)遗忘过程：条件反射已经形成，遗忘过程分为3种情况，F1：仅给狗喂肉，经过一段时间，当单独给狗提供铃声时，狗未发生流涎反应；F2：仅给狗提供铃声，经过一段时间，当继续给狗提供铃声时，狗未发生流涎反应；F3：不提供任何刺激，经过一段较长的时间，给狗提供铃声时，狗未发生流涎反应。
需要说明的是，基于参考文献[30]，生物体记忆的形成过程包括感觉记忆(Sensory Memory, SM)、短期记忆(Short-Term Memory, STM)和长期记忆(Long-Term Memory, LTM)3个阶段。本文从短期记忆的机理出发，主要研究巴甫洛夫联想记忆中短期的学习过程和遗忘过程。为了更直观地表达上述两种学习过程和3种遗忘过程，本文将两个过程中涉及的所有信息汇总于表3。
| 学习过程 | 遗忘过程 |
 |  |
 |  |
 | |
 |  |
| / / / | |
 | |
结合表3，本文根据Ag/TiOx nanobelt/Ti忆阻器模型的电气特性，提出了一种新的基于忆阻的全功能巴甫洛夫联想记忆电路，如图4所示。
基于图4，电路为3输入1输出的结构，输入端US, RS和SS分别表示肉信号、正常铃声信号和低响度铃声信号，且每个信号均具有两种状态，即高电平状态VH和低电平状态VL。具体地，当US, RS和SS为VH时，表示给狗提供对应的信号；反之，当3种信号为VL时，表示不给狗提供任何信号。输出端则由输出电压Vout表示。主体电路由3个部分组成，即逻辑模块、计算模块以及输出模块。其中，逻辑模块由两个异或门构成，主要用于改变输入信号的状态。计算模块包含1个增益电路，2个忆阻器M1和M2(极限阻值为RL和RH)、2个常规电阻R1和R2、2个晶体管(控制电压为g)以及1个绝对值电路。特别地，绝对值电路为经典的双运算放大器级联电路，该电路具有精确性高、鲁棒性强的优势[31]。本文基于PSpice软件平台给出了一组绝对值电路的仿真测试结果(如图4左下区域所示)。输出模块由1组CMOS晶体管构成，主要用于模拟狗的流涎反应。具体地，当输出电压Vout=Vdd时，表示狗发生了流涎反应；当Vout=Gnd时，表示狗未发生流涎反应。特别地，为了电路能够正常运行，本文假设：RL=R1<<R2<<RH, M1和M2的初始阻值分别设置为RH和RL，电压VC<0。
基于表3，本文将整个过程分为7种情况(情况1—情况7)：其中，情况1为初始状态，情况2、情况4和情况6为学习过程(包含训练部分和测试部分)，情况3、情况5和情况7为遗忘过程，具体如下：
情况1 (1) 当g=US=1, RS=SS=0时(逻辑“1”表示高电平VH，逻辑“0”表示低电平VL)，根据基尔霍夫电流定律KCL，得到节点电压方程
|
VH−VSR1+VH−VSM1=VS−VCR2 |
(7) |
根据参数设定，M1的初始阻值为RH，由于R1<<R2<<RH且VC<0，进一步化简等式(7)得到节点电压VS≈VH。此时，输出电压Vout等于Vdd，表明给狗喂肉能够发生流涎反应。
(2) 当g=RS=1, US=SS=0时，根据KCL得到节点电压方程
|
VL−VSR1+VH−VSM1=VS−VCR2 |
(8) |
根据参数设定，M1的初始阻值为RH，本文设定VL=0 V，得到节点电压VS≈VC·R1/(R1+R2)≈0 V。此时Vout等于Gnd，表明给狗单独提供铃声未发生流涎反应，此时铃声信号属于NS。
情况2 (1) 当g=US=RS=1，SS=0时(训练阶段)，根据KCL得到节点电压方程
|
VH−VSR1+VL−VSM1=VS−VCR2 |
(9) |
根据忆阻值的变化规律，M1将减小至RL，本文假设RL=R1，得到节点电压VS≈0.5VH。此时，输出电压Vout等于Vdd，表明给狗提供铃声和肉时，狗能够发生流涎反应。
(2) 当g=RS=1, US=SS=0时(测试阶段)，由于忆阻器具有非易失性，M1仍为RL，此时节点电压VS≈0.5VH, Vout=Vdd，表明经过训练后单独给狗提供铃声能发生流涎反应，铃声信号转变为CS。
(3) 当g=RS=US=0，SS=1时(测试阶段)，根据KCL得到节点电压方程
|
VL−VSR1+VMid−VSM2=VS−VCR2 |
(10) |
其中，VMid为经过增益电路得到的输出电压，其幅值为VH的1/2。由于M2的初始阻值为RL，得到瞬时节点电压VS≈0.25VH, Vout=Vdd，表明经过训练后，给狗提供一个类似信号也能发生流涎反应(属于L1类别)。
情况3 (1) 当g=US=1, RS=SS=0时，电路的输入、输出情况与情况1的(1)相同，忆阻器M1将增大至极大忆阻值RH，节点电压VS≈VH，输出电压Vout等于Vdd，表明狗发生了流涎反应。
(2) 当g=RS=1, US=SS=0时，节点电压方程与式(8)一致，由于M1的阻值趋于RH，此时VS≈0 V, Vout=Gnd，狗未发生流涎反应。上述两个步骤表明：给狗单独喂肉一段时间后再给狗提供铃声，狗不会发生流涎反应，表明狗遗忘了先前建立的条件反射(属于F1类别)。
情况4 该种情况下电路的输入、输出情况与情况2的(1)和(2)相同，根据忆阻值的变化规律，M1将减小至RL，VS≈0.5VH，Vout=Vdd，表明再次给狗提供肉和铃声训练一段时间，狗能重新建立条件反射。
情况5 (1) 当g=RS=1，US=SS=0时，电路的输入、输出与情况4的(2)相同，M1瞬时阻值为RL，瞬时节点电压VS≈0.5VH，输出电压Vout=Vdd，表明该时刻单独给狗提供铃声能够发生流涎反应。
(2) 保持输入信号状态不变，节点电压方程与式(8)一致，M1将增大至RH, VS≈VC·R1/(R1+R2)≈0 V，输出电压Vout等于Gnd，表明给狗单独提供铃声一段时间后，狗不会发生流涎反应，表明狗遗忘了先前建立的条件反射(属于F2类别)，此时铃声信号属于中性刺激NS。
情况6 (1) 当g=US=RS=1，SS=0时(训练阶段)，电路的输入、输出与情况2的(1)相同，经过很短时间的训练，M1将减小至RL, VS≈0.5VH, Vout=Vdd，表明给狗提供铃声和肉时，狗能够发生流涎反应。
(2) 当g=RS=US=0，SS=1时(训练阶段)，经过一段时间的训练，M2将从初始阻值RL增大为RH，此时VS≈VL, Vout=Gnd，表明给狗单独提供另一铃声训练一段时间后，狗不会发生流涎反应。
(3) 当g=RS=1, US=SS=0时(测试阶段)，电路的输入、输出与情况2的(2)相同，此时M1的瞬时阻值为RL, VS≈0.5VH, Vout=Vdd，表明经过训练后单独给狗提供铃声能发生流涎反应，铃声信号转变为CS。
(4) 当g=RS=US=0, SS=1时(测试阶段)，M2的阻值为RH，节点电压VS≈VL，输出电压Vout等于Gnd，表明经过强化训练后，当给狗提供另一低响度铃声时，狗不会发生流涎反应。
情况7 (1) 当SS=RS=US=0, g=1时，根据KCL得到节点电压方程
|
VL−VSR1+VL−VSM1=VS−VCR2 |
(11) |
基于式(11)，得到VS≈VC/(R2/R1+R1/M1)≈0 V，表面此时M1无论取何值，输出电压Vout均趋于Gnd，表明既不给狗提供铃声也不给狗喂肉，狗不会发生流涎反应。
(2) 当g=RS=1, US=SS=0时，电路的输入、输出与情况1的(2)相同，表明给狗单独提供铃声时，狗不会发生流涎反应，狗遗忘了先前建立的条件反射(属于F3类别)，此时铃声为中性刺激NS。
本文实验过程中的硬件设备：戴尔塔式工作站(酷睿i7-6700型处理器、16 GB DDR4内存)。本文实验过程中使用的软件平台主要有Matlab 2016b和PSpice 9.2。其中，Matlab主要用于实现Ag/TiOx nanobelt/Ti忆阻器的数学建模以及数值仿真；PSpice主要用于模拟基于忆阻的巴甫洛夫联想记忆电路。
实验过程中具体参数设置如下：Ag/TiOx nanobelt/Ti忆阻器模型的参数详见表2，巴甫洛夫联想记忆电路中常规电阻R1=RL=100 Ω, R2=10 kΩ, RH=1 MΩ，绝对值子电路中电阻Ra1=Ra2=Ra3=Ra4=Ra5=10 kΩ，增益子电路中电阻Rg1=Rg2=Rg4=10 kΩ, Rg3=30 kΩ，电压部分VC=–3 V, Vdd=VH=6 V, VL=0 V。
图5中，实验结果包含两个过程：过程(1)和过程(2)。控制信号g(黑色实线)一直处于高电平状态，表明RS支路处于连通状态。过程 (1)：当US(红色实线)处于高电平状态而RS(绿色实线)处于低电平状态时，输出信号Vout(棕色实线)为高电平，表明给狗喂肉时，狗会发生流涎反应；过程 (2)：当US处于低电平状态而RS处于高电平状态时，输出信号Vout为低电平，表明给狗单独提供铃声时，狗未发生流涎反应，此时铃声属于NS。两个过程中，M1的阻值(紫色实线)一直处于初始状态(即RH)。
基于图6，实验结果包含3个过程：过程(1)、过程(2)和过程(3)。其中，过程(1)为训练过程，过程(2)和(3)均为测试过程。过程 (1)：控制信号g处于高电平状态，表明RS支路处于连通状态，RS提前US Δt≈10 ms输入电路，此时M1的阻值趋于RL, Vout为与US同步的高电平信号，表明狗产生流涎反应。特别地，当时间t≈500 ms时，铃声信号RS先于肉信号US提供给狗，Vout为高电平，表明狗建立了相应的条件反射，铃声信号由NS变为CS。过程(2)：控制信号g处于高电平状态，RS支路连通，此时US为低电平而RS为高电平，M1的阻值在2 ms之内由RL增大到2.0 kΩ，Vout处于高电平。该测试过程表明：当单独给狗提供铃声时，狗产生流涎反应。过程(3)：控制信号g处于低电平状态，SS支路连通，此时US为低电平而SS为高电平，M2的阻值(蓝色实线)在2 ms之内由RL增大到1.0 kΩ，输出Vout为与SS同步的高电平信号，该测试过程表明：当单独给狗提供另一低响度铃声时，狗也能发生流涎反应。
基于图7，实验结果包含两个过程：过程(1)和过程(2)。控制信号g一直处于高电平状态，表明RS支路处于连通状态。过程(1)：当US处于高电平状态而RS处于低电平状态时，M1的阻值持续增加至4.2 kΩ，Vout与US保持同步(即高电平状态)，该实验结果表明：条件反射形成后继续给狗喂肉，狗产生流涎反应。过程(2)：当US处于低电平状态而RS处于高电平状态时，M1的阻值继续增加至6.5 kΩ，输出信号Vout为低电平，该实验结果表明：给狗提供铃声时，狗未产生流涎反应，建立的条件反射消失，铃声变回NS。
基于图8，实验结果包含两个过程：过程(1)和过程(2)。其中，过程(1)为训练过程，过程(2)为测试过程。在(1)和(2)两个过程中，控制信号g均为高电平，表明RS支路一直处于连通状态。过程(1)：RS提前US Δt≈0.28 ms输入电路，此时M1的阻值趋于RL，Vout为高电平信号，表明狗发生了流涎反应。特别地，当时间t≈4.32 ms时，铃声信号RS先于肉信号US提供给狗，Vout表现为高电平，表明：狗在此时重新建立了条件反射。过程(2)：US为低电平而RS为高电平，M1的阻值由RL增大到0.6 kΩ，Vout处于高电平状态，该测试过程表明：当单独给狗提供铃声时，狗能发生流涎反应。
基于图9，实验结果包含两个过程，即过程(1)和过程(2)。控制信号g一直处于高电平状态，表明RS支路处于连通状态。过程(1)：当US为低电平而RS为高电平时，M1的阻值从0.6 kΩ增加至1.6 kΩ，Vout与RS保持同步(即高电平状态)。该实验结果表明：条件反射形成后继续单独给狗提供铃声，狗能发生流涎反应。过程(2)：维持输入信号的状态不变，M1的阻值持续增加。特别地，当t≈0.50 ms时，Vout由高电平变为低电平。该实验结果表明：继续给狗提供铃声，狗逐渐终止流涎反应，建立的条件反射消失。
基于图10，实验结果包含4个过程：过程(1)、过程(2)、过程(3)和过程(4)。其中，过程(1)和(2)为训练过程，过程(3)和(4)为测试过程。特别地，本次学习为过程(1)和(2)的交替学习，分别用紫色和蓝色方框表示。过程(1)：控制信号g处于高电平状态，RS提前US约5 ms(Δt)输入电路，M1的阻值在Δt内保持不变然后逐渐减小，Vout为与US同步的高电平信号，表明狗产生流涎反应。当t≈500 ms时，铃声信号RS先于肉信号US提供给狗，Vout表现为高电平，表明狗在此时建立了对应的条件反射(即给狗提供铃声，狗发生流涎反应)，铃声信号由NS变为CS。过程(2)：控制信号g处于低电平状态，US为低电平而SS为高电平，M2的阻值在Δt内保持不变然后逐渐增加。当t≈50 ms时，给狗提供低响度铃声信号，Vout由高电平变为低电平，表明狗在此时建立了对应的条件反射(即给狗提供低响度铃声，狗不发生流涎反应)，低响度铃声信号由NS变为CS。需要说明的是，两个学习过程结束后，M1的阻值为RL，M2的阻值约为0.28 MΩ。过程(3)：控制信号g处于高电平状态，此时US为低电平而RS为高电平，M1的阻值由RL增大到2.0 kΩ，Vout处于高电平状态，表明：当单独给狗提供铃声时，狗能发生流涎反应。过程(4)：控制信号g处于低电平状态，此时US为低电平而SS为高电平，M2的阻值增大到0.3 MΩ，Vout处于低电平状态，表明：当单独给狗提供另一低响度铃声时，狗未发生流涎反应。
基于图11，实验结果包含两个过程，即过程(1)和过程(2)。控制信号g一直处于高电平状态，RS支路处于连通状态。过程(1)：当US和RS均为低电平时，M1的阻值维持在2.0 kΩ，Vout处于低电平状态，实验结果表明：当不给狗提供任何信号，狗不会发生流涎反应。过程(2)：当US为低电平而RS为高电平时，M1的阻值从2.0 kΩ持续增加到4.2 kΩ，Vout仍然保持低电平状态，该实验结果表明：给狗单独提供铃声时，狗未产生流涎反应，建立的条件反射消失，铃声变回NS。
本文主要研究基于忆阻的全功能巴甫洛夫联想记忆电路的实现方法，具体如下：首先，本文基于水热合成法和磁控溅射法制备了Ag/TiOx nanobelt/Ti 结构的忆阻器，并完成相应的性能测试，剖析了空气中水分子与氧空位作用对Ag/TiOx nanobelt/Ti忆阻器的影响；接着，构建了Ag/TiOx nanobelt/Ti忆阻器的数学模型和SPICE电路模型，并通过客观评价验证了模型的精确度(RRMSE=0.138%)；进一步，提出了一种基于Ag/TiOx nanobelt/Ti忆阻器的全功能巴甫洛夫联想记忆电路，通过全面的电路分析和数学推导，理论说明了该电路能够正确模拟巴甫洛夫实验中两类学习过程(L1和L2)和3类遗忘过程(F1, F2和F3)；最后，通过一系列PSpice电路仿真和分析(情况1—情况7)，验证了提出电路的正确性和有效性。需要说明的是，本文提出的电路有望进一步应用于类脑智能机器人中模拟其记忆与遗忘的方式。同时，本文方案为后续基于真实忆阻器件的神经形态计算系统研究提供了一定的理论基础和实验支撑，同时为纳米材料科学与现代电路理论的深度融合提供了新的途径。
此外，本文主要从现有的短期记忆机理出发，旨在模拟巴甫洛夫联想记忆中的短期记忆形成和遗忘过程。在未来研究工作中，本研究团队将进一步研究如何自主实现短期记忆向长期记忆的功能转换和动态更新机制，设计对应的系统演化模型，构建记忆网络转化电路。
| [1] |
ZYARAH A M, GOMEZ K, and KUDITHIPUDI D. Neuromorphic system for spatial and temporal information processing[J]. IEEE Transactions on Computers, 2020, 69(8): 1099–1112.
|
| [2] |
RYU J H, KIM B, HUSSAIN F, et al. Bio-inspired synaptic functions from a transparent zinc-tin-oxide-based memristor for neuromorphic engineering[J]. Applied Surface Science, 2021, 544: 148796. doi: 10.1016/j.apsusc.2020.148796
|
| [3] |
董哲康, 杜晨杰, 林辉品, 等. 基于多通道忆阻脉冲耦合神经网络的多帧图像超分辨率重建算法[J]. 电子与信息学报, 2020, 42(4): 835–843. doi: 10.11999/JEIT190868
DONG Zhekang, DU Chenjie, LIN Huipin, et al. Multi-channel memristive pulse coupled neural network based multi-frame images super-resolution reconstruction algorithm[J]. Journal of Electronics &Information Technology, 2020, 42(4): 835–843. doi: 10.11999/JEIT190868
|
| [4] |
DONG Zhekang, LAI C S, ZHANG Zhaowei, et al. Neuromorphic extreme learning machines with bimodal memristive synapses[J]. Neurocomputing, 2021, 453: 38–49. doi: 10.1016/j.neucom.2021.04.049
|
| [5] |
DONG Zhekang, QI Donglian, HE Yufei, et al. Easily cascaded memristor-CMOS hybrid circuit for high-efficiency boolean logic implementation[J]. International Journal of Bifurcation and Chaos, 2018, 28(12): 1850149. doi: 10.1142/S0218127418501493
|
| [6] |
YANG Zijia and WANG Xiaoping. Memristor-based BAM circuit implementation for image associative memory and filling-in[J]. Neural Computing and Applications, 2021, 33(13): 7929–7942. doi: 10.1007/s00521-020-05538-7
|
| [7] |
ZIEGLER M, SONI R, PATELCZYK T, et al. An electronic version of Pavlov’s dog[J]. Advanced Functional Materials, 2012, 22(13): 2744–2749. doi: 10.1002/adfm.201200244
|
| [8] |
BICHLER O, ZHAO W, ALIBART F, et al. Pavlov’s dog associative learning demonstrated on synaptic-like organic transistors[J]. Neural Computation, 2013, 25(2): 549–566. doi: 10.1162/NECO_a_00377
|
| [9] |
HU S G, LIU Y, LIU Z, et al. Synaptic long-term potentiation realized in Pavlov’s dog model based on a NiOx-based memristor[J]. Journal of Applied Physics, 2014, 116(21): 214502. doi: 10.1063/1.4902515
|
| [10] |
LI Yi, XU Lei, ZHONG Yingpeng, et al. Associative learning with temporal contiguity in a memristive circuit for large-scale neuromorphic networks[J]. Advanced Electronic Materials, 2015, 1(8): 1500125. doi: 10.1002/aelm.201500125
|
| [11] |
YU Fei, ZHU Liqiang, XIAO Hui, et al. Restickable oxide neuromorphic transistors with spike-timing-dependent plasticity and Pavlovian associative learning activities[J]. Advanced Functional Materials, 2018, 28(44): 1804025. doi: 10.1002/adfm.201804025
|
| [12] |
徐威, 王钰琪, 李岳峰, 等. 新型忆阻器神经形态电路的设计及其在条件反射行为中的应用[J]. 物理学报, 2019, 68(23): 238501. doi: 10.7498/aps.68.20191023
XU Wei, WANG Yuqi, LI Yuefeng, et al. Design of novel memristor-based neuromorphic circuit and its application in classical conditioning[J]. Acta Physica Sinica, 2019, 68(23): 238501. doi: 10.7498/aps.68.20191023
|
| [13] |
PEI Yifei, ZHOU Zhenyu, CHEN A P, et al. A carbon-based memristor design for associative learning activities and neuromorphic computing[J]. Nanoscale, 2020, 12(25): 13531–13539. doi: 10.1039/D0NR02894K
|
| [14] |
PERSHIN Y V and DI VENTRA M. Experimental demonstration of associative memory with memristive neural networks[J]. Neural Networks, 2010, 23(7): 881–886. doi: 10.1016/j.neunet.2010.05.001
|
| [15] |
CHEN Ling, LI Chuandong, WANG Xin, et al. Associate learning and correcting in a memristive neural network[J]. Neural Computing and Applications, 2013, 22(6): 1071–1076. doi: 10.1007/s00521-012-0868-7
|
| [16] |
WANG Lidan, LI Huifang, DUAN Shukai, et al. Pavlov associative memory in a memristive neural network and its circuit implementation[J]. Neurocomputing, 2016, 171: 23–29. doi: 10.1016/j.neucom.2015.05.078
|
| [17] |
YANG Le, ZENG Zhigang, and WEN Shiping. A full-function Pavlov associative memory implementation with memristance changing circuit[J]. Neurocomputing, 2018, 272: 513–519. doi: 10.1016/j.neucom.2017.07.020
|
| [18] |
SHANG Meijia and WANG Xiaoping. A memristor-based circuit design for generalization and differentiation on Pavlov associative memory[J]. Neurocomputing, 2020, 389: 18–26. doi: 10.1016/j.neucom.2019.12.106
|
| [19] |
SUN Junwei, HAN Juntao, LIU Peng, et al. Memristor-based neural network circuit of Pavlov associative memory with dual mode switching[J]. AEU-International Journal of Electronics and Communications, 2021, 129: 153552. doi: 10.1016/j.aeue.2020.153552
|
| [20] |
LO H Y, YANG C Y, HUANG G M, et al. Observing topotactic phase transformation and resistive switching behaviors in low power SrCoOx memristor[J]. Nano Energy, 2020, 72: 104683. doi: 10.1016/j.nanoen.2020.104683
|
| [21] |
ZHOU Guangdong, REN Zhijun, SUN Bai, et al. Capacitive effect: An original of the resistive switching memory[J]. Nano Energy, 2020, 68: 104386. doi: 10.1016/j.nanoen.2019.104386
|
| [22] |
ZHOU Guangdong, REN Zhijun, WANG Lidan, et al. Resistive switching memory integrated with amorphous carbon-based nanogenerators for self-powered device[J]. Nano Energy, 2019, 63: 103793. doi: 10.1016/j.nanoen.2019.05.079
|
| [23] |
YU L S, LIU Q Z, XING Q J, et al. The role of the tunneling component in the current-voltage characteristics of metal-GaN Schottky diodes[J]. Journal of Applied Physics, 1998, 84(4): 2099–2104. doi: 10.1063/1.368270
|
| [24] |
AFIFI A, AYATOLLAHI A, and RAISSI F. STDP implementation using memristive nanodevice in CMOS-Nano neuromorphic networks[J]. IEICE Electronics Express, 2009, 6(3): 148–153. doi: 10.1587/elex.6.148
|
| [25] |
LI Junrui, DONG Zhekang, LUO Li, et al. A novel versatile window function for memristor model with application in spiking neural network[J]. Neurocomputing, 2020, 405: 239–246. doi: 10.1016/j.neucom.2020.04.111
|
| [26] |
HUTTER F, HOOS H H, and LEYTON-BROWN K. Sequential model-based optimization for general algorithm configuration[C]. The 5th International Conference on Learning and Intelligent Optimization, Rome, Italy, 2011: 507–523.
|
| [27] |
LIN G F and CHEN L H. A non-linear rainfall-runoff model using radial basis function network[J]. Journal of Hydrology, 2004, 289(1/4): 1–8.
|
| [28] |
RESCORLA R A. Pavlovian conditioning: It’s not what you think it is[J]. American Psychologist, 1988, 43(3): 151–160. doi: 10.1037/0003-066X.43.3.151
|
| [29] |
RESCORLA R A. Behavioral studies of Pavlovian conditioning[J]. Annual Review of Neuroscience, 1988, 11: 329–352. doi: 10.1146/annurev.ne.11.030188.001553
|
| [30] |
ALSAEED N H. Wish you were here: A psychological analysis using Atkinson-Shiffrin memory mode[J]. Journal of Literature and Art Studies, 2017, 6(5): 521–527.
|
| [31] |
BARKER R W J and HART B L. Precision absolute-value circuit technique[J]. International Journal of Electronics, 1989, 66(3): 445–448. doi: 10.1080/00207218908925401
|
| 1. | 卢家乐，冉皓丰，谢頔睿，周广东，胡小方. A physical memristor model for Pavlovian associative memory. Chinese Physics B. 2025(01): 511-521 .  | |
| 2. | 王俊帆，陈毅，高明煜，何志伟，董哲康，缪其恒. 智能交通感知新范式：面向元宇宙的交通标志检测架构. 电子与信息学报. 2024(03): 777-789 .  本站查看 | |
| 3. | 吴俊洁，王佳阳，朱萍，肖强. 基于MLP和多头自注意力特征融合的双模态情感计算模型. 计算机应用. 2024(S1): 39-43 . | |
| 4. | 于汝清. 动物训练原理的总结与对比剖析. 家畜生态学报. 2024(08): 80-86 . | |
| 5. | 周师琦，王俊帆，赖俊升，袁毓杰，董哲康. 结合贝叶斯Autoformer的多维自适应短期电力负荷概率预测方法. 电子与信息学报. 2024(12): 4432-4440 . 本站查看 | |
| 6. | 李威，代广珍. 相移光量子忆阻器及突触特性研究. 山东师范大学学报(自然科学版). 2024(04): 331-338 . | |
| 7. | 王佳阳，董哲康，纪晓悦，胡小方，周广东，齐冬莲. 面向神经形态系统的忆阻逻辑电路综述与展望. 西南师范大学学报(自然科学版). 2023(02): 1-22 . | |
| 8. | 王雷敏，程佳俊，胡成，周映江，葛明峰. 基于改进的忆阻器在字符联想记忆中的应用. 电子与信息学报. 2023(07): 2667-2674 . 本站查看 | |
| 9. | 杨乐，徐晏阳，丁芝侠，李赛. 融合STDP规则的忆阻联想记忆电路. 武汉大学学报(理学版). 2023(06): 819-826 . |
Figures(11) / Tables(3)
Yu Xiqing, Lu Shengxun. COATES GRAPH APPROACH FOR GENERATING SYMBOLIC NETWORK FUNCTION[J]. Journal of Electronics & Information Technology, 1989, 11(1): 88-94.
| * Ag/TiOx nanobelt/Ti memristor |
| .SUBCKT IJBCMEM Plus Minus PARAMS: |
| +kL=-6 AlphaL=2 aL=-1 wL=2 a1=0.22 b1=-0.38 c1=0.166 d1=9.96E-05 kH=3E-3 AlphaH=4 aH=-1 wH=1 |
| +a2=0.22 b2=-10 b2=-10 c2=8.15 d2=3E-08 Vth1=0 Vth2=0 |
| ****************Differential equation mode*************** |
| Gx 0 x value={F(V(x),V(Plus,Minus),aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)} |
| Cx x 0 1 IC={0} |
| Raux x 0 1T |
| ***********************Ohms law*********************** |
| Gm Plus Minus value={IVRel(V(x),V(Plus,Minus),a1,a2,b1,b2,c1,c2,d1,d2)} |
| ***********************Functions*********************** |
| .func f1(x,v,kL,AlphaL,aL,wL)={kL*v^AlphaL*exp(-exp(aL*x+wL))} |
| .func f2(x,v,kH,AlphaH,aH,wH)={kH*v^AlphaH*exp(-exp(aH*x+wH))} |
| .func f3(x,v,a1,b1,c1,d1)={a1*x*exp(b1*x^3+c1)*sinh(d1*(v)^3)} |
| .func f4(x,v,a2,b2,c2,d2)={a2*x*exp(b2*x^3+c2)*sinh(d2*(v)^3)} |
| .func F(x,v,aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)={if(v<Vth1,f1(x,v,kL,AlphaL,aL,wL), |
| +if(v>Vth2,f2(x,v,kH,AlphaH,aH,wH),0))} |
| .func IVRel(x,v,a1,a2,b1,b2,c1,c2,d1,d2)={if(v<Vth1,f3(x,v,a1,b1,c1,d1),if(v>Vth2,f4(x,v,a2,b2,c2,d2),0))} |
| ENDS Ag/TiOx nanobelt/Ti memristor |
| 学习过程 | 遗忘过程 |
| |
| |
| |
| |
| / / / | |
| | |
| * Ag/TiOx nanobelt/Ti memristor |
| .SUBCKT IJBCMEM Plus Minus PARAMS: |
| +kL=-6 AlphaL=2 aL=-1 wL=2 a1=0.22 b1=-0.38 c1=0.166 d1=9.96E-05 kH=3E-3 AlphaH=4 aH=-1 wH=1 |
| +a2=0.22 b2=-10 b2=-10 c2=8.15 d2=3E-08 Vth1=0 Vth2=0 |
| ****************Differential equation mode*************** |
| Gx 0 x value={F(V(x),V(Plus,Minus),aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)} |
| Cx x 0 1 IC={0} |
| Raux x 0 1T |
| ***********************Ohms law*********************** |
| Gm Plus Minus value={IVRel(V(x),V(Plus,Minus),a1,a2,b1,b2,c1,c2,d1,d2)} |
| ***********************Functions*********************** |
| .func f1(x,v,kL,AlphaL,aL,wL)={kL*v^AlphaL*exp(-exp(aL*x+wL))} |
| .func f2(x,v,kH,AlphaH,aH,wH)={kH*v^AlphaH*exp(-exp(aH*x+wH))} |
| .func f3(x,v,a1,b1,c1,d1)={a1*x*exp(b1*x^3+c1)*sinh(d1*(v)^3)} |
| .func f4(x,v,a2,b2,c2,d2)={a2*x*exp(b2*x^3+c2)*sinh(d2*(v)^3)} |
| .func F(x,v,aL,aH,wL,wH,kL,kH,AlphaL,AlphaH)={if(v<Vth1,f1(x,v,kL,AlphaL,aL,wL), |
| +if(v>Vth2,f2(x,v,kH,AlphaH,aH,wH),0))} |
| .func IVRel(x,v,a1,a2,b1,b2,c1,c2,d1,d2)={if(v<Vth1,f3(x,v,a1,b1,c1,d1),if(v>Vth2,f4(x,v,a2,b2,c2,d2),0))} |
| ENDS Ag/TiOx nanobelt/Ti memristor |
| 学习过程 | 遗忘过程 |
| |
| |
| |
| |
| / / / | |
| | |
下载:
DownLoad:
