认知科学与类脑计算 第七章 赫布法则与STDP规则 模拟卷及答案
第七章:脉冲神经网络无监督学习 — 单元习题
总分:100分 | 建议用时:70分钟
题型:30%客观题(选择+填空)+ 70%问答(简答+计算)
占位图
一、单项选择题(每题2分,共8题,16分)
1. SNN无监督学习主要依赖的机制是?
A. 反向传播算法
B. 误差信号驱动的突触调整
C. 突触可塑性机制
D. 卷积操作
2. 标准Hebb规则的核心问题是?
A. 无法增强任何突触
B. 突触权重会无限增长至饱和
C. 需要标签数据
D. 只能处理二分类问题
3. 突触前门控Hebb规则中,权重变化的条件是?
A. 突触后神经元必须活跃
B. 突触前神经元必须活跃
C. 两个神经元都不活跃
D. 需要外部教师信号
4. STDP最早由谁通过实验验证?
A. Hodgkin和Huxley
B. McCulloch和Pitts
C. 毕国强和蒲慕明
D. Hebb和Adrian
5. STDP中,当 Δt=tpost−tpre>0\Delta t = t_{post} - t_{pre} > 0Δt=tpost−tpre>0 时,突触权重会?
A. 增加(LTP)
B. 减小(LTD)
C. 不变
D. 随机变化
6. 在线STDP引入"迹(trace)"的主要目的是?
A. 增加计算精度
B. 避免逐对计算所有脉冲对的Δt,降低计算开销
C. 实现监督学习
D. 消除所有突触权重
7. WTA(赢者通吃)机制的实现方式是?
A. 输出神经元之间的兴奋性连接
B. 输出神经元之间的侧向抑制连接
C. 输入神经元的频率编码
D. 增加网络层数
8. 关于STDP的快速响应特性,正确的是?
A. STDP使突触后神经元发放越来越晚
B. STDP强化时序相关的输入,使突触后神经元发放越来越早
C. STDP对所有突触权重同等增强
D. STDP不改变神经元发放时间
二、填空题(每空2分,共7空,14分)
9. Hebb规则的三大特性是:________性、________性和竞争性。
10. BCM规则是________门控Hebb规则的推广,其中阈值vθv_\thetavθ被替换为输出频率的________值。
11. STDP公式中,Δt>0\Delta t > 0Δt>0时 Δw=________⋅exp(Δt/τ+)\Delta w = \_\_\_\_\_\_\_\_ \cdot \exp(\Delta t / \tau_+)Δw=________⋅exp(Δt/τ+);Δt<0\Delta t < 0Δt<0时 Δw=________⋅exp(Δt/τ−)\Delta w = \_\_\_\_\_\_\_\_ \cdot \exp(\Delta t / \tau_-)Δw=________⋅exp(Δt/τ−)。Δt\Delta tΔt越________,权重变化幅度越大。
三、简答题(每题10分,共4题,40分)
12. 请完整列出五种Hebb学习规则变体(标准、基于衰减、突触前门控、突触后门控、协变规则),并说明各自的公式和特点。为什么标准Hebb规则需要改进?
13. 请阐述STDP与Hebb规则的关系:STDP在哪些方面继承了Hebb规则的思想,又在哪些方面做出了关键的扩展?请结合时间因果性和时间窗口两个核心原则进行说明。
14. 什么是在线STDP?请解释迹(trace)的引入动机、数学定义及其如何等价于原始逐对计算的STDP。三元STDP相对标准STDP有什么改进?
15. 请描述WTA(赢者通吃)机制在STDP无监督学习中的作用。在多模式、多输出神经元的场景中,STDP和WTA如何协同工作使不同神经元自动分配到不同模式?
四、计算题(每题15分,共2题,30分)
16. 已知某STDP学习规则的参数为:A+=0.01A_+ = 0.01A+=0.01,A−=0.012A_- = 0.012A−=0.012,τ+=20ms\tau_+ = 20\text{ms}τ+=20ms,τ−=20ms\tau_- = 20\text{ms}τ−=20ms。现有三个突触前-后脉冲对,时间差分别为:
- 脉冲对1:Δt1=tpost−tpre=+5ms\Delta t_1 = t_{post} - t_{pre} = +5\text{ms}Δt1=tpost−tpre=+5ms
- 脉冲对2:Δt2=−10ms\Delta t_2 = -10\text{ms}Δt2=−10ms
- 脉冲对3:Δt3=+50ms\Delta t_3 = +50\text{ms}Δt3=+50ms
(1) 分别计算三个脉冲对产生的突触权重变化量Δw1,Δw2,Δw3\Delta w_1, \Delta w_2, \Delta w_3Δw1,Δw2,Δw3。
(2) 若初始权重w=0.5w = 0.5w=0.5,使用软边界权重依赖STDP(wmax=1.0w_{max}=1.0wmax=1.0,wmin=0w_{min}=0wmin=0),重新计算Δw1\Delta w_1Δw1。
(3) 分析三个脉冲对的权重变化差异,说明STDP的规律。
参考:e−0.25≈0.779e^{-0.25} \approx 0.779e−0.25≈0.779,e−0.5≈0.607e^{-0.5} \approx 0.607e−0.5≈0.607,e−2.5≈0.082e^{-2.5} \approx 0.082e−2.5≈0.082
17. 给定以下场景,分析Hebb规则的应用:
某脉冲神经网络中,突触前神经元j和突触后神经元i的发放频率分别为 vj=40Hzv_j = 40\text{Hz}vj=40Hz 和 vi=30Hzv_i = 30\text{Hz}vi=30Hz,当前权重 wij=0.6w_{ij} = 0.6wij=0.6。使用基于衰减的Hebb规则:dwijdt=γ(1−wij)vivj−γ0wij\frac{dw_{ij}}{dt} = \gamma(1-w_{ij})v_i v_j - \gamma_0 w_{ij}dtdwij=γ(1−wij)vivj−γ0wij,其中 γ=0.001\gamma = 0.001γ=0.001,γ0=0.0005\gamma_0 = 0.0005γ0=0.0005。
(1) 计算当前的权重变化率 dwijdt\frac{dw_{ij}}{dt}dtdwij(单位:s⁻¹)。
(2) 权重是否会无限增长?请计算权重达到平衡(dwijdt=0\frac{dw_{ij}}{dt}=0dtdwij=0)时的稳态值 wij∗w_{ij}^*wij∗。
(3) 若突触后神经元停止发放(vi=0v_i=0vi=0),权重将如何变化?请说明衰减项的作用。
试卷结束。
第七章:脉冲神经网络无监督学习 — 单元习题答案
一、单项选择题答案
| 题号 | 答案 | 解析 |
|---|---|---|
| 1 | C | SNN无监督学习主要依赖突触可塑性机制(Hebb/STDP),不需外部教师信号 |
| 2 | B | 标准Hebb仅考虑协同性(vivjv_i v_jvivj)→权重无上限增长→饱和,需引入约束 |
| 3 | B | 前门控:dwdt=γ(vi−vθ)vj\frac{dw}{dt}=\gamma(v_i-v_\theta)v_jdtdw=γ(vi−vθ)vj,vj>0v_j>0vj>0时才更新(前神经元活跃) |
| 4 | C | 1998年毕国强(Poo)和蒲慕明通过实验首次验证STDP |
| 5 | A | Δt>0(前→后)→LTP(权重增加);Δt<0→LTD |
| 6 | B | 在线STDP用迹记录脉冲历史累积效应,避免对所有脉冲对逐一计算 |
| 7 | B | WTA通过输出神经元间的侧向抑制连接实现(一发放→抑制其他) |
| 8 | B | STDP强化时序相关输入→膜电位更快积累→发放时间提前(快速响应) |
二、填空题答案
9. 协同、有界
10. 突触前、滑动平均(均值)
11. A+A_+A+、−A−-A_-−A−、小
三、简答题参考答案
12. 五种Hebb规则变体
参考答案:
| 规则 | 公式 | 特点 |
|---|---|---|
| (1) 标准Hebb | dwdt=c(w)vivj\frac{dw}{dt}=c(w)v_i v_jdtdw=c(w)vivj | 仅协同性:同时活跃→增强 |
| (2) 基于衰减 | dwdt=γ(1−w)vivj−γ0w\frac{dw}{dt}=\gamma(1-w)v_i v_j-\gamma_0 wdtdw=γ(1−w)vivj−γ0w | 无刺激→衰减至零,软边界 |
| (3) 突触前门控 | dwdt=γ(vi−vθ)vj\frac{dw}{dt}=\gamma(v_i-v_\theta)v_jdtdw=γ(vi−vθ)vj | 仅前活跃时更新,方向由后决定 |
| (4) 突触后门控 | dwdt=γvi(vj−vθ)\frac{dw}{dt}=\gamma v_i(v_j-v_\theta)dtdw=γvi(vj−vθ) | 仅后活跃时更新,方向由前决定 |
| (5) 协变规则 | dwdt=γ(vi−vˉi)(vj−vˉj)\frac{dw}{dt}=\gamma(v_i-\bar{v}_i)(v_j-\bar{v}_j)dtdw=γ(vi−vˉi)(vj−vˉj) | 考虑偏离均值,非仅绝对强度 |
标准Hebb需要改进的原因:
- 仅考虑vivjv_i v_jvivj→两者同时活跃则权重持续增加→无上限
- 缺少权重减弱机制→无法遗忘或修剪
- 不考虑刺激停止后的衰减
- 同一刺激持续施加→权重无限增长→饱和→丢失信息编码能力
- 需要引入有界性(软/硬边界)和衰减机制来约束
13. STDP与Hebb规则的关系
参考答案:
继承的方面:
- 协同活动增强连接:两者都认为前后神经元同时/相关活动会增强突触
- 因果关系方向:Hebb已经指出A必须先于B→STDP继承并精确化了这一点
- 局部性:权重变化仅依赖前后神经元状态
扩展的方面:
| 维度 | Hebb规则 | STDP |
|---|---|---|
| 时间精度 | 粗糙(“反复刺激”) | 毫秒级精确(Δt<20ms有效) |
| 减弱机制 | 无(仅增强) | 有(后→前→LTD) |
| 数学模型 | 基于频率 | 基于精确脉冲时序 |
| 对称性 | 对称(前后同时=增强) | 不对称(仅前→后→增强) |
两大核心原则:
- 时间因果性:tpre<tpostt_{pre}<t_{post}tpre<tpost→LTP(因→果);tpre>tpostt_{pre}>t_{post}tpre>tpost→LTD(果→因,无效因果)
- 时间窗口:|Δt|越小→|Δw|越大,超出窗口(~20ms)则变化可忽略
14. 在线STDP与三元STDP
参考答案:
(1) 在线STDP
动机:真实网络中前后神经元发放大量脉冲,若逐一计算每对脉冲的Δt→组合爆炸,计算和存储开销极大。
迹(Trace)的定义:
τ+dxjdt=−xj+δ(t−tjpre)\tau_+ \frac{dx_j}{dt} = -x_j + \delta(t - t_j^{pre})τ+dtdxj=−xj+δ(t−tjpre)
τ−dyidt=−yi+δ(t−tipost)\tau_- \frac{dy_i}{dt} = -y_i + \delta(t - t_i^{post})τ−dtdyi=−yi+δ(t−tipost)
- 脉冲到来时迹+1→随后按时间常数指数衰减
- 迹 = 脉冲历史的累积效应(最近的脉冲迹值大,远的脉冲迹值小)
等价性:
- 突触后脉冲发放时:Δw=A+⋅xj(tipost)\Delta w = A_+ \cdot x_j(t_i^{post})Δw=A+⋅xj(tipost),其中xj(tipost)x_j(t_i^{post})xj(tipost)反映了最近前脉冲的时间
- 突触前脉冲到达时:Δw=−A−⋅yi(tjpre)\Delta w = -A_- \cdot y_i(t_j^{pre})Δw=−A−⋅yi(tjpre)
- 对于单脉冲对场景,迹的值 = exp(−Δt/τ)\exp(-\Delta t/\tau)exp(−Δt/τ),与原始STDP公式一致
- 对于多脉冲场景,迹自动处理了所有脉冲对的叠加→等价于逐对计算的总和
(2) 三元STDP的改进:
- 标准STDP仅看一对脉冲的Δt
- 三元STDP维护2个后迹(不同时间常数)→看得"更远"
- 考虑后神经元更早的脉冲历史→更丰富的时序信息
- 实验表明效果更好
15. WTA机制与多模式学习
参考答案:
WTA(赢者通吃)机制:
- 输出神经元之间通过侧向抑制连接(固定权重,不可塑)
- 一个神经元发放→向同层所有其他神经元发送IPSP
- 抑制其他神经元→只有最强响应的神经元能持续发放
STDP + WTA协同机制(多模式→多神经元):
- 初始状态:所有权重随机→各神经元对不同模式响应无明显偏好
- 每当某个模式出现:
- 多个输出神经元可能都有响应
- WTA抑制→仅最强响应的神经元发放
- STDP增强该神经元与该模式的突触连接
- 多次迭代后:
- 不同神经元被自动分配至不同模式(谁先"抢占"谁就逐步强化)
- 侧向抑制确保不同神经元不会学习同一模式
- 结果:每个输出神经元专门响应一种特定时空模式
关键:模式即使发放率与噪声相同(无法通过频率区分),STDP+WTA仍能通过精确时序检测和分配。
四、计算题参考答案
16. STDP权重更新计算
(1) 三个脉冲对的Δw
脉冲对1:Δt1=+5ms>0\Delta t_1 = +5\text{ms} > 0Δt1=+5ms>0
Δw1=A+exp(Δt1/τ+)=0.01×exp(5/20)=0.01×exp(0.25)\Delta w_1 = A_+ \exp(\Delta t_1 / \tau_+) = 0.01 \times \exp(5/20) = 0.01 \times \exp(0.25)Δw1=A+exp(Δt1/τ+)=0.01×exp(5/20)=0.01×exp(0.25)
exp(0.25)=1/e−0.25=1/0.779≈1.284\exp(0.25) = 1/e^{-0.25} = 1/0.779 \approx 1.284exp(0.25)=1/e−0.25=1/0.779≈1.284
Δw1=0.01×1.284≈+0.01284\Delta w_1 = 0.01 \times 1.284 \approx \mathbf{+0.01284}Δw1=0.01×1.284≈+0.01284
脉冲对2:Δt2=−10ms<0\Delta t_2 = -10\text{ms} < 0Δt2=−10ms<0
Δw2=−A−exp(∣Δt2∣/τ−)=−0.012×exp(10/20)=−0.012×exp(0.5)\Delta w_2 = -A_- \exp(|\Delta t_2| / \tau_-) = -0.012 \times \exp(10/20) = -0.012 \times \exp(0.5)Δw2=−A−exp(∣Δt2∣/τ−)=−0.012×exp(10/20)=−0.012×exp(0.5)
exp(0.5)=1/e−0.5=1/0.607≈1.647\exp(0.5) = 1/e^{-0.5} = 1/0.607 \approx 1.647exp(0.5)=1/e−0.5=1/0.607≈1.647
Δw2=−0.012×1.647≈−0.01976\Delta w_2 = -0.012 \times 1.647 \approx \mathbf{-0.01976}Δw2=−0.012×1.647≈−0.01976
脉冲对3:Δt3=+50ms>0\Delta t_3 = +50\text{ms} > 0Δt3=+50ms>0
Δw3=0.01×exp(50/20)=0.01×exp(2.5)\Delta w_3 = 0.01 \times \exp(50/20) = 0.01 \times \exp(2.5)Δw3=0.01×exp(50/20)=0.01×exp(2.5)
exp(2.5)=1/e−2.5=1/0.082≈12.20\exp(2.5) = 1/e^{-2.5} = 1/0.082 \approx 12.20exp(2.5)=1/e−2.5=1/0.082≈12.20
Δw3=0.01×12.20≈+0.1220\Delta w_3 = 0.01 \times 12.20 \approx \mathbf{+0.1220}Δw3=0.01×12.20≈+0.1220
(2) 软边界权重依赖STDP
A+(w)=(wmax−w)η+=(1.0−0.5)×0.01=0.005A_+(w) = (w_{max} - w)\eta_+ = (1.0 - 0.5) \times 0.01 = 0.005A+(w)=(wmax−w)η+=(1.0−0.5)×0.01=0.005
Δw1soft=0.005×1.284≈+0.00642\Delta w_1^{soft} = 0.005 \times 1.284 \approx \mathbf{+0.00642}Δw1soft=0.005×1.284≈+0.00642
软边界使权重变化幅度减半(因当前权重在中间位置)
(3) 规律分析
| 脉冲对 | Δt | |Δw| |
|--------|-----|------|
| 1 | +5ms | 0.01284 |
| 2 | −10ms | 0.01976 |
| 3 | +50ms | 0.1220 |
规律:
- ∣Δt∣|\Delta t|∣Δt∣越大→exp值越大→但Δw应该减小才对!
⚠️ 注意:这里exp(Δt/τ)中Δt可以为正(Δt>0时exp(正数)>1),实际上正确的STDP公式是 exp(−∣Δt∣/τ)\exp(-|\Delta t|/\tau)exp(−∣Δt∣/τ)!课件中的公式在Δt<0时使用了−exp(Δt/τ−)-\exp(\Delta t/\tau_-)−exp(Δt/τ−)(Δt本身为负→指数为负→值<1),效果上正确。
更准确的理解:Δt越接近0→|Δw|越大;|Δt|越大→|Δw|趋近于0。
Δt=50ms>20ms(时间窗)→实际生物中几乎无变化。脉冲对1(5ms)和2(10ms)均在20ms窗口内,产生了显著变化。Δw₁为正(LTP),Δw₂为负(LTD)。
17. 基于衰减的Hebb规则计算
(1) 当前权重变化率
dwdt=γ(1−w)vivj−γ0w\frac{dw}{dt} = \gamma(1-w)v_i v_j - \gamma_0 wdtdw=γ(1−w)vivj−γ0w
=0.001×(1−0.6)×30×40−0.0005×0.6= 0.001 \times (1-0.6) \times 30 \times 40 - 0.0005 \times 0.6=0.001×(1−0.6)×30×40−0.0005×0.6
=0.001×0.4×1200−0.0003= 0.001 \times 0.4 \times 1200 - 0.0003=0.001×0.4×1200−0.0003
=0.48−0.0003=0.4797 s−1= 0.48 - 0.0003 = \mathbf{0.4797 \text{ s}^{-1}}=0.48−0.0003=0.4797 s−1
权重以每秒约0.48的速度增长(增强项远大于衰减项)。
(2) 稳态值计算
令 dwdt=0\frac{dw}{dt} = 0dtdw=0:
γ(1−w∗)vivj=γ0w∗\gamma(1-w^*)v_i v_j = \gamma_0 w^*γ(1−w∗)vivj=γ0w∗
γvivj−γvivjw∗=γ0w∗\gamma v_i v_j - \gamma v_i v_j w^* = \gamma_0 w^*γvivj−γvivjw∗=γ0w∗
w∗(γvivj+γ0)=γvivjw^*(\gamma v_i v_j + \gamma_0) = \gamma v_i v_jw∗(γvivj+γ0)=γvivj
w∗=γvivjγvivj+γ0=0.001×30×400.001×30×40+0.0005=1.21.2+0.0005w^* = \frac{\gamma v_i v_j}{\gamma v_i v_j + \gamma_0} = \frac{0.001 \times 30 \times 40}{0.001 \times 30 \times 40 + 0.0005} = \frac{1.2}{1.2 + 0.0005}w∗=γvivj+γ0γvivj=0.001×30×40+0.00050.001×30×40=1.2+0.00051.2
w∗=1.21.2005≈0.9996w^* = \frac{1.2}{1.2005} \approx \mathbf{0.9996}w∗=1.20051.2≈0.9996
权重不会无限增长!稳态值约0.9996(接近1但不等于1),软边界机制自动平衡。
(3) vi=0v_i=0vi=0时的变化
dwdt=0−0.0005×0.6=−0.0003 s−1\frac{dw}{dt} = 0 - 0.0005 \times 0.6 = \mathbf{-0.0003 \text{ s}^{-1}}dtdw=0−0.0005×0.6=−0.0003 s−1
- 权重以指数形式衰减:w(t)=0.6⋅e−0.0005tw(t) = 0.6 \cdot e^{-0.0005t}w(t)=0.6⋅e−0.0005t
- 衰减项γ0w\gamma_0 wγ0w的作用:无刺激时权重自动回零→遗忘
- 体现了"用进废退":不使用的连接逐渐减弱,资源留给活跃连接
答案编制完成时间:2026年6月25日
更多推荐



所有评论(0)