第四章：神经元模型与计算机制 — 知识点笔记

综合来源：课件4（PDF，109页）、课堂笔记（CSDN）、期末复习课录音

---

占位图

超级压缩

​
MP特点：①多入单出②输入分IE③空间整合+阈值特性 无时间整合+不应期④突触强度/时延不随时变⑤过阈输出01
MP VS ANN：①输入:01/连续②激活:阶跃/连续函数③不学习/反传④网络:单/深

脉冲神经元特点：①全有全无②前传不可逆③有不应期④不衰减
ANN VS SNN：①输入:静态/时间序列②输出:连续/时间脉冲序列③激活机制:激活函数/阈值放电④计算方式:每层计算，逐层传播/事件驱动，触发才算⑤耗能高/低⑥硬件:GCPU/类脑芯片⑦生物性:差/好
​​
HH模型：由基尔霍夫电流定律 注入细胞的总电流 = 用于改变膜电位的“充电电流” + 流过各离子通道的电流（钾、钠、漏） I=dq/dt=dCu/dt=Cdu/dt

参数：
Vl:离子平衡电位
gion​：离子电导（取决于离子通道开放概率）
n:K激活门开放概率0-1
m:Na激活门开放概率0-1
h:Na失活门开放概率1-0
通道：
Na->去极化：Na⁺内流使V↑
K->去极化：K⁺外流使V↓
漏->保持静息电位
优点：生物拟合好 离子通道动力学
缺点：参数多 计算难

LIF模型：区别于HH:跨膜电阻视作整体不变
漏电项：−(V−Vrest​)
输入电流项：R⋅I(t)

脉冲发放周期与频率计算：

LIF VS HH：①复杂度②生物拟合③计算④应用(仿真/计算)

基于突触的计算：
简化①时间窗刻画脉冲发放时刻②权重代表突触传递效率③LIF

单感->多感:只干分类/XOR无解
更新权重：

​

4.1 M-P神经元模型 ⭐

提出

• 1943年，McCulloch & Pitts，“A logical calculus of the ideas immanent in nervous activity”
• 整个人工神经网络领域的基石

特点

• 多输入单输出的信息处理单元
• 输入分为兴奋性输入和抑制性输入
• 具有空间整合特性和阈值特性
• 忽略时间整合作用和不应期
• 非时变（突触时延和突触强度均为常数）
• 若输入的加权和超过阈值 → 输出为1；否则输出为0（阶跃函数）
• 只有发放/不发放（0/1），没有半脉冲 → 可用布尔逻辑表示

M-P神经元 vs 现代人工神经元

对比维度	M-P神经元	现代深度学习中的人工神经元
输入	0/1（二进制）	连续值
激活函数	阶跃函数	ReLU/Sigmoid/Tanh等连续函数
学习能力	没有学习（权重固定）	通过反向传播学习
网络深度	单层逻辑	深度神经网络

【图片：M-P神经元与ANN对比 — 课件4 第12页】

---

4.2 脉冲神经元

脉冲神经元的核心特征

• 输出信号由多个**动作电位/脉冲（Spike）**组成
• 脉冲的形式不包含信息，信息包含在脉冲的数量和时刻中
• 脉冲序列（Spike Train）：一个神经元发放的一系列脉冲
• 不应期（Refractory Period）：两脉冲之间的最短间隔，不应期内难以发放新脉冲

ANN vs SNN 完整对比 ⭐

比较维度	ANN	SNN
输入形式	静态数据	时间序列数据
输出形式	实值（分类概率/连续值）	时间上分布的脉冲序列
激活机制	连续激活函数(ReLU等)	达到阈值放电，否则沉默
计算方式	每层全量计算，逐层传播	事件驱动，仅在触发时计算
能量效率	计算量大，耗能高	稀疏计算，低功耗
硬件适配	GPU/TPU等通用设备	类脑芯片
生物合理性	模拟粗略	高度接近生物神经元

【图片：ANN vs SNN对比表 — 课件4 第18页】

---

4.3 Hodgkin-Huxley模型 ⭐⭐

背景

• 1952年由Hodgkin & Huxley提出，1963年诺贝尔医学奖
• 基于乌贼巨轴突的电压钳实验数据建立
• 成为许多不同生理结构中神经细胞模型的雏形

核心思想：电路类比

HH模型将细胞膜建模为电路：

$$I(t)=I_C+\sum I_{ion}=C\frac{dV}{dt}+\sum g_{ion}(V-E_{ion})$$

• I_C（电容电流）：$I_C=C\cdot dV/dt$，膜电容充放电
• I_ion（离子电流）：$I_{ion}=g_{ion}(V-E_{ion})$
  • $g_{ion}$：离子电导（取决于离子通道开放概率）
  • $E_{ion}$：离子平衡电位（能斯特电位）

三种离子通道

通道	电导	门控变量	物理含义
Na⁺通道	$g_{Na}={\bar{g}}_{Na}\cdot m^{3}h$	m（激活门）×3, h（失活门）×1	m³h代表通道开放概率
K⁺通道	$g_K={\bar{g}}_K\cdot n^4$	n（激活门）×4	n⁴代表4个独立门同时开放的概率
漏通道（Leak）	$g_L$（恒定）	无	始终开放的非特异性离子通道

门控变量动力学

$$\frac{dn}{dt}={\alpha }_n(V)(1-n)-{\beta }_n(V)n$$

• 打开速率α，关闭速率β（均为电压依赖函数）
• n/m/h ∈ [0, 1] 表示任意时刻开放通道的比例
• ${\bar{g}}_{ion}$ 为所有通道开放时的最大电导

【图片：HH模型电路图 — 课件4 第22-24页】

HH模型总结

• 优点：生物拟合度极高，详细建模了离子通道动力学
• 缺点：计算代价大，参数多（每个门控变量都要解微分方程）

---

4.4 LIF模型 ⭐⭐⭐（计算重点）

背景

• 起源于1907年Lapicque的IF模型
• Tuckwell（1988）系统发展了带leak的LIF模型
• 核心简化：把所有跨膜电阻看作一个整体，假设不变

推导过程

由基尔霍夫电流定律：
$$I(t)=I_R+I_C=\frac{u(t)-u_{rest}}{R}+C\frac{du}{dt}$$

乘以R，引入膜时间常数 ${\tau }_m=RC$：

$${\tau }_m\frac{du}{dt}=-[u(t)-u_{rest}]+RI(t)$$

解析解（恒定电流输入，u_rest=0）

$$u(t)=RI+(u(0)-RI)e^{-t/{\tau }_m}$$

• ${\tau }_m=RC$：膜时间常数，决定膜电位衰减速度
• 稳态值：$u(\infty )=RI$

⭐ 脉冲发放周期与频率计算

对于恒定输入电流I，忽略不应期：

$$T={\tau }_m\ln \left(\frac{RI}{RI-V_{th}}\right)$$

条件：$RI>V_{th}$（否则永远达不到阈值）

考虑绝对不应期${\Delta }_{abs}$：

$$T={\Delta }_{abs}+{\tau }_m\ln \left(\frac{RI}{RI-V_{th}}\right)$$

发放频率：
$$f=\frac{1}{T}$$

【图片：LIF模型膜电位轨迹 — 课件4 第42-45页】

LIF模型 vs HH模型

对比维度	HH模型	LIF模型
复杂度	高（多变量微分方程）	低（单变量）
生物拟合度	高（详细离子通道）	中（简化描述）
计算代价	大	小
应用场景	精细生物仿真	大规模网络计算

其他脉冲神经元模型

• Izhikevich模型（2003）：HH的生物合理性与LIF的计算高效之间的折中
• AdEx模型（2005）：LIF+指数项+适应机制
• 多区室模型：划分树突/胞体等多区室，生物细节真实但计算开销大
• Stochastic模型：引入随机噪声，刻画不确定性

---

4.5 基于突触输入的神经计算 ⭐

三项简化

(1) 时间窗近似：引入时间窗刻画脉冲发放时刻，忽略轴突动态传导过程

(2) 突触权重表示：用权重参数表示突触传递效率，通过权重调整实现学习

(3) 电流与阈值机制：

• 输入电流 = 同一时间所有突触前神经元输入电流的总和
• 无输入时膜电位逐渐衰减至零（leaky特性）
• 膜电位超过阈值 → 触发动作电位 → 绝对不应期内电压清零

---

4.6 Perceptron单层感知机

基本概念

• Frank Rosenblatt，1957年提出
• 两层结构：输入层 + 输出层（M-P神经元）
• 本质：线性二分类器
• 模型：$f(x)=sign(w^{T}x+b)$，输出+1/-1

前提条件

• 训练数据集必须线性可分
• 无法解决XOR等线性不可分问题 → 单层感知机的主要限制

【图片：线性可分vs不可分示意图 — 课件4 第62页】

学习算法（随机梯度下降）

损失函数（误分类点到超平面总距离）：
$$L(w,b)=-\sum _{x_i\in M}{y}_i(w^T{x}_i+b)$$

参数更新（对每个误分类点）：
$$w\leftarrow w+\eta y_i{x}_i\text{（控制平面旋转）}$$
$$b\leftarrow b+\eta y_i\text{（控制平面平移）}$$

• 不同初始值/不同误分类点顺序 → 解有无穷多个

---

4.7 MLP多层感知机

为什么需要MLP

• 单层感知机只能线性二分类 → 无法处理复杂任务
• MLP引入隐藏层 + 非线性激活函数 → 解决非线性问题

数学模型（单隐藏层）

$$y=f_2\left(\sum w_{kj}\cdot f_1\left(\sum w_{ji}{x}_i+b_j\right)+b_k\right)$$

• f₁, f₂：非线性激活函数（Sigmoid/Tanh/ReLU）
• 隐藏层可视为自动特征提取器

训练：反向传播算法（BP）⭐

四步循环：前向传播 → 误差计算 → 反向传播 → 参数更新

(1) 前向传播：
$$z^{(l)}=W^{(l)}{a}^{(l-1)}+b^{(l)}$$
$$a^{(l)}=\sigma (z^{(l)})$$

(2) 误差计算（以交叉熵为例）：
$$\mathcal{L}(\hat{y},y)=-\sum _i{y}_i\log {\hat{y}}_i$$

(3) 反向传播（链式法则）：

• 输出层误差：${\delta }^{(L)}=\hat{y}-y$
• 隐藏层误差：${\delta }^{(l)}=(W^{(l+1)T}{\delta }^{(l+1)})\odot {\sigma }^{\prime }(z^{(l)})$
• 权重梯度：$\frac{\partial \mathcal{L}}{\partial W^{(l)}}={\delta }^{(l)}{a}^{(l-1)T}$
• 偏置梯度：$\frac{\partial \mathcal{L}}{\partial b^{(l)}}={\delta }^{(l)}$

(4) 参数更新（梯度下降）：
$$W^{(l)}\leftarrow W^{(l)}-\eta \frac{\partial \mathcal{L}}{\partial W^{(l)}}$$
$$b^{(l)}\leftarrow b^{(l)}-\eta \frac{\partial \mathcal{L}}{\partial b^{(l)}}$$

梯度消失与梯度爆炸

问题	现象	解决方案
梯度消失	前层梯度→0，参数不更新	ReLU激活、批归一化(BN)、合理初始化
梯度爆炸	梯度累积放大→NaN	梯度截断、RMSprop/Adam、残差连接

---

4.8 脉冲神经网络（SNN）概述

• 第三代神经网络（Wolfgang Maass，1997）
• 使用**脉冲（离散时间事件）**而非连续值
• 每个脉冲由生物过程的微分方程描述（膜电位为核心）
• 两类学习方式：
  • 无监督学习：无标签，模型自己发现数据结构
  • 有监督学习：带标签，学习输入→输出映射

---

随堂测试题（课件）

Q1（课件4第19页）：人工神经网络（ANN）和脉冲神经网络（SNN）是两种重要的神经网络模型。你能说出ANN与SNN的几点区别？

Q2（课件4第60页）：随堂练习——LIF模型电路分析

---

笔记中的图片索引

序号	图片内容描述	来源位置
图1	M-P神经元模型示意图	课件4 第5-7页
图2	M-P神经元vs现代人工神经元对比	课件4 第12页
图3	脉冲序列（Spike Train）示意图	课件4 第17页
图4	ANN vs SNN完整对比表	课件4 第18页
图5	HH模型电路图	课件4 第22-24页
图6	HH模型门控变量动力学	课件4 第28-30页
图7	HH模型动作电位仿真图	课件4 第31页
图8	LIF模型推导过程	课件4 第35-42页
图9	LIF模型恒定电流下膜电位轨迹	课件4 第45页
图10	LIF模型周期电流下膜电位变化	课件4 第46页
图11	Perceptron单层感知机结构	课件4 第61页
图12	线性可分vs非线性可分	课件4 第62页
图13	MLP多层感知机结构	课件4 第79页
图14	反向传播算法示意图	课件4 第85-93页
图15	梯度消失/爆炸示意图	课件4 第103-106页

---

笔记整理时间：2026年6月25日