深度学习（Deep Learning）是机器学习的一个广阔领域，它本身并不指代某一个单一算法，而是一系列利用深层神经网络（含有多个隐藏层）的算法和架构的统称。

我们可以将这些算法和模型按照它们主要解决的问题和结构特点进行分类。以下是一些最核心和最常见的深度学习算法/模型：

1. 基础与核心网络 (Foundational & Core Networks)

这些是构成更复杂模型的基础模块。

• 多层感知机 (Multilayer Perceptron, MLP)

  • 描述: 最基础的神经网络形式，由多个全连接层（Fully Connected Layers）堆叠而成。
  • 应用: 简单的分类和回归问题，表格数据处理。是许多复杂模型的组成部分。

• 卷积神经网络 (Convolutional Neural Network, CNN)

  • 描述: 专门为处理网格状数据（如图像）而设计。通过卷积层（Convolutional Layers）和池化层（Pooling Layers）来提取局部特征，并保持空间不变性。
    .
  • 应用: 计算机视觉的基石。图像分类、目标检测、图像分割、人脸识别等。
  • 著名架构: LeNet, AlexNet, VGG, GoogLeNet (Inception), ResNet (残差网络), DenseNet, MobileNet, Vision Transformer (ViT)。

• 循环神经网络 (Recurrent Neural Network, RNN)

  • 描述: 专为处理序列数据（如文本、时间序列）而设计。网络中的神经元可以保存历史信息（状态），从而处理具有时间依赖性的数据。
  • 应用: 自然语言处理（NLP）、语音识别、时间序列预测。
  • 变体与改进:
    • 长短期记忆网络 (Long Short-Term Memory, LSTM): 解决了传统 RNN 的梯度消失/爆炸问题，能学习更长的依赖关系。
    • 门控循环单元 (Gated Recurrent Unit, GRU): LSTM 的简化版本，计算效率更高，在许多任务上表现与 LSTM 相当。

2. 生成模型 (Generative Models)

这类模型的目标是学习数据的分布，从而能够生成新的、与训练数据相似的数据。

• 生成对抗网络 (Generative Adversarial Network, GAN)

  • 描述: 由一个生成器（Generator）和一个判别器（Discriminator）组成。两者通过相互博弈（对抗训练）来共同进步，最终生成器能产生非常逼真的数据。
  • 应用: 图像生成（如 StyleGAN）、图像翻译（如 pix2pix）、超分辨率、数据增强。
  • 著名架构: DCGAN, WGAN, CycleGAN, StyleGAN, BigGAN。

• 变分自编码器 (Variational Autoencoder, VAE)

  • 描述: 也是一种生成模型，它学习一个数据的潜在空间（Latent Space）的概率分布。它由一个编码器（Encoder）和一个解码器（Decoder）组成。
  • 应用: 图像生成、数据降维、异常检测。

• 扩散模型 (Diffusion Models)

  • 描述: 近年来非常火爆的生成模型。通过一个逐步向数据中添加噪声的正向过程和一个学习从噪声中恢复数据的逆向过程来生成数据。
  • 应用: 目前最先进的图像生成技术，如 DALL-E 2, Midjourney, Stable Diffusion 都基于此。

3. 注意力机制与 Transformer (Attention & Transformers)

这是近年来对深度学习领域，尤其是自然语言处理，产生革命性影响的架构。

• 注意力机制 (Attention Mechanism)

  • 描述: 最初用于改进 RNN/LSTM，允许模型在处理序列时，将“注意力”集中在输入序列的特定部分。
  • 应用: 机器翻译、文本摘要、问答系统。

• Transformer

  • 描述: 完全基于自注意力机制（Self-Attention）构建的模型，彻底摒弃了 RNN 的循环结构，可以进行大规模并行计算，并且能捕捉全局依赖关系。
  • 应用: NLP 领域的绝对霸主。机器翻译、文本生成、情感分析、预训练语言模型。
  • 著名架构:
    • BERT (Bidirectional Encoder Representations from Transformers): 通过掩码语言模型进行预训练，是理解型任务的基石。
    • GPT (Generative Pre-trained Transformer): 通过自回归方式进行预训练，是生成型任务的王者，ChatGPT 就是基于 GPT 架构。
    • T5, RoBERTa, ALBERT: 其他重要的 Transformer 变体。

4. 其他重要算法与架构

• 自编码器 (Autoencoder, AE)

  • 描述: 一种无监督学习网络，由编码器和解码器组成，目标是让输出尽可能地复现输入。通过中间的“瓶颈层”，可以学习到数据的压缩表示。
  • 应用: 数据降维、特征提取、异常检测。

• 图神经网络 (Graph Neural Network, GNN)

  • 描述: 专门用于处理图结构数据（如社交网络、分子结构）的神经网络。
  • 应用: 推荐系统、药物发现、交通流量预测。
  • 著名架构: GCN (Graph Convolutional Network), GAT (Graph Attention Network)。

• 深度强化学习 (Deep Reinforcement Learning, DRL)

  • 描述: 将深度学习与强化学习结合。使用深度神经网络来近似强化学习中的值函数或策略函数，使得智能体（Agent）能从高维输入（如游戏画面）中学习决策。
  • 应用: 游戏 AI（如 AlphaGo）、机器人控制、资源调度。
  • 著名算法: DQN (Deep Q-Network), A3C, PPO (Proximal Policy Optimization)。

总结列表