深度学习

一句话总结： 深度学习使用具有多层结构的神经网络，直接从原始数据中学习复杂模式。它为计算机视觉、语音识别和大语言模型提供核心能力。

深度学习是机器学习的一个分支。它使用具有多层隐藏层的神经网络——因此称为“深度”。每一层都会学习输入的更抽象表示：浅层识别边缘、纹理等简单特征；更深层识别更复杂的概念，例如人脸或句子语义。深度学习在很大程度上减少了手动特征工程的需求——网络会直接从数据中学习该关注什么。

关键架构

1. 卷积神经网络（CNN）：计算机视觉的主流架构。可从图像中学习空间层级特征。
2. 循环神经网络（RNN）/ LSTM：用于处理序列数据。常用于语音以及早期的NLP任务。
3. Transformer：使用自注意力机制建模长程依赖关系。如今已成为 NLP 的主流架构，并日益用于视觉任务。
4. 扩散模型：通过反向噪声过程学习生成数据。参见：扩散模型。

深度学习如何工作

1. 数据输入：原始数据（图像、文本、音频）进入输入层。
2. 前向传播：数据在各层之间流动。每层执行线性变换与非线性激活函数。
3. 损失计算：将输出与ground truth标签进行比较。
4. 反向传播：误差梯度向后传播。通过梯度下降更新权重以降低损失。
5. 迭代：步骤 1–4 在数百万条训练样本上重复执行。

应用

1. 计算机视觉：目标检测、语义分割与图像分类。
2. 自然语言处理：翻译、摘要与聊天机器人。
3. 语音识别：将口语准确转换为文本。
4. 自动驾驶：融合多传感器数据以实现实时感知。
5. 药物研发：预测分子属性与蛋白质结构。

深度学习与训练数据

深度学习非常“吃数据”。通常数据越多，泛化效果越好。数据多样性可防止模型在狭窄分布上过拟合。迁移学习可通过从预训练权重开始训练来降低数据需求。Bright Data 的 数据集可为深度学习团队提供高质量的训练数据。