每次您向 ChatGPT 提出问题、使用 Midjourney 生成图像或识别照片中的人脸时,神经网络都会执行这些工作。它们几乎是过去十年中构建的每个令人印象深刻的人工智能系统的引擎。
但“神经网络”这个名字令人生畏。听起来像是高级神经科学和矩阵代数纠缠在一起。大多数解释要么过于简单化到毫无用处,要么在你建立任何直觉之前就深入到数学中。
本指南两者都没有。我们将使用简单的语言、类比和一些 ASCII 图来真正理解神经网络如何工作——从基本单元到现代架构。最后,您将了解神经网络为何起作用,而不仅仅是它们的名称。
您的大脑包含大约 860 亿个神经元。每个神经元都是一个细胞,它从其他神经元接收电信号,进行一点点处理,并决定是否将信号传递给它所连接的神经元。
神经元的关键不是任何单个神经元,而是“它们之间的连接”。当你学习新东西时,神经元之间的联系会加强或减弱。这就是记忆、技能和知识——所有这些都被编码为联系强度。
人工神经网络直接借用了这个想法:
生物学类比在细节层面上很快就会崩溃(真正的神经元要复杂得多),但核心思想是真正的灵感,而不仅仅是一个隐喻。
在“深度”网络出现之前,就存在 感知器 —— 由 Frank Rosenblatt 于 1958 年发明。它是后续一切的基础。
感知器是单个人工神经元,它:
这是一个具体的非数学示例:
想象一下,您今天正在决定是否去跑步。您考虑三个因素:
Input 1: Is it raining? → 0 (no) or 1 (yes)
Input 2: Do I have time? → 0 (no) or 1 (yes)
Input 3: Do I feel motivated?→ 0 (no) or 1 (yes)
感知器根据每个因素对您的重要性分配权重:
Weight 1 (rain matters a lot): -2.0 (rain is a strong deterrent)
Weight 2 (having time is crucial): +3.0
Weight 3 (motivation matters a bit): +1.0
它将每个输入乘以其权重并对它们求和:
Sum = (0 × -2.0) + (1 × 3.0) + (0 × 1.0) = 3.0
如果总和高于 2.0(阈值),则继续跑步。 3.0 > 2.0 → 你去跑步。
这几乎是滑稽的简单——但它是基础计算,经过数百万次的叠加并接受数据训练,产生了可以写诗和诊断癌症的系统。
单个感知器只能解决非常简单的问题。力量来自于将感知器连接到层。
神经网络具有三种类型的层:
INPUT LAYER HIDDEN LAYER(S) OUTPUT LAYER
─────────── ─────────────── ────────────
● ─────────→ ● ─────────→ ●
● ─────────→ ● ─────────→ ●
● ─────────→ ● ●
●
输入层接收原始数据。对于一幅图像,每个像素的亮度值都是一个输入。对于文本,每个单词(或单词的一部分)都有一个数字表示。对于表格数据集,每一列都是一个输入。
这里不进行任何计算——只是数据进入网络。
这就是奇迹发生的地方。隐藏层位于输入和输出之间,它们将原始输入转换为越来越抽象的表示。
一个有用的类比:假设您正在尝试识别照片中是否包含猫。
每一层都从前一层抽象出来。这就是为什么深度很重要,以及为什么“深度学习”仅仅意味着“具有许多隐藏层的神经网络”。
输出层产生最终答案。格式取决于任务:
神经网络从随机权重开始——它什么都不知道。训练是反复调整这些权重的过程,直到网络给出正确的答案。
这是简单语言的训练循环:
通过网络逐层输入输入,直到获得输出。对于随机初始权重,此输出将是错误的(或随机的)。这是预期的。
Input: [image of a dog]
Network output (before training): "cat" (67% confident)
Correct answer: "dog"
损失(或错误)衡量输出的错误程度。如果我们预测 67% 是猫,而正确答案是狗(0% 是猫),那么损失就很大。如果我们预测 95% 是狗,那么损失就很小了。
损失函数变成了“我们错了多少?”转化为我们可以用数学方法处理的单个数字。
这是聪明的部分。一旦知道总损失,网络就会使用一种称为“反向传播”(反向传播)的技术来找出“哪些权重对误差负责”,以及“造成多少误差”。
它通过网络反向工作,计算每个权重:“如果我稍微增加这个权重,损失会增加还是减少?”这种计算(从技术上讲,是梯度)告诉每个权重移动的方向。
直觉:
Output is too "cat" →
→ The "whisker detector" fired too strongly →
→ The weights feeding into "whisker detector" are too high →
→ Reduce those weights slightly
使用反向传播的梯度,所有权重都会向减少损失的方向稍微移动。这个推动过程称为“梯度下降”。
每次微调的大小由学习率控制——这是一个关键设置。太大,网络会出现过冲和反弹。太小了,训练需要很长时间。
一次前向传播 + 反向传播 + 权重更新是一个训练步骤。网络可能会接受数百万个示例的训练,每个示例都会经历这个过程。随着时间的推移,权重会稳定下来,为各种输入产生正确的答案。
这就是“训练”人工智能模型的含义。这不是编程规则——而是通过反复接触示例来优化数百万个数字(权重)。
完成所有这些工作还需要一个要素:激活函数。
问题是:如果每个神经元只是将其输入乘以权重并将它们相加,那么整个网络在数学上就相当于一个线性方程——无论添加多少层。你会失去所有深度的表现力。
激活函数引入了非线性——它们应用于每个神经元的输出,并允许网络学习复杂的弯曲模式而不仅仅是直线。
用简单的英语来说:
你不需要记住这些。关键的见解是:激活函数允许深度网络学习数据中复杂的非线性模式。
现代人工智能使用多种专门的架构,每种架构都适合不同类型的数据。
最适合:图像和视频。
CNN 使用一种称为卷积层的特殊类型层,它在图像上应用小型滤波器来检测局部模式(边缘、纹理)。这些滤镜在图像上滑动,就像在图像上运行放大镜一样,寻找特定的特征。
关键的见解是参数共享 - 在整个图像上应用相同的滤波器,这意味着在左上角工作的“垂直边缘检测器”在任何地方都可以工作。这使得 CNN 处理图像的效率比常规网络高得多。
真实示例:Google Photos 面部识别、Instagram 滤镜、医学成像(通过 X 射线检测肿瘤)、自动驾驶汽车视觉系统。
最适合:序列——文本、时间序列、语音。
RNN 一次一步处理序列,维持一种“隐藏状态”,携带前一步的信息。这给了他们一种短期记忆的形式。
打个比方:当你读这句话时,读到结尾时你不会忘记开头。 RNN 具有类似的能力来维护序列中的上下文。
限制:RNN 难以处理长序列。许多步骤之前的信息往往会消失。这催生了 LSTM(长短期记忆)架构,它添加了显式的“记忆单元”来处理更长的依赖关系。
真实示例:早期的语音识别、翻译、移动键盘上的文本预测。
最适合:一切,越来越多。
Transformer 是 GPT、BERT、DALL-E 和大多数现代人工智能系统背后的架构。它们于 2017 年发明,通过一种称为“自我关注”的机制解决了 RNN 的局限性,彻底改变了该领域。
自注意力使模型能够同时查看序列中的所有位置(而不仅仅是一次一步),并动态权衡输入中与每个输出最相关的部分。当处理“Thebankbytheriverwassteep”时,模型可以将“bank”与“river”和“steep”连接起来,以正确理解它与金融无关。
Transformer 在现代硬件 (GPU) 上的并行性也非常好,这使得在互联网规模的数据集上训练它们变得可行。这就是他们自 2017 年以来一直主导人工智能的原因。
真实例子:ChatGPT、Claude、Gemini(文); DALL-E,稳定扩散(图像); Whisper(语音识别); AlphaFold(蛋白质结构预测)。
“深度学习”只是指具有许多隐藏层的神经网络。但为什么更多的深度会有帮助呢?
理论上,较浅的网络可以近似任何函数,但它们需要天文数字般的神经元才能做到这一点。深度网络学习分层表示,它更有效并且更能泛化到新数据。
考虑语言:
在实践中,深度一直是提高几乎每个领域的神经网络性能的最可靠方法之一,这就是为什么趋势一直朝着更大、更深的网络发展。
神经网络的好坏取决于它们的训练数据。这是值得理解的:
了解这些限制可以让您更好地使用人工智能工具——您知道何时信任输出以及何时验证它。
如果这个解释让你对人工智能的机制(而不仅仅是应用)感到好奇,那么这种好奇心就值得追随。了解神经网络的工作原理使您与只使用人工智能工具的人处于不同的类别。
建议路径:
首先了解概念 — AI Educademy 上的 AI Seeds 计划] 在介绍任何数学或代码之前,以通俗易懂的语言介绍了机器学习和神经网络概念。免费、多语言、专为非技术学习者设计。
学习高层次的数学 - 您不需要手动推导反向传播,但理解导数的概念(变化率)以及为什么它对优化有用会有很大帮助。
动手实践 — 3Blue1Brown 的“神经网络”YouTube 系列是最好的视觉介绍。 Fast.ai 的实用深度学习对于准备编码的人来说是最好的实践课程。
专业——计算机视觉?自然语言处理?人工智能应用开发? AI 分支专业] 帮助您深入了解对您重要的方向。
神经网络并不神奇——它们是大规模应用的简单操作(乘法、加法、比较)的巧妙组合。 “智能”来自训练期间学到的模式,而不是来自任何单独的计算。
是什么让他们如此强大:
是什么让他们受到限制:
这就是最诚实的画面。理解双方的区别在于,深思熟虑的人工智能用户与那些不加批判地感到惊讶或本能地持怀疑态度的人不同。
准备好正确学习人工智能了吗? 从 AI Seeds 开始 - 它是免费的并且以您的语言显示→
一旦您掌握了基础,就可以探索 AI 分支专业] 深入研究特定领域 - 从自然语言处理到使用 AI API 构建应用程序。