计算智能概述
20 世纪 90 年代,在符号主义人工智能遭遇知识获取瓶颈之际,一批以数值计算为核心、直接从数据和仿生机制中产生智能行为的方法汇聚成流,被称为计算智能(Computational Intelligence,CI)。贝兹德克(J. Bezdek)给出一个广为引用的区分:
| 层次 | 名称 | 特征 |
|---|---|---|
| 低层 | 计算智能 CI | 主要依赖数值数据和计算过程,不要求显式的知识,容错性强;如神经网络、遗传算法。 |
| 中层 | 人工智能 AI(传统) | 使用符号知识与逻辑推理,处理结构化知识。 |
| 高层 | 生物智能 BI | 真实大脑的智能,是前两者的仿生原型。 |
计算智能的共同气质是:自组织、自学习、自适应;对不精确、不确定、不完整信息高度容忍;无需精确的解析模型。它主要由四大分支组成:
神经计算
模拟人脑神经元连接,如 BP 网络、卷积网络、Transformer。
进化计算
模拟"物竞天择、适者生存",如遗传算法、进化策略、遗传编程。
群智能
模拟社会性生物群体的协作,如蚁群算法、粒子群优化。
模糊计算
处理语言概念与模糊信息(见第 5 章),构成模糊神经系统等混合模型的基础。
神经计算
神经计算用人工神经元的大规模并行连接来模拟人脑的信息处理方式。知识不存于规则中,而分布在网络的连接权重里,由数据训练而得。
人工神经元与感知机
1943 年的 M-P 模型把神经元抽象为"输入加权求和 → 阈值激活":
其中 xi 是输入,wi 是连接权重,θ 是阈值,f 是激活函数(阶跃、Sigmoid、ReLU 等)。1958 年罗森布拉特(F. Rosenblatt)提出的感知机(Perceptron)是第一个可学习的神经网络模型:当分类错误时,按"错多少、调多少"的规则更新权重:
t 为期望输出,η 为学习率。感知机只能解决线性可分问题——1969 年明斯基以 XOR(异或)问题指出其局限,使神经网络研究一度陷入低谷。突破来自两点:引入隐藏层并使用可微激活函数、以及 1986 年辛顿等人推广的反向传播算法(BP)。
BP 网络与深度学习
BP(Back Propagation)网络是一种按误差逆传播训练的多层前馈网络,其学习过程由两个阶段循环构成:
信号正向传播
输入经输入层、隐藏层逐层加权与非线性激活,传到输出层得到预测值 ŷ。
误差反向传播
计算预测误差 E = ½Σ(t−ŷ)²,利用链式求导法则把误差对每个权重的偏导 ∂E/∂w 从输出层反向传回,按梯度下降更新权重:w ← w − η·∂E/∂w。
多轮迭代直到误差收敛。万能逼近定理表明:具有足够多隐层神经元的单隐层前馈网络,可以任意精度逼近紧集上的连续函数。
| 经典架构 | 思想要点 | 擅长任务 |
|---|---|---|
| 卷积网络 CNN | 局部感受野、权值共享、池化降维 | 图像分类、目标检测、医学影像 |
| 循环网络 RNN / LSTM | 带隐状态循环,按时间展开,门控记忆 | 语音、时序预测、早期机器翻译 |
| Transformer | 自注意力机制并行捕捉长程依赖 | 大语言模型、机器翻译、通用骨干网络 |
| 生成对抗网络 GAN | 生成器与判别器相互博弈训练 | 图像生成、风格迁移、数据增强 |
| 图神经网络 GNN | 在图结构上沿邻居聚合信息 | 分子性质预测、推荐、知识图谱 |
当网络层数显著增加(8 层、上百层乃至千亿参数),训练依赖大规模数据与 GPU 算力,就进入了深度学习。它在表示学习上的核心优势是:特征不再需要人工设计,而是由网络自动逐层学习(边缘→部件→语义)。
进化计算与遗传算法
进化计算(Evolutionary Computation)把求解问题模拟为生物进化:解空间中的每个候选解是一个"个体",多个个体组成"种群",用适应度衡量解的优劣,通过选择、重组、变异一代代繁衍,优良基因不断积累,最终逼近最优解。其家族包括遗传算法(GA)、进化策略(ES)、遗传编程(GP)、差分进化(DE)等,其中最经典的是霍兰德(J. Holland)1975 年提出的遗传算法(Genetic Algorithm)。
五个基本要素
① 编码(染色体表示)
把问题的解编码成"基因串"。最常用二进制编码,如背包问题用 0/1 串表示各物品取舍;也可用实数编码、排列编码(如旅行商问题的城市顺序)。
② 初始种群
随机生成 N 个个体构成第一代种群,覆盖尽可能广的解空间。
③ 适应度函数
f(x) 评价个体优劣,是"自然选择"的唯一依据:优化问题的目标函数(或其变换)即是适应度。
④ 遗传算子
选择:轮盘赌、锦标赛等方式,适应度越高被选为父代概率越大;交叉:以概率 pc 交换两个父代的部分基因产生子代;变异:以很小概率 pm 翻转某个基因位,保持种群多样性、防止早熟收敛。
⑤ 控制参数与终止
种群规模 N、交叉率 pc(常取 0.5~0.9)、变异率 pm(常取 0.001~0.05)、进化代数。达到最大代数或最优适应度满足要求时停止。
用 5 位二进制串编码 x(00000~11111),适应度即 x²。初始随机种群如 01101(13)、11000(24)、01000(8)、10011(19);经轮盘赌选择(24²=576 的个体获得最多交配机会)、单点交叉与偶发变异,一代代繁衍后种群迅速向 11111(x=31,f=961)收敛——无需计算导数、无需穷举,进化本身就是搜索。
遗传算法的特点与模式定理
- 内在并行性:同时搜索种群中的大量点,而非单点迭代,容易陷入局部最优的风险较低;
- 只利用适应度信息:不要求目标函数连续、可导,适合组合优化、黑箱优化;
- 霍兰德的模式定理给出理论解释:定义长度短、阶数低、适应度高于平均的"积木块"(相似基因模式)在进化中按指数增长,它们相互拼接形成更优解,故称积木块假设。
遗传算法广泛应用于车间调度、车辆路径、特征选择、神经网络结构搜索、投资组合优化等。其同族中,遗传编程直接对计算机程序(语法树)进行进化,进化策略偏重实数参数的自适应变异。
群智能
一只蚂蚁、一只鸟的智能微不足道,但蚁群能找到巢穴到食物的最短路径,鸟群能以优雅的队形整体转向。群智能(Swarm Intelligence)研究简单个体通过局部交互涌现出全局智能行为的机制:没有中心控制,每个个体只遵循简单规则并对环境或邻居做出反应。
蚁群算法(ACO)
多里戈(M. Dorigio)受蚂蚁觅食启发提出。蚂蚁沿途释放信息素(pheromone),并倾向于选择信息素浓的路径;路径越短,往返越快,单位时间内积累的信息素越多,吸引更多蚂蚁——形成正反馈,最终整个蚁群收敛到最短路径。
τ 为信息素浓度,η=1/d 为启发式能见度(距离越近越好),α、β 调节二者权重。每轮结束后按路径质量释放信息素,并让旧信息素挥发(乘以 ρ<1),避免算法过早锁死。ACO 特别擅长 TSP 旅行商、车辆路径、网络路由等离散组合优化。
粒子群优化(PSO)
肯尼迪与埃伯哈特受鸟群觅食启发提出。每个"粒子"是解空间中的一个候选解,具有位置 x 与速度 v,它记得自己历史最优位置 pbest,并感知群体最优位置 gbest,据此调整飞行方向:
x ← x + v
ω 为惯性权重,c1、c2 为认知与社会学习系数,r 为随机数。粒子在"自我经验"与"社会经验"共同牵引下搜索,结构简单、收敛快,常用于连续函数优化、参数整定、电力调度等。
共同特征
分布式、无中心;个体规则简单、局部交互;通过正反馈/自组织涌现全局秩序;鲁棒性强,单个个体失效不影响群体。
典型应用
物流调度、通信路由、机器人集群、无人机编队、无线传感网络覆盖,以及集群智能的工程调度。
模糊计算与其他分支
模糊计算以模糊集合、模糊规则和模糊推理为核心(第 5 章已详述),在计算智能中常与神经网络结合形成模糊神经网络(ANFIS):用网络学习隶属函数参数,用模糊规则保证可解释性,兼取两家之长。
此外,计算智能的版图上还有:
- 人工免疫系统(AIS):模仿生物免疫的"自己—非己识别、克隆选择、免疫记忆",用于异常检测与优化;
- DNA 计算 / 膜计算:分别以 DNA 分子反应、细胞膜结构为计算隐喻的新型计算模型;
- 强化学习:智能体在与环境的试错交互中依据奖励学习策略,兼具行为主义与数值优化色彩(第 7 章介绍)。
- 神经计算:向大脑学习——连接 + 学习规则;
- 进化计算:向历史学习——选择 + 交叉 + 变异;
- 群智能:向同伴学习——局部交互 + 信息素/群体最优;
- 模糊计算:向语言学习——隶属度 + 模糊规则。
交互演示:遗传算法进化短语
下面的演示把遗传算法的进化过程可视化:目标短语是 ARTIFICIAL INTELLIGENCE(24 个基因位),种群中 240 个个体初始全是随机字符串。适应度等于"字母对位率",选择采用锦标赛,两点交叉,变异率 1.5%。点击"开始进化",观察种群如何在没有任何拼写知识的情况下,仅凭选择—交叉—变异逐代"拼"出目标短语。
遗传算法 · 短语进化
GA · SELECTION / CROSSOVER / MUTATION① 进化初期适应度快速上升、越接近目标反而越慢,为什么?(提示:末尾几个错误字母必须靠小概率变异"碰巧"修正。)② 若把变异率调到 0,进化通常会卡死——变异在保持种群多样性中起什么作用?③ 这个例子中每个字母位对应一个"基因",适应度函数即目标函数,对照 6.3 节的五要素逐一辨认编码、选择、交叉、变异在哪里发生。