预测编码与反向传播关系研究:核心文献深度分析报告
1. 理论框架与核心范式
1.1 自由能原理与预测编码的统一基础
1.1.1 变分自由能作为感知与学习的统一目标函数
预测编码的理论根基深植于Karl Friston提出的自由能原理(Free-Energy Principle),这一框架为理解大脑如何执行感知和学习提供了统一的数学语言。Bogacz于2017年发表的教程性论文系统阐述了这一框架,将**变分自由能(Variational Free Energy)**确立为感知与学习的核心目标函数。该框架的核心洞见在于,任何自组织系统若要维持其结构完整性,必须最小化其感官输入与内部模型预测之间的差异,这一差异被形式化为"自由能"或"预测误差"。
从数学角度看,变分自由能的构造遵循贝叶斯推断的基本原理。给定生成模型p(s,x)p(s, x)p(s,
