📖 mathematics 的博文
贝尔曼方程及其数学性质
贝尔曼方程(Bellman equation)是动态规划的核心,本质是把一个多阶段的决策问题拆成当前决策 + 剩余子问题的递归关系。它由理查德·贝尔曼在 20 世纪 50 年代提出,是强化学习、最优控制、经济学等领域的基础工具。
最优传输几何概念简论
从 Kantorovich 对偶到 Fisher–Rao 度量、Bregman 散度、核密度估计与标准化流,用同一套分布几何的语言解释为什么分布层面的判据比分类器置信度更稳健。
F-散度族及其推论
f-散度族(f-divergence)用一个凸函数 f 统一刻画两个概率分布之间的差异,KL、JS、全变差、卡方、Hellinger、α-散度都是它的特例。
对角线论证:改变数学与计算机的证明方法
对角线论证由康托尔于 1891 年提出,通过构造一个能逃脱任何「完备列表或映射」的对象,证明某些无穷严格大于另一些无穷。这一自指技巧同样蕴含于康托尔定理、图灵停机问题与哥德尔不完备定理之中——一个统一了集合论、可计算性与逻辑学的思想。
最大似然估计视角下的神经网络
从统计学习的视角看,现代神经网络确实可以理解为一个大规模的最大似然估计(MLE)过程。具体而言,神经网络是一个参数化函数,而最常见的训练方式正是在数据上做最大似然估计。