📖 所有博文
Fano 不等式与 Le Cam 方法
极小极大下界的三种基本工具:Le Cam 两点方法、Fano 不等式与 Assouad 引理。本文从决策论框架出发,给出完整证明与常数,并用高斯均值、非参数回归等例子展示如何把信息论不等式变成速率下界。
斯特林公式
斯特林公式揭示了当 n 趋向无穷大时 n!、nⁿ 与 eⁿ 之间的关系。
核方法基石:Representer Theorem
表示定理是核方法的一个基石性结论。它指出:对于一个在再生核希尔伯特空间(RKHS)中带有范数正则化的经验风险最小化问题,其最优解一定可以写成核函数在训练样本点上的线性组合。
贝叶斯决策理论
贝叶斯决策理论把不确定性与行动代价分开处理:先由先验与似然得到后验,再用损失函数把后验逐点映射为最优行动。
可叹的程序员们
许多软件工程师和程序员常常陷入一种困境:他们对自己所掌握的技术细节沾沾自喜,却很少意识到生活中几乎没有什么事情与代码有关。