von Mises–Fisher 分布（vMF）通常被视为正态分布在超球面上的对应物，因为它刻画了在单位超球面上围绕某一平均方向聚集的数据。
线性要求满足可加性与齐次性，但神经网络需要非线性才能摆脱简单的仿射变换。仿射层只能对数据进行拉伸和旋转，而不改变其拓扑结构；激活函数则能实现复杂的形变，使网络能够解开数据流形，有效地学习复杂模式。