非负矩阵分解算法简介

矩阵分解技术现在已经广泛的应用到许多地方，例如信息检索、计算机视觉、模式识别等多个领域。常见的矩阵分解技术有LU分解、QR分解、奇异值分解（SVD）、主成分分析（PCA）、非负矩阵分解等，其中，非负矩阵分解技术凭借着其良好的物理解释及其非负的特性受到了广泛的关注。

NMF算法是最早提出的一种非负矩阵分解技术，后面的非负矩阵分解算法都是在其基础上改进的。相较于其他矩阵分解技术，NMF算法可以保证分解后得到的矩阵中没有负值。例如PCA、SVD等矩阵分解算法，其分解结果中可能会存在负值，在数学的角度看，分解结果中存在负值是正确的，但是负值元素在实际问题中往往是无意义的。这在现实应用中有很多例子，如数字图像中的像素为非负数，文本分析中的单词统计也总是非负数，股票价格也总是正数等等。

数据集X是一个大小为M×N的矩阵，其经过NMF算法分解后得到两个矩阵：U、V，其中U表示基矩阵，V表示系数矩阵，NMF的目标函数如下所示：

U是一个大小为M×K的矩阵，V是一个大小为N×K的矩阵。通过最小化J的值，使得基矩阵与系数矩阵的乘积近似等于原始矩阵。非负矩阵分解的示意图如下所示：

非负矩阵分解是个NP问题，通过构造拉格朗日函数，采取交替迭代优化的方式求解U，V，其优化公式如下所示：