CIN 计算智能和神经科学 1687 - 5273 1687 - 5265 Hindawi出版公司 361705年 10.1155 / 2008/361705 361705年 研究文章 非负矩阵分解与高斯过程先验 施密特 麦克尔- N。 1 Laurberg 汉斯 2 王 文武 1 部门信息和数学模型 丹麦技术大学 理查德·彼得森申请 DTU-Building 321 2800年Lyngby 丹麦 2 的电子系统 Aalborg大学 尼尔斯·jern Vej 12 9220年AalborgØ。 丹麦 2008年 20. 02 2008年 2008年 31日 10 2007年 16 01 2008年 10 02 2008年 2008年 版权©2008 这是一个开放的文章在知识共享归属许可下发布的,它允许无限制的使用,分布和繁殖在任何媒介,提供最初的工作是正确的引用。

我们提出的一般方法包括先验知识在一个非负矩阵分解(NMF),基于高斯过程先验。我们假设NMF的负的因素都与一种严格递增函数指定一个潜在的高斯过程的协方差函数。这使我们能够找到NMF分解,同意我们的先验知识分布的因素,如稀疏,平滑度和对称性。演示的方法是用一个例子从大脑化学位移成像。 1。介绍</gydF4y2Batitle> <p>非负矩阵分解(NMF) [<xgydF4y2Baref ref-type="bibr" rid="B1"> 1</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B2"> 2</xgydF4y2Baref>是最近的一个方法,一个矩阵分解为两个矩阵的乘积,所有元素都是非负的。NMF发现广泛的应用在许多不同的领域包括模式识别(<xgydF4y2Baref ref-type="bibr" rid="B3"> 3</xgydF4y2Baref>),聚类(<xgydF4y2Baref ref-type="bibr" rid="B4"> 4</xgydF4y2Baref>,降维<xgydF4y2Baref ref-type="bibr" rid="B5"> 5</xgydF4y2Baref>),和光谱分析<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B7"> 7</xgydF4y2Baref>]。许多物理信号,如像素强度、振幅谱,和发生数量,自然由非负数字表示。等混合物的分析数据,nonnegativity单个组件的一个合理的约束。最近,一个非常简单的算法(<xgydF4y2Baref ref-type="bibr" rid="B8"> 8</xgydF4y2Baref>介绍了NMF)计算。这已开始研究旨在开发更加健壮和高效的算法。</pgydF4y2Ba> <p>一直在努力提高NMF的质量通过添加进一步约束分解,如稀疏(<xgydF4y2Baref ref-type="bibr" rid="B9"> 9</xgydF4y2Baref>)、空间定位(<xgydF4y2Baref ref-type="bibr" rid="B10"> 10</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B11"> 11</xgydF4y2Baref>),和平滑度(<xgydF4y2Baref ref-type="bibr" rid="B11"> 11</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B12"> 12</xgydF4y2Baref>),或通过扩展模型convolutive [<xgydF4y2Baref ref-type="bibr" rid="B13"> 13</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B14"> 14</xgydF4y2Baref>]。许多扩展NMF方法推导通过添加适当的约束和惩罚条款成本函数。另外,NMF方法可以推导出一个概率设置,根据数据的分布(<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B15"> 15</xgydF4y2Baref>- - - - - -<xgydF4y2Baref ref-type="bibr" rid="B17"> 17</xgydF4y2Baref>]。这些方法有优势,模型中的基本假设是明确的。</pgydF4y2Ba> <p>在本文中,我们提出一个通用的方法,来利用先验知识在NMF提高解决方案的质量。概率的方法导出设置,它是基于定义NMF模型先验概率分布的因素在高斯过程框架。我们假设NMF的负的因素都与一种严格递增函数一个潜在的高斯过程,规定其协方差函数。通过指定的协方差的过程中,我们可以计算NMF分解,同意我们的先验知识的因素,如稀疏、平滑度和对称性。我们将该方法称为非负矩阵分解与高斯过程先验,简称GPP-NMF。</pgydF4y2Ba> </sec> <sec sec-type="section" id="sec2"> <title>2。NMF与高斯过程先验</gydF4y2Batitle> <p>在下面,我们获得的NMF方法包括前信息分解通过假设高斯过程先验(一般介绍高斯过程,看到的,例如,拉斯穆森和威廉姆斯(<xgydF4y2Baref ref-type="bibr" rid="B18"> 18</xgydF4y2Baref>]。)在我们的方法中,高斯过程先验与非负因素NMF通过合适的链接功能。设置的符号,我们首先推导标准NMF方法最大似然(ML)估计,然后转移到最大后验(MAP)估计量。然后,我们讨论高斯过程先验,引入变量的改变给了更好的优化性能。最后,我们讨论的选择链接功能。</pgydF4y2Ba> <sec sec-type="subsection" id="subsec2.1"> <title>2.1。最大似然NMF</gydF4y2Batitle> <p>NMF的问题可以表示为<d我年代p- - - - - -formula id="eq1"> <label>(1)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62207.png" width="100" height="19" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M1"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> X</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> =</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> +</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> N</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mstyle> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M2"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> X</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ∈</gydF4y2Bamml:mo> <mml:msup> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> K</gydF4y2Bamml:mi> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mi> l</gydF4y2Bamml:mi> </mml:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>映像是一个数据矩阵,作为两个element-wise非负矩阵的乘积,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M3"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ∈</gydF4y2Bamml:mo> <mml:msubsup> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mo> +</gydF4y2Bamml:mo> <mml:mrow> <mml:mi> K</gydF4y2Bamml:mi> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mi> 米</gydF4y2Bamml:mi> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M4"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ∈</gydF4y2Bamml:mo> <mml:msubsup> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mo> +</gydF4y2Bamml:mo> <mml:mrow> <mml:mi> 米</gydF4y2Bamml:mi> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mi> l</gydF4y2Bamml:mi> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>,在那里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M5"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℝ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> +</gydF4y2Bamml:mo> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>表示非负实数。矩阵<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M6"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> N</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ∈</gydF4y2Bamml:mo> <mml:msup> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> K</gydF4y2Bamml:mi> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mi> l</gydF4y2Bamml:mi> </mml:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>是残留噪声。</pgydF4y2Ba> <p>存在许多不同的算法(<xgydF4y2Baref ref-type="bibr" rid="B8"> 8</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B15"> 15</xgydF4y2Baref>- - - - - -<xgydF4y2Baref ref-type="bibr" rid="B17"> 17</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B19"> 19</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B20"> 20.</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B21"> 21</xgydF4y2Baref>)本分解计算,其中一些可以被视为最大似然方法在某些假设的分布数据。例如,最小二乘NMF对应于先验知识。高斯噪声(<xgydF4y2Baref ref-type="bibr" rid="B17"> 17</xgydF4y2Baref>],Kullback-Leibler NMF对应于一个泊松过程(<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>]。</pgydF4y2Ba> <p>的ML估计<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M7"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M8"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是由<d我年代p- - - - - -formula id="eq2"> <label>(2)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62215.png" width="291" height="51" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M9"> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> {</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 毫升</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo> ,</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 毫升</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> }</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:munder> <mml:mrow> <mml:mi> 参数</gydF4y2Bamml:mi> <mml:mo> </mml:mo> <mml:mi> 最小值</gydF4y2Bamml:mi> <mml:mo></mml:mo> </mml:mrow> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ≥</gydF4y2Bamml:mo> <mml:mn> 0</gydF4y2Bamml:mn> </mml:mrow> </mml:munder> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M10"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>负对数似然的因素。<年代tatement id="ex1"> <title>示例1(最小二乘NMF)。</gydF4y2Batitle> </statement></p> <p>最大似然NMF的一个例子是最小二乘估计。如果噪声先验知识。高斯方差<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M11"> <mml:mrow> <mml:msubsup> <mml:mi> σ</gydF4y2Bamml:mi> <mml:mi> N</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>,可能的因素<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M12"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M13"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>可以写成<d我年代p- - - - - -formula id="eq3"> <label>(3)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62220.png" width="400" height="83" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M14"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mrow> <mml:mo> ∣</gydF4y2Bamml:mo> </mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> LS</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mrow> <mml:mo> ∣</gydF4y2Bamml:mo> </mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mi> π</gydF4y2Bamml:mi> </mml:mrow> </mml:msqrt> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> K</gydF4y2Bamml:mi> <mml:mi> l</gydF4y2Bamml:mi> </mml:mrow> </mml:msup> </mml:mrow> </mml:mfrac> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> ∥</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> −</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:msubsup> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> ∥</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> F</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>作为成本的负对数似然函数优化,然后<d我年代p- - - - - -formula id="eq4"> <label>(4)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62221.png" width="280" height="64" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M15"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> LS</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:mfrac> <mml:mo minsize="0.75em" maxsize="0.75em"> ∥</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> −</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:msubsup> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> ∥</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> F</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>我们使用比例符号表示平等受一个积分常数。计算的最大似然估计<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M16"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M17"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>的梯度负对数似然是有用的:<d我年代p- - - - - -formula id="eq5"> <label>(5)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62224.png" width="282" height="50" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M18"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mo> ∇</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:msubsup> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> LS</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> −</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>和梯度<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M19"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>很容易得到,因为类似NMF的对称性问题。</pgydF4y2Ba> <p></p> <p>ML估计可以用乘法计算更新规则基于梯度(<xgydF4y2Baref ref-type="bibr" rid="B8"> 8</xgydF4y2Baref>],投影梯度下降[<xgydF4y2Baref ref-type="bibr" rid="B19"> 19</xgydF4y2Baref>),交替最小二乘(<xgydF4y2Baref ref-type="bibr" rid="B20"> 20.</xgydF4y2Baref>[],牛顿型方法<xgydF4y2Baref ref-type="bibr" rid="B21"> 21</xgydF4y2Baref>),或任何其他适当的约束优化方法。</pgydF4y2Ba> </sec> <sec sec-type="subsection" id="subsec2.2"> <title>2.2。最大后验NMF</gydF4y2Batitle> <p>在本文中,我们提出一个方法来构建先验知识NMF的解决问题。我们选择一个先验分布<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M20"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>因素模型中,之前,吸引了我们的信念和我们所寻求的解决方案的不确定性。然后我们计算出最大后验(MAP)估计的因素。使用贝叶斯规则,后是由<d我年代p- - - - - -formula id="eq6"> <label>(6)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62227.png" width="392" height="60" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M21"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> <mml:mrow> <mml:mo> ∣</gydF4y2Bamml:mo> </mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mrow> <mml:mo> ∣</gydF4y2Bamml:mo> </mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo minsize="0.75em" maxsize="0.75em"> |</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mrow> <mml:mo> ∣</gydF4y2Bamml:mo> </mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mfrac> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>由于分子是常数,负对数后的总和是一个术语,惩罚可能性模型不适应环境的人,和之前的术语,惩罚的解决方案之前,不太可能在:<d我年代p- - - - - -formula id="eq7"> <label>(7)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62228.png" width="348" height="25" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M22"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo minsize="0.75em" maxsize="0.75em"> |</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> +</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> 。</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>地图的估计<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M23"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M24"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是<d我年代p- - - - - -formula id="eq8"> <label>(8)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62231.png" width="313" height="51" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M25"> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> {</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 地图</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo> ,</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 地图</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> }</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:munder> <mml:mrow> <mml:mi> 参数</gydF4y2Bamml:mi> <mml:mo> </mml:mo> <mml:mi> 最小值</gydF4y2Bamml:mi> <mml:mo></mml:mo> </mml:mrow> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ≥</gydF4y2Bamml:mo> <mml:mn> 0</gydF4y2Bamml:mn> </mml:mrow> </mml:munder> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>它又可以计算使用任何合适的优化算法。<年代tatement id="ex2"> <title>例2(非负稀疏编码)。</gydF4y2Batitle> </statement></p> <p>地图NMF的例子非负稀疏编码(NNSC) [<xgydF4y2Baref ref-type="bibr" rid="B9"> 9</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B22"> 22</xgydF4y2Baref>),之前<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M26"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>i.i.d.指数,之前<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M27"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是平的,每一列约束单位规范<d我年代p- - - - - -formula id="eq9"> <label>(9)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62234.png" width="375" height="42" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M28"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> NNSC</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mstyle displaystyle="true"> <mml:mrow> <mml:munder> <mml:mrow> <mml:mo> ∏</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> </mml:mrow> </mml:munder> </mml:mrow> </mml:mstyle> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mi> λ</gydF4y2Bamml:mi> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> </mml:mi> <mml:mi> </mml:mi> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> ∥</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> k</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> ∥</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> <mml:mi> </mml:mi> <mml:mtext> </mml:mtext> <mml:mo> ∀</gydF4y2Bamml:mo> <mml:mi> k</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M29"> <mml:mrow> <mml:mo stretchy="false"> |</gydF4y2Bamml:mo> <mml:mo stretchy="false"> |</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> k</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> |</gydF4y2Bamml:mo> <mml:mo stretchy="false"> |</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>欧几里得范数的吗<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M30"> <mml:mrow> <mml:mi> k</gydF4y2Bamml:mi> <mml:mtext> th</gydF4y2Bamml:mtext> </mml:mrow> </mml:math> </inline-formula>列的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M31"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>。这对应于以下惩罚项的成本函数:<d我年代p- - - - - -formula id="eq10"> <label>(10)</gydF4y2Balabel> <mml:math height="41" width="193" altimg="C:\WINDOWS\Temp\MMLIMG62238.png" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M32"> <mml:mrow> <mml:msubsup> <mml:mi> ℒ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> NNSC</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mstyle displaystyle="true"> <mml:munder> <mml:mo> ∑</gydF4y2Bamml:mo> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> </mml:mrow> </mml:munder> </mml:mstyle> <mml:msub> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>梯度对之前的负对数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M33"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>然后<d我年代p- - - - - -formula id="eq11"> <label>(11)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62240.png" width="109" height="30" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M34"> <mml:mrow> <mml:msub> <mml:mo> ∇</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:msub> <mml:msubsup> <mml:mi> ℒ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> NNSC</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo> =</gydF4y2Bamml:mo> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>和梯度<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M35"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是零,进一步规范化约束了(<xgydF4y2Baref ref-type="disp-formula" rid="eq9"> 9</xgydF4y2Baref>)。</pgydF4y2Ba> <p></p> </sec> <sec sec-type="subsection" id="subsec2.3"> <title>2.3。高斯过程先验</gydF4y2Batitle> <p>在下面,我们推导出地图估计在非负矩阵的假设下<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M36"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M37"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>独立是由高斯过程(<xgydF4y2Baref ref-type="bibr" rid="B18"> 18</xgydF4y2Baref>)通过一个链接功能。高斯过程框架提供了原则和实践的规范方法的先验概率分布因素NMF模型。事先指定的两个函数:(i)的协方差函数,描述corellations因素和(2)一个链接功能,将之前的高斯过程转换成所需的分布在非负实数。</pgydF4y2Ba> <p>我们假设<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M38"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M39"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是独立的,这样我们可以写吗<d我年代p- - - - - -formula id="eq12"> <label>(12)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62246.png" width="226" height="24" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M40"> <mml:mrow> <mml:msub> <mml:mi> ℒ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mi> ℒ</gydF4y2Bamml:mi> <mml:mi> D</gydF4y2Bamml:mi> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> +</gydF4y2Bamml:mo> <mml:msub> <mml:mi> ℒ</gydF4y2Bamml:mi> <mml:mi> H</gydF4y2Bamml:mi> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> 。</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在下面,我们只考虑前<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M41"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>,因为治疗<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M42"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>相当于由于NMF的对称性问题。我们假设有一个潜在变量向量,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M43"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> h</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ∈</gydF4y2Bamml:mo> <mml:msup> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mrow> <mml:mi> l</gydF4y2Bamml:mi> <mml:mi> 米</gydF4y2Bamml:mi> </mml:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>,这是为多元高斯协方差矩阵<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M44"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>:<d我年代p- - - - - -formula id="eq13"> <label>(13)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62251.png" width="331" height="66" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M45"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mi> π</gydF4y2Bamml:mi> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> <mml:mo> /</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mi> N</gydF4y2Bamml:mi> <mml:mi> l</gydF4y2Bamml:mi> </mml:mrow> </mml:msup> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>,与<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M46"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>通过一个链接功能,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M47"> <mml:mrow> <mml:msub> <mml:mi> f</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> </mml:msub> </mml:mrow> </mml:math> </inline-formula>:<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M48"> <mml:mrow> <mml:msub> <mml:mi> ℝ</gydF4y2Bamml:mi> <mml:mo> +</gydF4y2Bamml:mo> </mml:msub> <mml:mo> →</gydF4y2Bamml:mo> <mml:mi> ℝ</gydF4y2Bamml:mi> </mml:mrow> </mml:math> </inline-formula>作为<d我年代p- - - - - -formula id="eq14"> <label>(14)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62255.png" width="122" height="27" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M49"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>运营element-wise输入。的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M50"> <mml:mrow> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> </mml:math> </inline-formula>函数表达式中操作数栈的矩阵列的列。应该严格增加链接功能,确保了逆的存在。之后,我们将进一步假设的衍生品<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M51"> <mml:mrow> <mml:msub> <mml:mi> f</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M52"> <mml:mrow> <mml:msubsup> <mml:mi> f</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>存在。在这些假设下,之前结束<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M53"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是由(使用变量的变化定理)<d我年代p- - - - - -formula id="eq15"> <label>(15)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62260.png" width="381" height="145" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M54"> <mml:mrow> <mml:mtable class="split"> <mml:mtr> <mml:mtd columnalign="left"> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd columnalign="left"> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:mi> </gydF4y2Bamml:mi> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> </mml:mrow> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd columnalign="left"> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> </mml:mrow> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mstyle displaystyle="true"> <mml:mrow> <mml:munder> <mml:mrow> <mml:mo> ∏</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:munder> </mml:mrow> </mml:mstyle> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> ”</gydF4y2Bamml:mo> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:msub> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> </mml:mtable> <mml:mtext> </mml:mtext> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M55"> <mml:mrow> <mml:mi> </gydF4y2Bamml:mi> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>表示雅可比矩阵和行列式<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M56"> <mml:mrow> <mml:msubsup> <mml:mi> f</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> <mml:mo> ”</gydF4y2Bamml:mo> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>是链接的函数的导数。然后之前的负对数<d我年代p- - - - - -formula id="eq17"> <label>(16)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62263.png" width="327" height="112" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M57"> <mml:mrow> <mml:mtable class="split"> <mml:mtr> <mml:mtd columnalign="left"> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd columnalign="left"> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> </mml:mrow> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:msub> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> −</gydF4y2Bamml:mo> <mml:mstyle displaystyle="true"> <mml:mrow> <mml:munder> <mml:mrow> <mml:mo> ∑</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:munder> </mml:mrow> </mml:mstyle> <mml:mi> 日志</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> ”</gydF4y2Bamml:mo> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="0.75em" maxsize="0.75em"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="0.75em" maxsize="0.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:msub> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:math> </disp-formula>这个表达式可以加上适当的似然函数,如最小二乘(可能性<xgydF4y2Baref ref-type="disp-formula" rid="eq4"> 4</xgydF4y2Baref>),可以优化产量地图解决方案;然而,在我们的实验中,我们发现一个更简单的和健壮的算法可以获得通过改变变量,下面将对此进行说明。</pgydF4y2Ba> </sec> <sec sec-type="subsection" id="subsec2.4"> <title>2.4。优化变量的变化</gydF4y2Batitle> <p>而在非负因素优化<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M58"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M59"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>我们介绍了变量<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M60"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M61"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>,这是相关的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M62"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M63"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>通过<d我年代p- - - - - -formula id="eq18"> <label>(17)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62272.png" width="293" height="92" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M64"> <mml:mrow> <mml:mtable> <mml:mtr> <mml:mtd> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mtd> <mml:mtd> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mtext> vec</gydF4y2Bamml:mtext> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> C</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msubsup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mtd> <mml:mtd> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mtext> vec</gydF4y2Bamml:mtext> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> C</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msubsup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M65"> <mml:mrow> <mml:msup> <mml:mrow> <mml:mtext> vec</gydF4y2Bamml:mtext> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> </mml:math> </inline-formula>函数映射的向量输入到一个矩阵适当大小。的矩阵<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M66"> <mml:mrow> <mml:msub> <mml:mstyle mathvariant="bold"> <mml:mi> C</gydF4y2Bamml:mi> </mml:mstyle> <mml:mi> d</gydF4y2Bamml:mi> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M67"> <mml:mrow> <mml:msub> <mml:mstyle mathvariant="bold"> <mml:mi> C</gydF4y2Bamml:mi> </mml:mstyle> <mml:mi> h</gydF4y2Bamml:mi> </mml:msub> </mml:mrow> </mml:math> </inline-formula>是矩阵的平方根(柯列斯基分解)的协方差矩阵<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M68"> <mml:mrow> <mml:msub> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M69"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>,这样<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M70"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M71"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是标准的高斯先验知识。</pgydF4y2Ba> <p>这种变化的变量有两个目的。首先,我们发现在转换变量优化是更快、更健壮,不易陷入局部最小值。第二,转换后的变量是不受限非负的,它允许我们使用现有的无约束最优化方法计算其地图估计。</pgydF4y2Ba> <p>改变变量的先验分布<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M72"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>是<d我年代p- - - - - -formula id="eq19"> <label>(18)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62281.png" width="440" height="61" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M73"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mtext> </mml:mtext> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:mi> </gydF4y2Bamml:mi> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> |</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:msup> <mml:mrow> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mi> π</gydF4y2Bamml:mi> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> l</gydF4y2Bamml:mi> <mml:mi> 米</gydF4y2Bamml:mi> <mml:mo> /</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> </mml:mfrac> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mo minsize="1.5em" maxsize="1.5em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>和之前的负对数<d我年代p- - - - - -formula id="eq20"> <label>(19)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62282.png" width="116" height="43" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M74"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ∝</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>计算估计的地图转换变量,之前,我们必须把这个表达式(和之前的类似的表达式<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M75"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>与似然函数),相同的变量<d我年代p- - - - - -formula id="eq21"> <label>(20)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62284.png" width="405" height="44" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M76"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> η</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> +</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> +</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>然后,可以找到地图解决方案通过优化<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M77"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M78"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>作为<d我年代p- - - - - -formula id="eq22"> <label>(21)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62287.png" width="294" height="53" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M79"> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> {</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 地图</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo> ,</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mtext> 地图</gydF4y2Bamml:mtext> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> }</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:munder> <mml:mrow> <mml:mi> 参数</gydF4y2Bamml:mi> <mml:mo> </mml:mo> <mml:mi> 最小值</gydF4y2Bamml:mi> <mml:mo></mml:mo> </mml:mrow> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:munder> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> η</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>最后,估计的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M80"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M81"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>可以计算使用(<xgydF4y2Baref ref-type="disp-formula" rid="eq18"> 17</xgydF4y2Baref>)。<年代tatement id="ex3"> <title>例3(最小二乘非负矩阵分解与高斯过程先验(GPP-NMF))。</gydF4y2Batitle> </statement></p> <p>如果我们使用最小二乘(可能性<xgydF4y2Baref ref-type="disp-formula" rid="eq4"> 4</xgydF4y2Baref>),后验分布(<xgydF4y2Baref ref-type="disp-formula" rid="eq21"> 20.</xgydF4y2Baref>)是由<d我年代p- - - - - -formula id="eq23"> <label>(22)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62290.png" width="426" height="63" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M82"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> η</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> LS</gydF4y2Bamml:mtext> <mml:mtext> 量</gydF4y2Bamml:mtext> <mml:mtext> GPP</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> ∥</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> −</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> ∥</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> F</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> <mml:mo> +</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> +</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula>地图的估计<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M83"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M84"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mi> η</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>发现通过最小化这个表达式,导数是有用的吗<d我年代p- - - - - -formula id="eq24"> <label>(23)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62293.png" width="416" height="101" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M85"> <mml:mrow> <mml:mtable class="split"> <mml:mtr> <mml:mtd columnalign="left"> <mml:msub> <mml:mrow> <mml:mo> ∇</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:msubsup> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> η</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mtext> LS</gydF4y2Bamml:mtext> <mml:mtext> 量GPP</gydF4y2Bamml:mtext> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd columnalign="left"> <mml:mo> =</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> N</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mtext> vec</gydF4y2Bamml:mtext> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:msup> <mml:mrow> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> d</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> g</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> −</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:msup> <mml:mrow> <mml:mo> ⊙</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ”</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> C</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msubsup> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ⊤</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> C</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo> +</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M86"> <mml:mrow> <mml:mo> ⊙</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>表示阿达玛(element-wise)产品。的导数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M87"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>由于对称NMF类似问题。</pgydF4y2Ba> <p></p> </sec> <sec sec-type="subsection" id="subsec2.5"> <title>2.5。链接功能</gydF4y2Batitle> <p>任何严格增加链接功能,地图的非负实数实线可用于拟议的框架;然而,为了有一个更好的先验分布的概率解释,我们提出一个简单的原则选择链接功能。我们选择这样的链接功能<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M88"> <mml:mrow> <mml:msubsup> <mml:mi> f</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>地图元素的边缘分布的高斯过程向量<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M89"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> h</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>到一个特别选择元素的边缘分布<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M90"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>。可以找到这样一个逆函数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M91"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> P</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mi> P</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>,在那里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M92"> <mml:mrow> <mml:mi> P</gydF4y2Bamml:mi> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>表示边际累积分布函数(CDFs)。</pgydF4y2Ba> <p>因为高斯过程的人是高斯分布,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M93"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> P</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>是高斯(CDF),使用(<xgydF4y2Baref ref-type="disp-formula" rid="eq13"> 13</xgydF4y2Baref>)的反向链接功能<d我年代p- - - - - -formula id="eq25"> <label>(24)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62357.png" width="262" height="57" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M94"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mtext> P</gydF4y2Bamml:mtext> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mo> +</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mi mathvariant="normal"> Φ</gydF4y2Bamml:mi> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msqrt> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M95"> <mml:mrow> <mml:msubsup> <mml:mi> σ</gydF4y2Bamml:mi> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msubsup> </mml:mrow> </mml:math> </inline-formula>是<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M96"> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:math> </inline-formula>th对角元素的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M97"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> Σ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M98"> <mml:mrow> <mml:mi mathvariant="normal"> Φ</gydF4y2Bamml:mi> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>误差函数。<年代tatement id="ex4"> <title>示例4 (exponential-to-Gaussian链接功能)。</gydF4y2Batitle> </statement></p> <p>如果我们选择指数的人<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M99"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>,如NNSC中描述的例子<xgydF4y2Baref ref-type="statement" rid="ex2"> 2</xgydF4y2Baref>,我们选择<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M100"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> P</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>随着指数提供。反向链接功能<d我年代p- - - - - -formula id="eq26"> <label>(25)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62364.png" width="286" height="57" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M101"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mi> λ</gydF4y2Bamml:mi> </mml:mrow> </mml:mfrac> <mml:mi> 日志</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mi mathvariant="normal"> Φ</gydF4y2Bamml:mi> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msqrt> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M102"> <mml:mrow> <mml:mi> λ</gydF4y2Bamml:mi> </mml:mrow> </mml:math> </inline-formula>是一个逆尺度参数。反向链接函数的导数,所需的参数估计,给出了<d我年代p- - - - - -formula id="eq27"> <label>(26)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62366.png" width="346" height="65" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M103"> <mml:mrow> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ”</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mi> π</gydF4y2Bamml:mi> </mml:mrow> </mml:msqrt> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mi> λ</gydF4y2Bamml:mi> </mml:mrow> </mml:mfrac> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mi> λ</gydF4y2Bamml:mi> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula></p> <statement id="ex5"> <title>示例5 (rectified-Gaussian-to-Gaussian链接功能)。</gydF4y2Batitle> <p>另一个有趣的非负分布的修正高斯<d我年代p- - - - - -formula id="eq28"> <label>(27)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62379.png" width="287" height="93" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M104"> <mml:mrow> <mml:mi> p</gydF4y2Bamml:mi> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mi> x</gydF4y2Bamml:mi> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mrow> <mml:mo class="cases"> {</gydF4y2Bamml:mo> <mml:mrow> <mml:mtable class="cases"> <mml:mtr> <mml:mtd columnalign="left"> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mi> π</gydF4y2Bamml:mi> </mml:mrow> </mml:msqrt> <mml:mi> 年代</gydF4y2Bamml:mi> </mml:mrow> </mml:mfrac> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:msup> <mml:mrow> <mml:mi> x</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msup> <mml:mrow> <mml:mi> 年代</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> <mml:mtd columnalign="left"> <mml:mrow> <mml:mi> </mml:mi> <mml:mi> x</gydF4y2Bamml:mi> <mml:mo> ≥</gydF4y2Bamml:mo> <mml:mn> 0</gydF4y2Bamml:mn> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd columnalign="left"> <mml:mn> 0</gydF4y2Bamml:mn> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mtd> <mml:mtd columnalign="left"> <mml:mrow> <mml:mi> </mml:mi> <mml:mi> x</gydF4y2Bamml:mi> <mml:mo> <</gydF4y2Bamml:mo> <mml:mn> 0。</gydF4y2Bamml:mn> </mml:mrow> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:mrow> </mml:mrow> </mml:math> </disp-formula>使用这个pdf (<xgydF4y2Baref ref-type="disp-formula" rid="eq25"> 24</xgydF4y2Baref>),反向链接功能<d我年代p- - - - - -formula id="eq29"> <label>(28)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62368.png" width="305" height="57" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M105"> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msqrt> <mml:mi> 年代</gydF4y2Bamml:mi> <mml:msup> <mml:mrow> <mml:mi mathvariant="normal"> Φ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mo> +</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:mfrac> <mml:mi mathvariant="normal"> Φ</gydF4y2Bamml:mi> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> <mml:mrow> <mml:msqrt> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msqrt> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>和反向链接函数的导数<d我年代p- - - - - -formula id="eq30"> <label>(29)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62369.png" width="312" height="71" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M106"> <mml:mrow> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mo> ”</gydF4y2Bamml:mo> </mml:mrow> </mml:msup> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:mi> 年代</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msub> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> </mml:mrow> </mml:mfrac> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mi> f</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> <mml:msup> <mml:mrow> <mml:mo minsize="1em" maxsize="1em"> (</gydF4y2Bamml:mo> <mml:msub> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo minsize="1em" maxsize="1em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msup> <mml:mrow> <mml:mi> 年代</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> </mml:mfrac> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:msubsup> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> h</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> <mml:msubsup> <mml:mrow> <mml:mi> σ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msubsup> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mn> 。</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </disp-formula></p> </statement> <p></p> </sec> <sec sec-type="subsection" id="subsec2.6"> <title>2.6。摘要GPP-NMF方法</gydF4y2Batitle> <p>GPP-NMF方法可以归纳为如下步骤。</pgydF4y2Ba> <p> <list> <list-item> <label>(我)</gydF4y2Balabel> </list-item> </list></p> <p>选择一个合适的负对数似函数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M107"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> ℒ</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mi> X</gydF4y2Bamml:mi> <mml:mo> ∣</gydF4y2Bamml:mo> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:msub> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> D</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mstyle mathvariant="bold"> <mml:mrow> <mml:mi> H</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>基于知识的分布数据或剩余。</pgydF4y2Ba> <list-item> <label>(2)</gydF4y2Balabel> <p>每个非负的因素<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M108"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M109"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>,选择合适的链接和协方差函数根据你之前的信仰。如果有必要,把样本先验分布调查其属性。</pgydF4y2Ba> </list-item> <list-item> <label>(3)</gydF4y2Balabel> <p>计算估计的地图<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M110"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M111"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>由(<xgydF4y2Baref ref-type="disp-formula" rid="eq22"> 21</xgydF4y2Baref>)使用任何合适的无约束优化算法。</pgydF4y2Ba> </list-item> <list-item> <label>(iv)</gydF4y2Balabel> <p>计算<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M112"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M113"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>使用(<xgydF4y2Baref ref-type="disp-formula" rid="eq18"> 17</xgydF4y2Baref>)。</pgydF4y2Ba> </list-item>我们的Matlab实现GPP-NMF方法是网上的<xgydF4y2Baref ref-type="bibr" rid="B23"> 23</xgydF4y2Baref>]。<pgydF4y2Ba></p> </sec> </sec> <sec sec-type="section" id="sec3"> <title>3所示。实验结果</gydF4y2Batitle> <p>我们将演示该方法对两个例子,第一一个玩具的例子,和第二一个例子来自大脑化学位移成像文学。</pgydF4y2Ba> <p>在我们的实验中,我们使用最小二乘GPP-NMF中描述的例子<xgydF4y2Baref ref-type="statement" rid="ex3"> 3</xgydF4y2Baref>和链接功能描述的例子<xgydF4y2Baref ref-type="statement" rid="ex4"> 4</xgydF4y2Baref>- - - - - -<xgydF4y2Baref ref-type="statement" rid="ex5"> 5</xgydF4y2Baref>。具体优化方法用于计算GPP-NMF地图估计不是本文的主题,和任何原则上可以无约束最优化算法。在我们的实验中,我们使用一个简单的梯度下降法与线搜索执行1000交替更新的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M114"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M115"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>后,该算法融合了。实现的细节,请参阅相应的Matlab代码(<xgydF4y2Baref ref-type="bibr" rid="B23"> 23</xgydF4y2Baref>]。</pgydF4y2Ba> <sec sec-type="subsection" id="subsec3.1"> <title>3.1。玩具的例子</gydF4y2Batitle> <p>我们生成一个<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M116"> <mml:mrow> <mml:mn> One hundred.</gydF4y2Bamml:mn> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mn> 200年</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>数据矩阵,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M117"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> Y</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>从GPP-NMF模型,通过随机抽样与两个因素。我们选择了生成的协方差函数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M118"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> δ</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M119"> <mml:mrow> <mml:mstyle mathvariant="bold-italic"> <mml:mrow> <mml:mi> η</gydF4y2Bamml:mi> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>作为一个高斯径向基函数(RBF)<d我年代p- - - - - -formula id="eq31"> <label>(30)</gydF4y2Balabel> <mml:math altimg="C:\WINDOWS\Temp\MMLIMG62328.png" width="181" height="56" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M120"> <mml:mrow> <mml:mi> ϕ</gydF4y2Bamml:mi> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> <mml:mo> =</gydF4y2Bamml:mo> <mml:mi> 经验值</gydF4y2Bamml:mi> <mml:mo></mml:mo> <mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> (</gydF4y2Bamml:mo> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mfrac> <mml:mrow> <mml:msup> <mml:mrow> <mml:mo stretchy="false"> (</gydF4y2Bamml:mo> <mml:mi> 我</gydF4y2Bamml:mi> <mml:mo> −</gydF4y2Bamml:mo> <mml:mi> j</gydF4y2Bamml:mi> <mml:mo stretchy="false"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> <mml:mrow> <mml:msup> <mml:mrow> <mml:mi> β</gydF4y2Bamml:mi> </mml:mrow> <mml:mrow> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> </mml:mfrac> </mml:mrow> <mml:mo minsize="1.75em" maxsize="1.75em"> )</gydF4y2Bamml:mo> </mml:mrow> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </disp-formula>在哪里<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M121"> <mml:mrow> <mml:mi> 我</gydF4y2Bamml:mi> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M122"> <mml:mrow> <mml:mi> j</gydF4y2Bamml:mi> </mml:mrow> </mml:math> </inline-formula>两个样本指标,长度尺度参数,决定了平滑度的因素,是吗<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M123"> <mml:mrow> <mml:msup> <mml:mi> β</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msup> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> One hundred.</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>。我们将两个因素之间的协方差为零,这样的因素是不相关的。的矩阵<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M124"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>我们使用了rectified-Gaussian-to-Gaussian链接功能<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M125"> <mml:mrow> <mml:mi> 年代</gydF4y2Bamml:mi> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>;和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M126"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mrow> </mml:math> </inline-formula>我们使用了exponential-to-Gaussian链接功能<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M127"> <mml:mrow> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>。最后,我们添加了独立高斯噪声方差<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M128"> <mml:mrow> <mml:msubsup> <mml:mi> σ</gydF4y2Bamml:mi> <mml:mi> N</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msubsup> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 25</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>,导致信噪比约为<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M129"> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 7</gydF4y2Bamml:mn> <mml:mo></mml:mo> <mml:mtext> </mml:mtext> </mml:mrow> </mml:math> </inline-formula>dB。生成的数据矩阵如图<xgydF4y2Baref ref-type="fig" rid="fig1"> 1</xgydF4y2Baref>。</pgydF4y2Ba> <fig id="fig1"> <label>图1</gydF4y2Balabel> <p>玩具示例数据矩阵(左上),基本无噪声的非负数据(右上),和估计使用文本描述的四种方法。数据有相当大量的噪音,和底层负的因素在两个方向平滑。LS-NMF和CNMF分解非光滑,因为这些方法不是模型的相关性因素。GPP-NMF,它使用一个光滑的之前,找到一个平稳的解决方案。当使用正确的之前,soulution非常接近真正的底层数据。</pgydF4y2Ba> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.001"></graphic> </fig> <p>我们然后分解生成的数据矩阵使用以下四种不同的方法:</pgydF4y2Ba> <p> <list> <list-item> <label>(我)</gydF4y2Balabel> </list-item> </list></p> <p> <bold> <italic> LS-NMF</我talic>:</gydF4y2Babold>标准最小二乘NMF [<xgydF4y2Baref ref-type="bibr" rid="B8"> 8</xgydF4y2Baref>]。该算法不允许负的数据点,所以这是在实验设置为0。</pgydF4y2Ba> <list-item> <label>(2)</gydF4y2Balabel> <p> <bold> <italic> CNMF</我talic>:</gydF4y2Babold>限制NMF [<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B7"> 7</xgydF4y2Baref>),这是一个最小二乘NMF算法,允许负面观察。</pgydF4y2Ba> </list-item> <list-item> <label>(3)</gydF4y2Balabel> <p> <bold> <italic> GPP-NMF</我talic>:<我talic> 正确的之前</我talic>:</gydF4y2Babold>该方法与正确的链接功能,协方差矩阵和参数值。</pgydF4y2Ba> </list-item> <list-item> <label>(iv)</gydF4y2Balabel> <p> <bold> <italic> GPP-NMF</我talic>:<我talic> 不正确的之前</我talic>:</gydF4y2Babold>为了说明方法的敏感性之前的假设,我们评估该方法之前错误的假设:我们交换链接功能,这样的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M130"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>我们使用了exponential-to-Gaussian,<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M131"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>我们使用了rectified-Gaussian-to-Gaussian。我们使用了一个RBF协方差函数<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M132"> <mml:mrow> <mml:msup> <mml:mi> β</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msup> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 10</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M133"> <mml:mrow> <mml:msup> <mml:mi> β</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msup> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 1000年</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>为<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M134"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>和<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M135"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> <mml:mo> ,</gydF4y2Bamml:mo> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>分别。</pgydF4y2Ba> </list-item> <p></p> <p>结果分解重构数据矩阵,如图所示<xgydF4y2Baref ref-type="fig" rid="fig1"> 1</xgydF4y2Baref>。所有四个方法找到视觉似乎适合底层数据的解决方案。LS-NMF和CNMF找到非光滑的解决方案,而这两个GPP-NMF结果顺利按照先知先觉。在GPP-NMF错误之前,黑暗的地区(高像素强度)出现在第一轴方向和太宽太窄部分轴方向,由于不正确的协方差函数的设置。纠正之前的GPP-NMF是视觉上几乎等于真正的底层数据。</pgydF4y2Ba> <p>块估计因素是显示在图<xgydF4y2Baref ref-type="fig" rid="fig2"> 2</xgydF4y2Baref>。的因素估计LS-NMF和CNMF方法出现噪声和非光滑,而光滑GPP-NMF估计的因素。LS-NMF方法估计的因素有积极的偏见,因为负面数据的截断。GPP-NMF与不正确的之前有太多地方极值<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M136"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>因素和太少<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M137"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>因素由于不正确的协方差函数。只有微小差别的结果GPP-NMF之前使用正确的和潜在的因素。</pgydF4y2Ba> <fig-group id="fig2"> <p>潜在的负的因素在玩具的例子:列<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M138"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> D</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>(左)和行<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M139"> <mml:mrow> <mml:mstyle mathvariant="bold"> <mml:mi> H</gydF4y2Bamml:mi> </mml:mstyle> </mml:mrow> </mml:math> </inline-formula>(右)。LS-NMF和发现的因素CNMF算法是喧闹的,而GPP-NMF方法发现的因素是光滑的。使用正确的前时,发现非常类似于真正的因素的因素。</pgydF4y2Ba> <fig id="fig2a"> <label>(一)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.002a"></graphic> </fig> <fig id="fig2b"> <label>(b)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.002b"></graphic> </fig> </fig-group> <p>措施的根均方误差(RMSE)的四个分解图<xgydF4y2Baref ref-type="fig" rid="fig3"> 3</xgydF4y2Baref>。所有四个方法适应嘈杂的数据几乎同样。(注意,由于添加剂噪声方差25岁,一个完美的适合会导致的RMSE的潜在因素<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M140"> <mml:mrow> <mml:mn> 5</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>对噪声数据。)LS-NMF适合数据糟糕的负面数据点,由于截断和CNMF最适合的数据,由于过度拟合。对于无噪声的数据和潜在因素,RMSE是LS-NMF最差和最好的GPP-NMF正确的之前。之前错误的GPP-NMF是比LS-NMF和CNMF在这种情况下。这表明在这种情况下最好是使用之前这不是完全正确的,相比使用没有之前LS-NMF和CNMF方法,(对应于一个非负实数平之前,没有相关性)。</pgydF4y2Ba> <fig id="fig3"> <label>图3</gydF4y2Balabel> <p>玩具的例子:根均方误差(RMSE)对噪声数据,底层无噪声的数据,和真正的潜在负的因素。CNMF解决方案适合嘈杂的数据略好,但GPP-NMF适合底层数据更好的解决方案。</pgydF4y2Ba> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.003"></graphic> </fig> </sec> <sec sec-type="subsection" id="subsec3.2"> <title>3.2。化学位移Srain成像的例子</gydF4y2Batitle> <p>接下来,我们将演示GPP-NMF方法<年代up>1</年代up>H解耦<年代up>31日</年代up>人类大脑的P化学位移成像数据。我们使用的数据集Ochs et al。<xgydF4y2Baref ref-type="bibr" rid="B24"> 24</xgydF4y2Baref>),还分析了Sajda et al。<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B7"> 7</xgydF4y2Baref>]。数据集,如图<xgydF4y2Baref ref-type="fig" rid="fig4"> 4</xgydF4y2Baref>,包括<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M141"> <mml:mrow> <mml:mn> 512年</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>光谱测量在一个<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M142"> <mml:mrow> <mml:mn> 8</gydF4y2Bamml:mn> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mn> 8</gydF4y2Bamml:mn> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mn> 8</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>网格在大脑中。</pgydF4y2Ba> <fig id="fig4"> <label>图4</gydF4y2Balabel> <p>脑成像数据矩阵(上)以及估计分解和残余CNMF(中间)和GPP-NMF(底部)的方法。在这个视图中,两个分解的结果非常相似,数据同样似乎是建模和残差在大小是相似的。</pgydF4y2Ba> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.004"></graphic> </fig> <p>Ochs et al。<xgydF4y2Baref ref-type="bibr" rid="B24"> 24</xgydF4y2Baref>)使用主成分分析来确定数据集的充分描述的两个来源(对应于大脑和肌肉组织)。他们提出了一个双线性贝叶斯方法,他们使用一个光滑的前成分谱,和力为零的振幅谱形状对应于肌肉组织在12个位置在内心深处。他们的方法产生的身体似是而非的结果,但这是计算非常昂贵,需要几个小时来计算。</pgydF4y2Ba> <p>Sajda et al。<xgydF4y2Baref ref-type="bibr" rid="B6"> 6</xgydF4y2Baref>,<xgydF4y2Baref ref-type="bibr" rid="B7"> 7</xgydF4y2Baref>)提出一个NMF方法报道也产生身体似是而非的结果。他们的方法是快几个数量级,不到一秒来计算。Sajda等人的方法的缺点相比,贝叶斯方法Ochs等人的是,它没有提供使用先验知识来提高解决方案的机制。</pgydF4y2Ba> <p>GPP-NMF方法本文提出桥梁之间的差距前两个方法,在某种意义上,它是一个相对快NMF方法,先知先觉的因素可以被指定。这些先验选择指定的链接和协方差函数。我们使用之前预测的抽样找到合理的设置函数参数:我们把随机样本的先验分布和检查属性因素和重建数据。然后手动调整之前的参数匹配我们的之前的信仰。一个随机的例子从先验分布如图<xgydF4y2Baref ref-type="fig" rid="fig5"> 5</xgydF4y2Baref>,参数设置如下所述。</pgydF4y2Ba> <fig-group id="fig5"> <p>脑成像数据:随机从先验分布的参数设置为文本中描述。成分光谱(左)的先验分布是指数和平滑,和大脑中的空间分布(右)指数,光滑,从左到右对称。</pgydF4y2Ba> <fig id="fig5a"> <label>(一)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.005a"></graphic> </fig> <fig id="fig5b"> <label>(b)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.005b"></graphic> </fig> </fig-group> <p>我们假设的因素是不相关的,所以因素之间的协方差为零。我们使用高斯RBF组分光谱的协方差函数的长度尺度<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M143"> <mml:mrow> <mml:mi> β</gydF4y2Bamml:mi> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 0.3</gydF4y2Bamml:mn> <mml:mo></mml:mo> <mml:mtext> </mml:mtext> </mml:mrow> </mml:math> </inline-formula>ppm(百万分之),我们使用了exponential-to-Gaussian链接功能<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M144"> <mml:mrow> <mml:msub> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mi> d</gydF4y2Bamml:mi> </mml:msub> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 1</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>。这给了之前的光谱与狭窄的稀疏光滑的山峰。的振幅在512年压头,我们使用高斯RBF协方差函数的三维体素指标,与长度尺度<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M145"> <mml:mrow> <mml:mi> β</gydF4y2Bamml:mi> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>。此外,我们集中在从左到右坐标轴的大脑,并计算了RBF内核在这个坐标的绝对值,所以之前的介绍了从左到右对称分布。再一次,我们使用了exponential-to-Gaussian链接功能,我们选择<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M146"> <mml:mrow> <mml:msub> <mml:mi> λ</gydF4y2Bamml:mi> <mml:mi> h</gydF4y2Bamml:mi> </mml:msub> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 2</gydF4y2Bamml:mn> <mml:mo> ⋅</gydF4y2Bamml:mo> <mml:msup> <mml:mrow> <mml:mn> 10</gydF4y2Bamml:mn> </mml:mrow> <mml:mrow> <mml:mo> −</gydF4y2Bamml:mo> <mml:mn> 4</gydF4y2Bamml:mn> </mml:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>匹配数据的整体大小。这给了之前的振幅分布稀疏,光滑,对称的。噪声方差被设定<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M147"> <mml:mrow> <mml:msubsup> <mml:mi> σ</gydF4y2Bamml:mi> <mml:mi> N</gydF4y2Bamml:mi> <mml:mn> 2</gydF4y2Bamml:mn> </mml:msubsup> <mml:msup> <mml:mrow> <mml:mo> =</gydF4y2Bamml:mo> <mml:mn> 10</gydF4y2Bamml:mn> </mml:mrow> <mml:mn> 8</gydF4y2Bamml:mn> </mml:msup> </mml:mrow> </mml:math> </inline-formula>对应于噪声级的数据集。</pgydF4y2Ba> <p>然后我们分解的数据集使用提出GPP-NMF算法,相比之下,复制的结果Sajda et al。<xgydF4y2Baref ref-type="bibr" rid="B7"> 7</xgydF4y2Baref>使用他们的CNMF方法)。实验结果如图所示<xgydF4y2Baref ref-type="fig" rid="fig4"> 4</xgydF4y2Baref>。一个随机的例子从先验分布如图<xgydF4y2Baref ref-type="fig" rid="fig5"> 5</xgydF4y2Baref>。CNMF结果如图<xgydF4y2Baref ref-type="fig" rid="fig6"> 6</xgydF4y2Baref>,结果GPP-NMF如图<xgydF4y2Baref ref-type="fig" rid="fig7"> 7</xgydF4y2Baref>。数据显示,组分光谱和第五轴向片光谱的空间分布。的<我nline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M148"> <mml:mrow> <mml:mn> 8</gydF4y2Bamml:mn> <mml:mo> ×</gydF4y2Bamml:mo> <mml:mn> 8</gydF4y2Bamml:mn> </mml:mrow> </mml:math> </inline-formula>空间分布平滑的例子,类似的方法在文献中结果可视化。</pgydF4y2Ba> <fig-group id="fig6"> <p>CNMF分解结果。恢复光谱的身体似是而非,大脑中的空间分布的肌肉(上)和大脑(底部)组织有点分离。肌肉组织主要是边缘附近发现的头骨,而脑组织主要是在里面找到。</pgydF4y2Ba> <fig id="fig6a"> <label>(一)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.006a"></graphic> </fig> <fig id="fig6b"> <label>(b)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.006b"></graphic> </fig> </fig-group> <fig-group id="fig7"> <p>GPP-NMF分解结果。恢复光谱非常相似的光谱发现CNMF方法,但它们更光滑。大脑中的空间分布高度分离之间的大脑和肌肉组织,它是比CNMF更对称的解决方案。</pgydF4y2Ba> <fig id="fig7a"> <label>(一)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.007a"></graphic> </fig> <fig id="fig7b"> <label>(b)</gydF4y2Balabel> <graphic xlink:href="//www.newsama.com/downloads/journals/cin/2008/61705.fig.007b"></graphic> </fig> </fig-group> <p>结果表明,两种方法给身体上看似合理的结果。主要的区别在于,相对应的光谱空间分布的肌肉和大脑组织更GPP-NMF分离的结果,这是由于指数,光滑,对称的先验分布。包括之前的信息,我们得到一个解决方案,对应于肌肉组织的因素显然是位于边缘的头骨。</pgydF4y2Ba> </sec> </sec> <sec sec-type="section" id="sec4"> <title>4所示。结论</gydF4y2Batitle> <p>我们引入了一个通用的方法,来利用先验知识在非负矩阵分解,基于高斯过程先验,通过一个链接函数非负相关因素。可以结合任何现有的NMF方法成本函数,概率解释,和任何现有的无约束优化算法可以用来计算最大后验估计。</pgydF4y2Ba> <p>玩具实验数据显示,与一个合适的选择先验分布的负的因素,GPP-NMF方法给出更好的结果估计真正的潜在因素,相比传统的NMF和CNMF。</pgydF4y2Ba> <p>化学位移脑成像实验数据显示,GPP-NMF方法可以成功地用于包括光谱和空间分布的先验知识,从而更好的空间分离光谱对应的肌肉和大脑组织。</pgydF4y2Ba> </sec> <back> <ack> <title>确认</gydF4y2Batitle> <p>我们要感谢保罗布朗Sajda和杜鲁门的脑成像数据提供给我们。本研究项目智能支持的声音,丹麦技术研究委员会批准号26-02-0092,部分支持欧盟委员会还通过第六框架是网络卓越:模式分析、统计建模和计算学习(PASCAL),合同编号。506778年。</pgydF4y2Ba> </ack> <ref-list> <ref id="B1" content-type="article"> <label>1</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Paatero</年代urname> <given-names> P。</g我ven-names> </name> <name> <surname> 攻丝机</年代urname> <given-names> U。</g我ven-names> </name> </person-group> <article-title> 积极的矩阵分解:一个非负的因素模型与最佳利用误差的估计数据值</gydF4y2Baarticle-title> <source> <italic> Environmetrics</我talic> <year> 1994年</gydF4y2Bayear> <volume> 5</gydF4y2Bavolume> <issue> 2</我年代年代ue> <fpage> 111年</fpgydF4y2Baage> <lpage> 126年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1002 / env.3170050203</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B2" content-type="article"> <label>2</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 李</年代urname> <given-names> D D。</g我ven-names> </name> <name> <surname> Seung</年代urname> <given-names> h·S。</g我ven-names> </name> </person-group> <article-title> 学习对象的部分非负矩阵因子分解</gydF4y2Baarticle-title> <source> <italic> 自然</我talic> <year> 1999年</gydF4y2Bayear> <volume> 401年</gydF4y2Bavolume> <issue> 6755年</我年代年代ue> <fpage> 788年</fpgydF4y2Baage> <lpage> 791年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1038/44565</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B3" content-type="article"> <label>3</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Weixiang</年代urname> <given-names> l</g我ven-names> </name> <name> <surname> 南宁</年代urname> <given-names> Z。</g我ven-names> </name> <name> <surname> 曲波</年代urname> <given-names> Y。</g我ven-names> </name> <aff> <email> qbyou@aiar.xjtu.edu.cn</gydF4y2Baemail> </aff> </person-group> <article-title> 非负矩阵分解及其在模式识别中的应用</gydF4y2Baarticle-title> <source> <italic> 科学通报</我talic> <year> 2006年</gydF4y2Bayear> <volume> 51</gydF4y2Bavolume> <issue> 1</我年代年代ue> <fpage> 7</fpgydF4y2Baage> <lpage> 18</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1007 / s11434 - 005 - 1109 - 6</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B4" content-type="inproceedings"> <label>4</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 丁</年代urname> <given-names> C。</g我ven-names> </name> <name> <surname> 他</年代urname> <given-names> X。</g我ven-names> </name> <name> <surname> 西蒙</年代urname> <given-names> h . D。</g我ven-names> </name> </person-group> <article-title> 等价的非负矩阵分解和谱聚类</gydF4y2Baarticle-title> <conf-name> 第五暹罗学报》国际会议数据挖掘</gydF4y2Baconf-name> <conf-date> 2005年4月</gydF4y2Baconf-date> <conf-loc> 纽波特海滩,加利福尼亚州,美国</gydF4y2Baconf-loc> <fpage> 606年</fpgydF4y2Baage> <lpage> 610年</gydF4y2Balpage> </nlm-citation> </ref> <ref id="B5" content-type="inproceedings"> <label>5</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> Tsuge</年代urname> <given-names> 年代。</g我ven-names> </name> <name> <surname> Shishibori</年代urname> <given-names> M。</g我ven-names> </name> <name> <surname> 小智</年代urname> <given-names> 年代。</g我ven-names> </name> <name> <surname> 基塔</年代urname> <given-names> K。</g我ven-names> </name> </person-group> <article-title> 使用非负矩阵分解降维的信息检索</gydF4y2Baarticle-title> <volume> 2</gydF4y2Bavolume> <conf-name> 学报IEEE国际会议系统,人与控制论</gydF4y2Baconf-name> <conf-date> 2001年10月</gydF4y2Baconf-date> <conf-loc> 美国亚利桑那州图森市</gydF4y2Baconf-loc> <fpage> 960年</fpgydF4y2Baage> <lpage> 965年</gydF4y2Balpage> </nlm-citation> </ref> <ref id="B6" content-type="inproceedings"> <label>6</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> Sajda</年代urname> <given-names> P。</g我ven-names> </name> <name> <surname> 杜</年代urname> <given-names> 年代。</g我ven-names> </name> <name> <surname> Parra</年代urname> <given-names> l . C。</g我ven-names> </name> </person-group> <article-title> 恢复使用非负矩阵分解成分光谱</gydF4y2Baarticle-title> <volume> 5207年</gydF4y2Bavolume> <conf-name> 小波:应用在信号和图像处理</gydF4y2Baconf-name> <conf-date> 2003年8月</gydF4y2Baconf-date> <conf-loc> 圣地亚哥,加州,美国</gydF4y2Baconf-loc> <fpage> 321年</fpgydF4y2Baage> <lpage> 331年</gydF4y2Balpage> <series> 学报学报</年代eries> <pub-id pub-id-type="doi"> 10.1117/12.504676</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B7" content-type="article"> <label>7</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Sajda</年代urname> <given-names> P。</g我ven-names> </name> <aff> <email> ps629@columbia.edu</gydF4y2Baemail> </aff> <name> <surname> 杜</年代urname> <given-names> 年代。</g我ven-names> </name> <aff> <email> sd2012@columbia.edu</gydF4y2Baemail> </aff> <name> <surname> 布朗</年代urname> <given-names> t·R。</g我ven-names> </name> <aff> <email> trb11@columbia.edu</gydF4y2Baemail> </aff> <name> <surname> Stoyanova</年代urname> <given-names> R。</g我ven-names> </name> <aff> <email> stoyan@fccc.edu</gydF4y2Baemail> </aff> <name> <surname> Shungu</年代urname> <given-names> d . C。</g我ven-names> </name> <aff> <email> dcs7001@med.cornell.edu</gydF4y2Baemail> </aff> <name> <surname> 毛</年代urname> <given-names> X。</g我ven-names> </name> <aff> <email> xim2004@med.cornell.edu</gydF4y2Baemail> </aff> <name> <surname> Parra</年代urname> <given-names> l . C。</g我ven-names> </name> <aff> <email> parra@ccny.cuny.edu</gydF4y2Baemail> </aff> </person-group> <article-title> 非负矩阵分解成分光谱快速复苏的核磁共振化学位移成像的大脑</gydF4y2Baarticle-title> <source> <italic> IEEE医学成像</我talic> <year> 2004年</gydF4y2Bayear> <volume> 23</gydF4y2Bavolume> <issue> 12</我年代年代ue> <fpage> 1453年</fpgydF4y2Baage> <lpage> 1465年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1109 / TMI.2004.834626</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B8" content-type="inproceedings"> <label>8</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 李</年代urname> <given-names> D D。</g我ven-names> </name> <name> <surname> Seung</年代urname> <given-names> h·S。</g我ven-names> </name> </person-group> <article-title> 非负矩阵分解算法</gydF4y2Baarticle-title> <conf-name> 《第13届会议上神经信息处理系统(捏' 00)</gydF4y2Baconf-name> <conf-date> 2000年11 - 12月刊</gydF4y2Baconf-date> <conf-loc> 美国科罗拉多州丹佛</gydF4y2Baconf-loc> <fpage> 556年</fpgydF4y2Baage> <lpage> 562年</gydF4y2Balpage> </nlm-citation> </ref> <ref id="B9" content-type="inproceedings"> <label>9</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 霍耶</年代urname> <given-names> P。</g我ven-names> </name> </person-group> <article-title> 非负稀疏编码</gydF4y2Baarticle-title> <conf-name> 学报》第12届IEEE车间对神经网络信号处理(NNSP ' 02)</gydF4y2Baconf-name> <conf-date> 2002年9月</gydF4y2Baconf-date> <conf-loc> 瑞士Martigny</gydF4y2Baconf-loc> <fpage> 557年</fpgydF4y2Baage> <lpage> 565年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1109 / NNSP.2002.1030067</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B10" content-type="inproceedings"> <label>10</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 李</年代urname> <given-names> 美国Z。</g我ven-names> </name> <name> <surname> 侯</年代urname> <given-names> x W。</g我ven-names> </name> <name> <surname> 张</年代urname> <given-names> h·J。</g我ven-names> </name> <name> <surname> 程</年代urname> <given-names> 问:S。</g我ven-names> </name> </person-group> <article-title> 学习空间本地化,器件表示</gydF4y2Baarticle-title> <volume> 1</gydF4y2Bavolume> <conf-name> IEEE计算机学会学报计算机视觉与模式识别会议(CVPR ' 01)</gydF4y2Baconf-name> <conf-date> 2001年12月</gydF4y2Baconf-date> <conf-loc> 考艾岛,夏威夷,美国</gydF4y2Baconf-loc> <fpage> 207年</fpgydF4y2Baage> <lpage> 212年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1109 / CVPR.2001.990477</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B11" content-type="techreport"> <label>11</gydF4y2Balabel> <nlm-citation publication-type="gov"> <person-group person-group-type="author"> <name> <surname> 程ydF4y2Ba</surname> <given-names> Z。</g我ven-names> </name> <name> <surname> Cichocki</年代urname> <given-names> 一个。</g我ven-names> </name> </person-group> <article-title> 非负矩阵分解与时间平滑和/或空间解相关约束</gydF4y2Baarticle-title> <source> <italic> 技术报告</我talic> <year> 2005年</gydF4y2Bayear> <publisher-loc> 日本东京</pgydF4y2Baublisher-loc> <publisher-name> 实验室先进的大脑信号处理,这里</pgydF4y2Baublisher-name> </nlm-citation> </ref> <ref id="B12" content-type="inproceedings"> <label>12</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 维尔塔宁</年代urname> <given-names> T。</g我ven-names> </name> </person-group> <article-title> 声源分离使用稀疏编码和时间连续性的目标</gydF4y2Baarticle-title> <conf-name> 国际计算机音乐研讨会论文集(ICMC ' 03)</gydF4y2Baconf-name> <conf-date> 2003年9 ~ 10月</gydF4y2Baconf-date> <conf-loc> 新加坡</gydF4y2Baconf-loc> <fpage> 231年</fpgydF4y2Baage> <lpage> 234年</gydF4y2Balpage> </nlm-citation> </ref> <ref id="B13" content-type="inproceedings"> <label>13</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> Smaragdis</年代urname> <given-names> P。</g我ven-names> </name> </person-group> <article-title> 非负矩阵因子反褶积;从单声道输入提取多个声音来源</gydF4y2Baarticle-title> <volume> 3195年</gydF4y2Bavolume> <conf-name> 学报》第五届国际会议上独立分量分析和盲信号分离(ICA的04)</gydF4y2Baconf-name> <conf-date> 2004年9月</gydF4y2Baconf-date> <conf-loc> 格拉纳达,西班牙</gydF4y2Baconf-loc> <publisher-name> 施普林格</pgydF4y2Baublisher-name> <fpage> 494年</fpgydF4y2Baage> <lpage> 499年</gydF4y2Balpage> <series> 在计算机科学的课堂讲稿</年代eries> </nlm-citation> </ref> <ref id="B14" content-type="inproceedings"> <label>14</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 施密特</年代urname> <given-names> m . N。</g我ven-names> </name> <name> <surname> Mørup</年代urname> <given-names> M。</g我ven-names> </name> </person-group> <article-title> 非负矩阵因子二维反褶积盲人单通道源分离</gydF4y2Baarticle-title> <volume> 3889年</gydF4y2Bavolume> <conf-name> 学报第六届国际会议上独立分量分析和盲信号分离(ICA 06年)</gydF4y2Baconf-name> <conf-date> 2006年3月</gydF4y2Baconf-date> <conf-loc> 查尔斯顿美国SC</gydF4y2Baconf-loc> <publisher-name> 施普林格</pgydF4y2Baublisher-name> <fpage> 700年</fpgydF4y2Baage> <lpage> 707年</gydF4y2Balpage> <series> 在计算机科学的课堂讲稿</年代eries> <pub-id pub-id-type="doi"> 10.1007 / 11679363 _87</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B15" content-type="article"> <label>15</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Winther</年代urname> <given-names> O。</g我ven-names> </name> <aff> <email> owi@imm.dtu.dk</gydF4y2Baemail> </aff> <name> <surname> 彼得森</年代urname> <given-names> k B。</g我ven-names> </name> </person-group> <article-title> 贝叶斯独立分量分析:变分方法和非负分解</gydF4y2Baarticle-title> <source> <italic> 数字信号处理</我talic> <year> 2007年</gydF4y2Bayear> <volume> 17</gydF4y2Bavolume> <issue> 5</我年代年代ue> <fpage> 858年</fpgydF4y2Baage> <lpage> 872年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1016 / j.dsp.2007.01.003</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B16" content-type="inproceedings"> <label>16</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 霍夫曼</年代urname> <given-names> T。</g我ven-names> </name> </person-group> <article-title> 概率潜在语义索引</gydF4y2Baarticle-title> <conf-name> 《第22届国际市立图书馆研究与发展会议在信息检索(99年")</gydF4y2Baconf-name> <conf-date> 1999年8月</gydF4y2Baconf-date> <conf-loc> 伯克利,加州,美国</gydF4y2Baconf-loc> <fpage> 50</fpgydF4y2Baage> <lpage> 57</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1145/312624.312649</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B17" content-type="inproceedings"> <label>17</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> Cichocki</年代urname> <given-names> 一个。</g我ven-names> </name> <name> <surname> Zdunek</年代urname> <given-names> R。</g我ven-names> </name> <name> <surname> Amari</年代urname> <given-names> 机票的。</g我ven-names> </name> </person-group> <article-title> Csiszar差异的非负矩阵分解:家庭的新算法</gydF4y2Baarticle-title> <volume> 3889年</gydF4y2Bavolume> <conf-name> 学报第六届国际会议上独立分量分析和盲信号分离(ICA 06年)</gydF4y2Baconf-name> <conf-date> 2006年3月</gydF4y2Baconf-date> <conf-loc> 查尔斯顿美国SC</gydF4y2Baconf-loc> <publisher-name> 施普林格</pgydF4y2Baublisher-name> <fpage> 32</fpgydF4y2Baage> <lpage> 39</gydF4y2Balpage> <series> 在计算机科学的课堂讲稿</年代eries> <pub-id pub-id-type="doi"> 10.1007 / 11679363 _5</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B18" content-type="book"> <label>18</gydF4y2Balabel> <nlm-citation publication-type="book"> <person-group person-group-type="author"> <name> <surname> 拉斯穆森</年代urname> <given-names> c, E。</g我ven-names> </name> <name> <surname> 威廉姆斯</年代urname> <given-names> c . k . I。</g我ven-names> </name> </person-group> <source> <italic> 高斯过程机器学习</我talic> <year> 2006年</gydF4y2Bayear> <publisher-loc> 美国马萨诸塞州剑桥市</pgydF4y2Baublisher-loc> <publisher-name> 麻省理工学院出版社</pgydF4y2Baublisher-name> </nlm-citation> </ref> <ref id="B19" content-type="article"> <label>19</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 林</年代urname> <given-names> C.-J。</g我ven-names> </name> </person-group> <article-title> 非负矩阵分解投影梯度方法</gydF4y2Baarticle-title> <source> <italic> 神经计算</我talic> <year> 2007年</gydF4y2Bayear> <volume> 19</gydF4y2Bavolume> <issue> 10</我年代年代ue> <fpage> 2756年</fpgydF4y2Baage> <lpage> 2779年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1162 / neco.2007.19.10.2756</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B20" content-type="article"> <label>20.</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 浆果</年代urname> <given-names> m·W。</g我ven-names> </name> <aff> <email> berry@cs.utk.edu</gydF4y2Baemail> </aff> <name> <surname> 布朗</年代urname> <given-names> M。</g我ven-names> </name> <aff> <email> mbrowne@cs.utk.edu</gydF4y2Baemail> </aff> <name> <surname> Langville</年代urname> <given-names> a . N。</g我ven-names> </name> <aff> <email> langvillea@cofc.edu</gydF4y2Baemail> </aff> <name> <surname> Pauca</年代urname> <given-names> 诉P。</g我ven-names> </name> <aff> <email> paucavp@wfu.edu</gydF4y2Baemail> </aff> <name> <surname> Plemmons</年代urname> <given-names> r . J。</g我ven-names> </name> <aff> <email> plemmons@wfu.edu</gydF4y2Baemail> </aff> </person-group> <article-title> 近似的非负矩阵分解算法和应用程序</gydF4y2Baarticle-title> <source> <italic> 计算统计和数据分析</我talic> <year> 2007年</gydF4y2Bayear> <volume> 52</gydF4y2Bavolume> <issue> 1</我年代年代ue> <fpage> 155年</fpgydF4y2Baage> <lpage> 173年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1016 / j.csda.2006.11.006</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B21" content-type="inproceedings"> <label>21</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 金</年代urname> <given-names> D。</g我ven-names> </name> <name> <surname> Sra</年代urname> <given-names> 年代。</g我ven-names> </name> <name> <surname> Dhillon</年代urname> <given-names> i S。</g我ven-names> </name> </person-group> <article-title> 快速牛顿型方法最小二乘非负矩阵近似问题</gydF4y2Baarticle-title> <conf-name> 第七届暹罗学报》国际会议数据挖掘</gydF4y2Baconf-name> <conf-date> 2007年4月</gydF4y2Baconf-date> <conf-loc> 美国明尼苏达州明尼阿波利斯</gydF4y2Baconf-loc> <fpage> 343年</fpgydF4y2Baage> <lpage> 354年</gydF4y2Balpage> </nlm-citation> </ref> <ref id="B22" content-type="inproceedings"> <label>22</gydF4y2Balabel> <nlm-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 艾格特</年代urname> <given-names> J。</g我ven-names> </name> <aff> <email> Julian.Eggert@honda-ri.de</gydF4y2Baemail> </aff> <name> <surname> Korner</年代urname> <given-names> E。</g我ven-names> </name> <aff> <email> Edgar.Koerner@honda-ri.de</gydF4y2Baemail> </aff> </person-group> <article-title> 稀疏编码和NMF</gydF4y2Baarticle-title> <volume> 4</gydF4y2Bavolume> <conf-name> 学报IEEE国际联合会议上神经网络(IJCNN ' 04)</gydF4y2Baconf-name> <conf-date> 2004年7月</gydF4y2Baconf-date> <conf-loc> 匈牙利布达佩斯</gydF4y2Baconf-loc> <fpage> 2529年</fpgydF4y2Baage> <lpage> 2533年</gydF4y2Balpage> <pub-id pub-id-type="doi"> 10.1109 / IJCNN.2004.1381036</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B23" content-type="unpublished"> <label>23</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 施密特</年代urname> <given-names> m . N。</g我ven-names> </name> <name> <surname> Laurberg</年代urname> <given-names> H。</g我ven-names> </name> </person-group> <article-title> 非负矩阵分解与高斯过程先验</gydF4y2Baarticle-title> <comment> <italic> 计算智能和神经科学</我talic>。在新闻</gydF4y2Bacomment> <pub-id pub-id-type="doi"> 10.1155 / 2008/361705</pgydF4y2Baub-id> </nlm-citation> </ref> <ref id="B24" content-type="article"> <label>24</gydF4y2Balabel> <nlm-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Ochs</年代urname> <given-names> m F。</g我ven-names> </name> <name> <surname> Stoyanova</年代urname> <given-names> r S。</g我ven-names> </name> <name> <surname> Arias-Mendoza</年代urname> <given-names> F。</g我ven-names> </name> <name> <surname> 布朗</年代urname> <given-names> t·R。</g我ven-names> </name> </person-group> <article-title> 一种新方法使用双线性光谱分解贝叶斯方法</gydF4y2Baarticle-title> <source> <italic> 磁共振杂志</我talic> <year> 1999年</gydF4y2Bayear> <volume> 137年</gydF4y2Bavolume> <issue> 1</我年代年代ue> <fpage> 161年</fpgydF4y2Baage> <lpage> 176年</gydF4y2Balpage> </nlm-citation> </ref> </ref-list> </back> </article> </body> </html>