高斯过程回归(Gaussian Process Regression, GPR)是使用
高斯过程(Gaussian Process, GP)先验对数据进行回归分析的
非参数模型(non-parameteric model)
。
GPR的模型假设包括噪声(回归残差)和高斯过程先验两部分,其求解按
贝叶斯推断(Bayesian inference)进行
。若不限制核函数的形式,GPR在理论上是紧致空间(compact space)内任意
连续函数的通用近似(universal approximator)。此外,GPR可提供预测结果的后验,且在
似然为正态分布时,该后验具有解析形式。因此,GPR是一个具有泛用性和可解析性的
概率模型
。
基于高斯过程及其核函数所具有的便利性质,GPR在时间序列分析、图像处理和自动控制等领域的问题中有得到应用
。GPR是计算开销较大的算法,通常被用于低维和小样本的回归问题
,但也有适用于大样本和高维情形的扩展算法
。