非参数模型平均在贝叶斯优化中的应用.pdf
文本预览下载声明
摘要
近年来贝叶斯优化在求解黑盒优化问题中应用越来越广泛,已成为超参数
优化的主流方法。贝叶斯优化由目标函数的概率代理模型和决定下一采样点的
采集函数组成。它做为一种黑盒优化方法,其表现非常依赖于概率代理模型对目
标函数的准确估计,而目标函数的形式非常复杂且未知,所以建立合适的代理模
型拟合目标函数是非常重要且关键的。本文中的概率代理模型使用高斯过程回
归,采集函数使用期望提升方法。
由于贝叶斯优化是一种非常具有探索性的全局优化算法,使得算法难以有
高效且精确的表现,于是我们将模型平均的稳
显示全部