Meta｜贝叶斯优化的意外改进到预期改进

​

Unexpected Improvements to Expected Improvement for Bayesian Optimization

S Ament, S Daulton, D Eriksson, M Balandat, E Bakshy
[Meta]

贝叶斯优化的意外改进到预期改进

• Expected Improvement(EI)是贝叶斯优化中一个流行的获取函数，但由于数值问题如梯度消失，其性能常常不一致并低于最优。
• 提出LogEI，EI的数值上更易于优化的重构形式，LogEI与EI有相同或近似相等的最优点，但梯度更明显。
• LogEI扩展到约束EI、并行EI和期望超体改进，所有这些在优化性能上都明显优于其原始对应方法。
• 理论上，EI梯度消失的概率随着最优性差距的关闭和高斯过程不确定性的降低而增加，这使优化越来越困难。
• 从经验上看，LogEI变体的表现匹配或超过当前最先进的方法，涵盖了一系列合成和真实世界的基准测试。
• 使用LogEI重构形式，联合批量优化与贪心顺序选择变得一样竞争力。
• EI的数值问题很可能影响到所有现有的实现，所提出的方法可以显著提高EI性能，额外计算成本很小。

动机：解决在贝叶斯优化中常用的获取函数Expected Improvement(EI)在数值优化方面存在的问题，包括在许多区域数值上为零以及难以优化等。希望提出一种新的获取函数，能在数值上更容易优化，并提高优化性能。

方法：提出一种新的获取函数族LogEI，其成员与传统的EI具有相同或接近的最优解，但在数值优化方面更容易处理。还扩展了该思想到其他的EI族成员，包括约束EI、期望超体积改进(EHVI)以及这些获取函数的批量变体。使用平滑逼近来获得非零的梯度，从而解决了数值优化中的困难。

优势：所提出的LogEI族的获取函数在优化性能上显著超过了传统的EI获取函数，并且与最新的获取函数在性能上相当甚至更好。这突出了数值优化在贝叶斯优化领域中的重要性。

提出LogEI族的获取函数，解决了贝叶斯优化中常用的EI获取函数在数值优化方面的困难，显著提高了优化性能。

https://arxiv.org/abs/2310.20708 

​Read More