使用进化策略自动超参数优化

0. 前言

我们已经学习了遗传算法 (Genetic Algorithms, GA) 的工作原理，并使用进化策略 (Evolutionary Strategies, ES) 扩展了这些概念。进化策略是遗传算法的一种形式，应用某种策略来改进遗传算子(如突变算子)。在本节中，我们将利用遗传算法和进化策略进行自动超参数优化 (Hyperparameter Optimization, HPO)。

1. 将进化策略应用于超参数优化

在进化策略 (Evolutionary Strategies, ES) 一节中，我们已经学习了如何将进化策略应用为控制突变率和应用突变的附加向量。通过这种方式控制突变，我们可以更好地集中整个种群以更快地获得解决方案。接下来，我们将使用 ES 来执行自动超参数优化 (Hyperparameter Optimization, HPO)。