PaddleHub 超参优化（AutoDL Finetuner）

    PaddleHub AutoDL Finetuner提供两种超参优化算法：

    • HAZero: 核心思想是通过对正态分布中协方差矩阵的调整来处理变量之间的依赖关系和scaling。算法基本可以分成以下三步:

      1. 采样产生新解；

      2. 计算目标函数值；

      3. 更新正态分布参数；

      调整参数的基本思路为，调整参数使得产生更优解的概率逐渐增大。优化过程如下图：

    *图片来源于https://www.kaggle.com/clair14/tutorial-bayesian-optimization\*

    • PSHE2: 采用哈密尔顿动力系统搜索参数空间中“势能”最低的点。而最优超参数组合就是势能低点。现在想求得最优解就是要找到更新超参数组合，即如何更新超参数，才能让算法更快更好的收敛到最优解。PSHE2算法根据超参数本身历史的最优，在一定随机扰动的情况下决定下一步的更新方向。

    超参优化 - 图2

    PaddleHub AutoDL Finetuner为了评估搜索的超参对于任务的效果，提供两种超参评估策略：

    • Full-Trail: 给定一组超参，利用这组超参从头开始Fine-tune一个新模型，之后在验证集评估这个模型；

    • Population-Based: 给定一组超参，若这组超参是第一轮尝试的超参组合，则从头开始Fine-tune一个新模型；否则基于前几轮已保存的较好模型，在当前的超参数组合下继续Fine-tune并评估；

    二、准备工作

    使用PaddleHub AutoDL Finetuner需要准备两个指定格式的文件：待优化的超参数信息yaml文件hparam.yaml和需要Fine-tune的python脚本train.py。

    hparam给出待搜索的超参名字、类型（int或者float）、搜索范围等信息，通过这些信息构建了一个超参空间，PaddleHub将在这个空间内进行超参数的搜索，将搜索到的超参传入train.py获得评估效果，根据评估效果自动调整超参搜索方向，直到满足搜索次数。

    NOTE：

    • yaml文件的最外层级的key必须是param_list；

    • 超参名字可以任意指定，PaddleHub会将搜索到的值以指定名称传递给train.py使用；

    • 优化超参策略选择HAZero时，需要提供两个以上的待优化超参；

    NOTE:

    • train.py须包含选项参数saved_params_dir，优化后的参数将会保存到该路径下。

    • 超参评估策略选择PopulationBased时，train.py须包含选项参数model_path，自动从model_path指定的路径恢复模型

    • train.py须反馈模型的评价效果（建议使用验证集或者测试集上的评价效果），通过调用接口反馈，如

      1. hub.report_final_result(eval_avg_score["acc"])

    • 输出的评价效果取值范围应为(-∞, 1]，取值越高，表示效果越好。

    PaddleHub AutoDL Finetuner超参优化–NLP情感分类任务。

    。

    确认安装PaddleHub版本在1.3.0以上, 同时PaddleHub AutoDL Finetuner功能要求至少有一张GPU显卡可用。

    通过以下命令方式：

    其中，选项

    • --param_file: 必填，待优化的超参数信息yaml文件，即上述hparam.yaml；

    • --gpu: 必填，设置运行程序的可用GPU卡号，中间以逗号隔开，不能有空格；

    • --popsize: 可选，设置程序运行每轮产生的超参组合数，默认为5；

    • --round: 可选，设置程序运行的轮数，默认为10；

    • --output_dir: 可选，设置程序运行输出结果存放目录，不指定该选项参数时，在当前运行路径下生成存放程序运行输出信息的文件夹；

    • : 可选，设置自动优化超参算法，可选hazero和pshe2，默认为pshe2；

    NOTE:

    • 进行超参搜索时，一共会进行n轮(–round指定)，每轮产生m组超参(–popsize指定)进行搜索。上一轮的优化结果决定下一轮超参数调整方向；

    • 当指定GPU数量不足以同时跑一轮时，AutoDL Finetuner功能自动实现排队为了提高GPU利用率，建议卡数为刚好可以被popsize整除。如popsize=6，gpu=0,1,2,3，则每搜索一轮，AutoDL Finetuner自动起四个进程训练，所以第5/6组超参组合需要排队一次，在搜索第5/6两组超参时，会存在两张卡出现空闲等待的情况，如果设置为3张可用的卡，则可以避免这种情况的出现；

    四、目录结构

    进行自动超参搜索时，PaddleHub会生成以下目录

    1. ./output_dir/
    2.     ├── log_file.txt
    3.     ├── best_model
    4.     ├── visualization
    5.     ├── round0
    6.     ├── round1
    7.     └── roundn
    9.         ├── log-1.info
    10.         ├── ...
    11.         ├── log-m.info
    12.         ├── model-0
    13.         ├── model-1
    14.         ├── ...
    15.         └── model-m

    其中output_dir为启动autofinetune命令时指定的根目录，目录下:

    • log_file.txt记录每一轮搜索所有的超参以及整个过程中所搜索到的最优超参；

    • best_model保存整个搜索训练过程中得到的最优的模型参数；

    • visualization记录可视化过程的日志文件；

    • round0 ~ roundn记录每一轮的数据，在每个round目录下，还存在以下文件；

      • log-0.info ~ log-m.info记录每个搜索方向的日志；

      • model-0 ~ model-m记录对应搜索的参数；

    AutoDL Finetuner API在优化超参过程中会自动对关键训练指标进行打点，启动程序后执行下面命令。

    其中${OUTPUT}为AutoDL Finetuner输出目录，${HOST_IP}为本机IP地址，${PORT_NUM}为可用端口号，如本机IP地址为192.168.0.1，端口号8040， 用浏览器打开192.168.0.1:8040，即可看到搜索过程中各超参以及指标的变化情况。

    六、args参数传递

    PaddleHub AutoDL Finetuner 支持将train.py中的args其余不需要搜索的参数通过autofinetune remainder方式传入。这个不需要搜索的选项参数名称应该和通过hub autofinetune的传入选项参数名称保持一致。如示例中的max_seq_len选项，可以参照以下方式传入。

    1. $ OUTPUT=result/
    3.  --output_dir=${OUTPUT} --evaluator=fulltrail --tuning_strategy=pshe2 max_seq_len 128
    1. 如在使用AutoDL Finetuner功能时，输出信息中包含如下字样：

    WARNING：Program which was ran with hyperparameters as … was crashed!

    首先根据终端上的输出信息，确定这个输出信息是在第几个round（如round 3），之后查看${OUTPUT}/round3/下的日志文件信息log.info, 查看具体出错原因。

    1. PaddleHub AutoDL Finetuner功能使用过程中建议使用的GPU卡仅供PaddleHub使用，无其他任务使用。