L2Decay

    L2Decay实现L2权重衰减正则化，用于模型训练，有助于防止模型对训练数据过拟合。

    具体实现中，L2权重衰减正则化的计算公式如下：

    参数:

    • regularization_coeff (float) – 正则化系数，默认值为0.0。

    代码示例2

    1. # 在 ParamAttr 和 optimizer 中同时设置正则化
    2. import paddle.fluid as fluid
    4. l2 = fluid.regularizer.L2Decay(regularization_coeff=0.1)
    5. x = fluid.layers.uniform_random([3,4])
    6. # 在ParamAttr中设置L1正则化
    7. w_param = fluid.ParamAttr(regularizer=l1)
    8. hidden1 = fluid.layers.fc(x, 8, param_attr=w_param)    # fc_0.w_0(L1), fc_0.b_0
    9. hidden2 = fluid.layers.fc(hidden1, 16, param_attr=w_param)  # fc_1.w_0(L1), fc_1.b_0
    11. avg_loss = fluid.layers.mean(predict)
    12. # 在optimizer中设置L2正则化
    13. optimizer = fluid.optimizer.SGD(learning_rate=1e-4, regularization=l2)
    14. optimizer.minimize(avg_loss)
    16. # 将会打印出提示信息: