• 输入点 来自于训练集,称作原始样本;而 八、对抗训练 - 图1 是人工构造的,称作对抗样本 。
    1. 表明:存在这些对抗样本的主要原因是高度线性。

    2. 对抗训练通过鼓励网络在训练数据附近的局部区域保持稳定来限制函数对输入扰动的高度敏感性。它可以视作一种先验知识:模型是局部稳定的。