常用层

    Dense就是常用的全连接层，所实现的运算是。其中activation是逐元素计算的激活函数，kernel是本层的权值矩阵，bias为偏置向量，只有当use_bias=True才会添加。

    如果本层的输入数据的维度大于2，则会先被压为与kernel相匹配的大小。

    这里是一个使用示例：

    1. # as first layer in a sequential model:
    2. # as first layer in a sequential model:
    3. model = Sequential()
    4. model.add(Dense(32, input_shape=(16,)))
    5. # now the model will take as input arrays of shape (*, 16)
    6. # and output arrays of shape (*, 32)
    8. # the size of the input anymore:
    9. model.add(Dense(32))

    • units：大于0的整数，代表该层的输出维度。

    • activation：激活函数，为预定义的激活函数名（参考激活函数），或逐元素（element-wise）的Theano函数。如果不指定该参数，将不会使用任何激活函数（即使用线性激活函数：a(x)=x）

    • use_bias: 布尔值，是否使用偏置项

    • kernel_initializer：权值初始化方法，为预定义初始化方法名的字符串，或用于初始化权重的初始化器。参考

    • bias_initializer：偏置向量初始化方法，为预定义初始化方法名的字符串，或用于初始化偏置向量的初始化器。参考initializers

    • kernel_regularizer：施加在权重上的正则项，为对象

    • bias_regularizer：施加在偏置向量上的正则项，为Regularizer对象

    • activity_regularizer：施加在输出上的正则项，为对象

    • kernel_constraints：施加在权重上的约束项，为Constraints对象

    • bias_constraints：施加在偏置上的约束项，为对象

    输入

    形如(batch_size, …, input_dim)的nD张量，最常见的情况为(batch_size, input_dim)的2D张量

    输出

    形如(batch_size, …, units)的nD张量，最常见的情况为(batch_size, units)的2D张量

    Activation层

     
    1. keras.layers.core.Activation(activation)

    激活层对一个层的输出施加激活函数

    参数

    • activation：将要使用的激活函数，为预定义激活函数名或一个Tensorflow/Theano的函数。参考激活函数

    输入shape

    任意，当使用激活层作为第一层时，要指定input_shape

    输出shape

    与输入shape相同

    ## Dropout层 
    1. keras.layers.core.Dropout(rate, noise_shape=None, seed=None)

    为输入数据施加Dropout。Dropout将在训练过程中每次更新参数时按一定概率（rate）随机断开输入神经元，Dropout层用于防止过拟合。

    参数

    • rate：0~1的浮点数，控制需要断开的神经元的比例

    • noise_shape：整数张量，为将要应用在输入上的二值Dropout mask的shape，例如你的输入为(batch_size, timesteps, features)，并且你希望在各个时间步上的Dropout mask都相同，则可传入noise_shape=(batch_size, 1, features)。

    • seed：整数，使用的随机数种子

    参考文献

    Flatten层

    1. keras.layers.core.Flatten()

    Flatten层用来将输入“压平”，即把多维的输入一维化，常用在从卷积层到全连接层的过渡。Flatten不影响batch的大小。

    例子

    1. model = Sequential()
    2. model.add(Convolution2D(64, 3, 3,
    3.             border_mode='same',
    4.             input_shape=(3, 32, 32)))
    5. # now: model.output_shape == (None, 64, 32, 32)
    7. model.add(Flatten())
    8. # now: model.output_shape == (None, 65536)

    Reshape层用来将输入shape转换为特定的shape

    • target_shape：目标shape，为整数的tuple，不包含样本数目的维度（batch大小）

    输入shape

    任意，但输入的shape必须固定。当使用该层为模型首层时，需要指定input_shape参数

    输出shape

    (batch_size,)+target_shape

    例子

    1. # as first layer in a Sequential model
    3. model.add(Reshape((3, 4), input_shape=(12,)))
    4. # now: model.output_shape == (None, 3, 4)
    5. # note: `None` is the batch dimension
    7. # as intermediate layer in a Sequential model
    8. model.add(Reshape((6, 2)))
    9. # now: model.output_shape == (None, 6, 2)
    11. # also supports shape inference using `-1` as dimension
    12. model.add(Reshape((-1, 2, 2)))
    13. # now: model.output_shape == (None, 3, 2, 2)

    Permute层

    1. keras.layers.core.Permute(dims)

    Permute层将输入的维度按照给定模式进行重排，例如，当需要将RNN和CNN网络连接时，可能会用到该层。

    参数

    • dims：整数tuple，指定重排的模式，不包含样本数的维度。重拍模式的下标从1开始。例如（2，1）代表将输入的第二个维度重拍到输出的第一个维度，而将输入的第一个维度重排到第二个维度

    例子

    1. model = Sequential()
    2. # now: model.output_shape == (None, 64, 10)
    3. # note: `None` is the batch dimension

    输入shape

    任意，当使用激活层作为第一层时，要指定input_shape

    输出shape

    与输入相同，但是其维度按照指定的模式重新排列

    RepeatVector层

    1. keras.layers.core.RepeatVector(n)

    RepeatVector层将输入重复n次

    参数

    • n：整数，重复的次数

    形如（nb_samples, features）的2D张量

    输出shape

    例子

    1. model = Sequential()
    2. model.add(Dense(32, input_dim=32))
    3. # now: model.output_shape == (None, 32)
    4. # note: `None` is the batch dimension
    6. model.add(RepeatVector(3))
    7. # now: model.output_shape == (None, 3, 32)

    本函数用以对上一层的输出施以任何Theano/TensorFlow表达式

    参数

    • function：要实现的函数，该函数仅接受一个变量，即上一层的输出

    • output_shape：函数应该返回的值的shape，可以是一个tuple，也可以是一个根据输入shape计算输出shape的函数

    • mask: 掩膜

    • arguments：可选，字典，用来记录向函数中传递的其他关键字参数

    例子

    1. # add a x -> x^2 layer
    2. model.add(Lambda(lambda x: x ** 2))
    1. # add a layer that returns the concatenation
    2. # of the positive part of the input and
    5. def antirectifier(x):
    6.     x -= K.mean(x, axis=1, keepdims=True)
    7.     x = K.l2_normalize(x, axis=1)
    8.     pos = K.relu(x)
    9.     neg = K.relu(-x)
    10.     return K.concatenate([pos, neg], axis=1)
    12. def antirectifier_output_shape(input_shape):
    13.     shape = list(input_shape)
    14.     assert len(shape) == 2  # only valid for 2D tensors
    15.     shape[-1] *= 2
    16.     return tuple(shape)
    18. model.add(Lambda(antirectifier,
    19.          output_shape=antirectifier_output_shape))

    输入shape

    任意，当使用该层作为第一层时，要指定input_shape

    输出shape

    由output_shape参数指定的输出shape，当使用tensorflow时可自动推断

    ActivityRegularizer层

    1. keras.layers.core.ActivityRegularization(l1=0.0, l2=0.0)

    经过本层的数据不会有任何变化，但会基于其激活值更新损失函数值

    参数

    • l1：1范数正则因子（正浮点数）

    • l2：2范数正则因子（正浮点数）

    输入shape

    任意，当使用该层作为第一层时，要指定input_shape

    与输入shape相同

    Masking层

    1. keras.layers.core.Masking(mask_value=0.0)

    使用给定的值对输入的序列信号进行“屏蔽”，用以定位需要跳过的时间步

    对于输入张量的时间步，即输入张量的第1维度（维度从0开始算，见例子），如果输入张量在该时间步上都等于mask_value，则该时间步将在模型接下来的所有层（只要支持masking）被跳过（屏蔽）。

    如果模型接下来的一些层不支持masking，却接受到masking过的数据，则抛出异常。

    例子

    考虑输入数据x是一个形如(samples,timesteps,features)的张量，现将其送入LSTM层。因为你缺少时间步为3和5的信号，所以你希望将其掩盖。这时候应该：

    • 在LSTM层之前插入mask_value=0.的Masking层

    1. model = Sequential()
    2. model.add(Masking(mask_value=0., input_shape=(timesteps, features)))