1. 其中函数 称作联系函数 () 。

    1. 如果给定 二、广义线性模型 - 图1二、广义线性模型 - 图2 的条件概率分布 服从指数分布族,则该模型称作广义线性模型。

      指数分布族的形式为:二、广义线性模型 - 图3

      • 二、广义线性模型 - 图4 的线性函数:
      • 二、广义线性模型 - 图5 为 的函数
      • 二、广义线性模型 - 图6 为 的函数

    2.3.1 高斯分布

    1. 高斯分布:

      二、广义线性模型 - 图7

      令:

      则满足广义线性模型。

    2.3.2 伯努利分布

    1. 根据 二、广义线性模型 - 图8,有 。 则得到:

      二、广义线性模型 - 图9

      因此 回归属于伯努利分布的广义形式。

    2.3.3 多元伯努利分布

    1. 假设有 个分类,样本标记 二、广义线性模型 - 图10 。每种分类对应的概率为 。则根据全概率公式,有

      二、广义线性模型 - 图11

      • 定义 为一个 二、广义线性模型 - 图12 维的列向量:

      • 定义示性函数 :二、广义线性模型 - 图13 表示属于 分类; 二、广义线性模型 - 图14 表示不属于 分类。则有: 二、广义线性模型 - 图15

      • 构建概率密度函数为:

      • 则有:

        二、广义线性模型 - 图16

        令 ,则满足广义线性模型。

    2. 根据:

      二、广义线性模型 - 图17

      则根据:

      于是有:

      二、广义线性模型 - 图18