感知器分类
感知器分类算法基本步骤:
权重向量w ,训练样本 X
- 把权重向量初始化为0,或者把每个分量初始化为[0,1]之间的某一个小数
- 把训练样本输入感知器,得到分类结果(1或者-1)
- 根据分类结果和训练样本本身结果的比较更新权重向量
步调函数与阈值
$$
w_{0} = -θ\quad and \quad x_{0} = 1 \\z=w_{0}x_{0}+w_{1}x_{1}+…+w_{m}x_{m} = w^{T}*x\\and\quad φ(z)=\left\{
\begin{aligned}
&1\quad if\quad z\geθ \\
&-1\quad otherwise.
\end{aligned}
\right.
$$
权重更新算法
$$
w(j) = w(j) + ▽w(j) \\
▽w(j) = η\times (y-y’)\times X(j)
$$
η表示学习率,用一个[0,1]之间的一个小数来表示,往往是由自己设定的,当然经常会因为随着训练次数的增加,η不断地下降,这样避免每次变化过大,因为训练次数增加,已经趋近于接近正确答案,η的下降可以提高精确度。
y表示训练样本的分类结果,y’表示感知器的分类结果
▽w(j)表示需要调整的权重向量
可以很容易看出如果经过分类过后,感知器的分类结果和原本的结果相同那么y-y’=0,▽w(j)=0