❖ 决策树学习采用自顶向下得递归方式,在决策树得内部结点 进行属性值比较并根据不同得属性值判断从该结点向下得分 支,在叶结点得到结论。从根结点到每个叶结点都有唯一得 一条路径,这条路径就就是一条决策“规则”。
❖ 当经过一批训练实例集得训练产生一颗决策树,那么该决策 树就可以根据属性得取值对一个未知实例集进行分类。所有 得决策树都有一等价得ANN表示;也可用SVM实现相同得功 能。
x | x | x
阈值型函数:
f
(x
)
1
1
x x
sigmoid函数:
1
1 ex
f (x) 1 ex or f (x) 1 ex
机器学习—神经网络
感知机学习算法:(选取f为阈值函数,学习权值向量w) (1)初始化:将权值向量与阈值赋予随机量,t=0 (2)连接权得修正:设训练样本得输入为x1,、、、, xi,、、、,xn,期望输出为yj,进行如下计算: 计算网络输出:y(t)= f(iwij(t)xi(t)-j(t)) 计算期望输出与实际输出得误差:e(t)=yj-y(t) 若e=0,则说明当前样本输出正确,不必更新权值,否 则更新权值与阈值
典型规则:
ji
t
1
ji
t
E
ji t
❖ 其她最流行得网络结构:径向基函数(RBF)神经网络、自组织 映射(SOM)、Hopfield网络等。
❖ Matlab提供了一套神经网络工具箱(Neural Networks Toolbox),其中包含了一组new函数,用以创建各种类型得神 经网络。
机器学习—神经网络
上述过程一直持续到所有得输出单元得到输出为止,最后 一层得输出就就是网络得输出。
❖ 因此,神经网络就是一个黑匣子。
