计算机科学

首页 > 计算机科学

极限学习机

2018-07-27 10:02:59     所属分类:神经网络

极限学习机(英文:Extreme Learning Machines,缩写ELM),又名超限学习机,为人工智能机器学习领域中的一种人工神经网络模型,是一种求解单隐层前馈神经网络的学习算法。

目录

  • 1 特点
  • 2 开发
  • 3 算法
  • 4 参见
  • 5 参考资料
  • 6 外部链接

特点

传统的前馈神经网络(如BP神经网络)需要人为设置大量的网络训练参数,此算法却只需要设定网络的结构,而不需设置其他参数,因此具有简单易用的特点。其输入层到隐藏层的权值是一次随机确定的,算法执行过程中不需要再调整,而隐藏层到输出层的权值只需解一个线性方程组来确定,因此可以提升计算速度。

开发

极限学习机的名称来自新加坡南洋理工大学黄广斌教授所建立的模型[1]。黄教授指出,此算法的泛化性能良好,且其学习速度比运用反向传播算法训练的速度要快上1000倍[1]

算法

极限学习机中最简单的原理如下:

其中W1是输入向量到隐藏节点层的权重矩阵,σ是激活函数,W2是隐藏节点层到输出向量的权重矩阵。算法按下列步骤进行:

  1. 用随机产生的高斯噪声给矩阵W1的每个元素赋值;
  2. 用最小二乘法估计使期望输出Y与实际输出误差最小的输出权重矩阵W2,数学上能够证明计算隐藏节点层输出矩阵的广义逆 + 即可[1]

参见

  • 机器学习
  • 前馈神经网络
  • 人工神经网络

参考资料

  1. ^ 1.0 1.1 1.2 Huang, Guang-Bin; Zhu, Qin-Yu; Siew, Chee-Kheong. Extreme learning machine: theory and applications. Neurocomputing. 2006, 70 (1): 489–501. doi:10.1016/j.neucom.2005.12.126. 

外部链接

  • 南洋理工学院极限学习机网站,附源代码、未决难题、ELM会议、教程、参考资料等
  • ELM的R程序包
  • GitHub上的ELM开源程序(Python)
  • GitHub上的ELM开源程序(C++)
  • GitHub上的ELM开源程序(Matlab)
版权声明:本文由北城百科网创作,转载请联系管理获取授权,未经容许转载必究。https://www.beichengjiu.com/computerscience/338712.html

显示全文

取消

感谢您的支持,我会继续努力的!

扫码支持
支付宝扫一扫赏金或者微信支付5毛钱,阅读全文

打开微信扫一扫,即可进行阅读全文哦


广告
相关推荐
爱淘宝