CNN系列学习(一):LeNet-5

小编 2026-07-13 阅读:1029 评论:0
PDF下载 LeNet-5网络是由LeCun等人在1998年提出,用于解决手写数字识别,由于提出了卷积与池化这一概念,为后来卷积神经网络的发展奠定了基调。 网络结构如图: 可以看到,网络输入是...

PDF下载
LeNet-5网络是由LeCun等人在1998年提出,用于解决手写数字识别,由于提出了卷积与池化这一概念,为后来卷积神经网络的发展奠定了基调。
网络结构如图:\"图片来自原文\"
可以看到,网络输入是一个一维的32x32大小的图片,通过5x5的卷积核,经过6个特征通道,输出的到28x28x6的feature maps,通过2x2的下采样池化后图片大小降至14x14x6,然后用5X5的卷积核卷积的同时再将6个特征通道再一次进行组合得到新的16个特征通道,如图:
\"第二个卷积层特征通道实现细节\"
之后再通过一个下采样,变为5x5x16之后,用5x5的卷积核进行全连接的映射,得到一维的120位参数(也可译为120维参数),然后经过两次全连接,映射到最后的一维10位参数,在识别出来的那位数字对应位数置为零。
下面再计算一下需要计算的参数值:
对于第一层卷积,卷积核为5x5,步长为一,特征通道为6,则神经元数量为28x28x6,每一个卷积核计算是会额外添加一个bias参数,则需要计算的参数数量为(5x5+1)x6x28x28,为122304个。
对于第一个池化层,是2x2的采样,也会有一个偏置,参数数量即为(22+1)61414=5880
同理,接下来的卷积层池化层对应的参数数量分别为151600与2000个。到全连接的那个卷积参数为84*(120+1)=10164个。最后一层为84x10=840个。

总结:
LeNet-5网络的最大贡献不在于实现了手写数字操作,而是提出了卷积-池化-全连接这种经典的网络连接结构,可以看到后来各种复杂的解决更深更难问题的网络都是这样的骨架上做的调整修改。

版权声明

本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。

热门文章
  • Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering

    Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering
    Problem Statement 我们考虑一个具有马尔可夫性质、非线性、非高斯的状态空间模型(State Space Model):对于一个时间序列上的观测结果{yt,t∈N}\\{ y_t , t \\in N \\}{yt​,t∈N},我们认为每个观测结果yty_tyt​的生成依赖于一个无法直接观察的隐变量xt∈{xt,t∈N}x_t \\in \\{x_t , t \\in N \\}xt​∈{xt​,t∈N},即:p(...
  • 机房智能化温湿度解决方式之POE供电以太网温湿度传感器

    机房智能化温湿度解决方式之POE供电以太网温湿度传感器
    机房智能化温湿度解决方式之POE供电以太网温湿度传感器 北京盈创力和电子科技有限公司 智能型TCP网口温湿度记录仪 北京IP网络温湿度记录仪厂家,北京盈创力和 北京智能型TCP网口温湿度记录仪IP网络温湿度记录仪是一种新型的基于TCP/IP协议双绞线以太网标准温湿度采集模块,利用它可以实现现场温度值、相对湿度值的采集,同时利用其自身的RJ45通信接口可以方便地和机房监控主机或交换机集线器进行联网。 工作于-40℃~85℃工业级带...
  • Hive 系统函数及示例

    Hive 系统函数及示例
    查看所有系统函数 show functions; 函数分类 内置函数【系统函数】 数学函数: floor、round、ceil、cos、log2等 字符串函数: length、reverse、trim、lower、get_json_object、repeat等 收集函数: size 转换函数: cast 日期函数: year、month、datediff、date、date_add等 条件函数: coalesce、case…w...
  • CSRF的原理和防范措施

    CSRF的原理和防范措施
    a)攻击原理:i.用户C访问正常网站A时进行登录,浏览器保存A的cookieii.用户C再访问攻击网站B,网站B上有某个隐藏的链接或者图片标签会自动请求网站A的URL地址,例如表单提交,传指定的参数iii.而攻击网站B在访问网站A的时候,浏览器会自动带上网站A的cookieiv.所以网站A在接收到请求之后可判断当前用户是登录状态,所以...
  • HTTP状态保持的原理

    HTTP状态保持的原理
    a)在用户登录之后,浏览器返回响应的时候会在响应中添加上cookieb)浏览器接收到cookie之后会自动保存c)当用户再次请求同一服务器中的其他网页的时候,浏览器会自动带上之前保存的cookied)服务接收到请求之后可以请 request 对象中取到cookie 判断当前用户是否登录  Http是无状态的,就是连接时数据互通,关闭后...
标签列表