神经网络BN(Batch Normalization)层总结(上)

BN层,全称Batch Normalization,译为批归一化层,于2015年提出。其目的在文章题目中就给出:BN层能够减少内部变量偏移来加速深度神经网络的训练。源文链接:Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift在这里从Batch size讲起,说一下自己的理解,BN层内容其实比较简单,但是为了方便理解我在这里加入一些思考过程,可能稍显冗杂,因而分为上下两
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

神经网络BN(Batch Normalization)层总结(下)

总结(上)链接:https://blog.csdn.net/lipengfei0427/article/details/108995955四、作用前三条最重要1)防止梯度消失与梯度爆炸(1)关于梯度消失以sigmoid函数为例子,sigmoid函数使得输出在[0,1]之间。事实上x到了一定大小,经过sigmoid函数的输出范围就很小了,参考下图如果输入很大,其对应的斜率就很小,我们知道,其斜率(梯度)在反向传播中是权值学习速率。所以就会出现如下的问题,在...
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

机器学习中的端到端学习(End-to-End Learning)

传统机器学习需要将一个任务的输入和输出之间人为地切割成很多子模块,或者多个阶段,每个子模块(阶段)分开学习。比如一个自然语言处理任务(NLP),一般需要分词、词性标注、句法分析、语义分析、语义推理等步骤。这种学习方式有两个问题:一是每一个模块都需要单独优化,并且其优化目标和任务总体目标并不能保证一致;二是错误传播,即前一步的错误会对后续的模型造成很大的影响。这样就增加了机器学习方法在实际应用中的难度。端到端学习(End-to-End Learning),也称端到端训练,是指在学习过程中不进行分模块或分阶
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

[语义分割]SPP、空洞卷积与ASPP总结

ASPP全称:Atrous Spatial Pyramid Pooling,中文可以理解为空洞空间卷积池化金字塔或者多孔空间金字塔池化。在这其中,要理解两个概念:一个是SPP,池化金字塔结构或者叫空间金字塔池化层,都是一个东西;另一个是Atrous,空洞卷积,两个加在一起就是ASPP。首先说一下SPP:Spatial Pyramid Pooling。这个结构出自于论文《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Re
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

[机器学习]One-Hot编码总结(独热编码)

One-Hot编码,又称“独热编码”,是一种编码方式。一、问题的产生在进行机器学习,例如回归,分类,聚类或者NLP等问题的时候,通常很多数据都是无法直接利用的。例如一个学生信息数据集中样本有三种类别,每个类别分别对应不同种类的标签:“性别”(男、女)、“班级”(1班、2班、3班)、“年级”(一年级、二年级、三年级、四年级)。在计算机中,特征之间距离的计算或相似度的计算是非常重要的,而我们常用的距离或相似度的计算都是在欧式空间的相似度计算,计算余弦相似性,基于的就是欧式空间。所以在处理上面学生信息
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

python中跨目录(文件)import函数

一、同级目录下的调用文件层次结构--src|--test1.py|--test2.py若在程序test2.py中导入模块test1, 则直接使用import test1test1.fun1()#或from test1 import *也可以直接导入指定函数from test1 import fun1fun1()#注意此时可以直接以函数名加括号的方式调用二、调用子目录下面的模块文件层次结构--src|--top.py|--lib...
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

PyTorch中的Data.DataLoader

DataLoader是PyTorch中读取数据的一个重要接口,基本上用PyTorch训练模型都会用到。这个接口的目的是:将自定义的Dataset根据batch size大小、是否shuffle等选项封装成一个batch size大小的Tensor,后续只需要再包装成Variable即可作为模型输入用于训练。PyTorch中的数据读取主要包含三个类,其过程主要是以下四步:1.Dataset2.DataLoader3.DataLoaderIter4.循环DataLoader,进行训练一、
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

双线性池化(Bilinear Pooling)与二阶池化(Second-order pooling)

双线性池化(Bilinear Pooling)双线性池化,Bilinear Pooling出自于论文《Bilinear CNN Models for Fine-grained Visual Recognition》。双线性的意思是包含两个特征提取器,其输出经过外积相乘、池化然后得到结果。其主要用于特征融合,对于从同一个样本提取出来的特征x和特征y,通过bilinear pooling得到两个特征融合后的向量,进而用来分类。丢个原文链接:https://arxiv.org/pdf/1504.07889
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

Dice系数(Dice coefficient)与mIoU与Dice Loss

Dice系数和mIoU是语义分割的评价指标,在这里进行了简单知识介绍。讲到了Dice顺便在最后提一下Dice Loss,以后有时间区分一下两个语义分割中两个常用的损失函数,交叉熵和Dice Loss。一、Dice系数1.概念理解Dice系数是一种集合相似度度量函数,通常用于计算两个样本的相似度,取值范围在[0,1]:其中 |X∩Y| 是X和Y之间的交集,|X|和|Y|分表表示X和Y的元素的个数,其中,分子的系数为2,是因为分母存在重复计算X和Y之间的共同元素的原因。对于语义分割问题而
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

深度可分离卷积(depthwise separable convolutions)

深度可分离卷积depthwise separable convolution是由depthwise(DW)和pointwise(PW)两个部分结合起来,用来提取特征feature map。需要注意的是,深度可分离卷积和正常(标准)卷积是等效的。废话不多说,直接上个图。图中(a)表示的是标准卷积,假设输入特征图尺寸为,卷积核尺寸为,输出特征图尺寸为,用了Padding。标准卷积层的参数量为,N表示卷积核的个数。图(b)代表深度卷积,图(c)代表逐点卷积,两者合起来就是深度可分离卷积。深度卷
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

Python处理.nii文件

.nii文件是NIFTI格式的文件,用来储存医疗图像信息。在神经网络处理过程中,需要安装一个Nibabel的包,用来处理该格式的图像。一、安装命令conda install -c conda-forge nibabel #conda安装pip install nibabel #pip安装二、代码from nibabel.viewers import OrthoSlicer3Dfrom nibabel import nifti1import nibabel as nibfrom
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

Python报错解决:local variable ‘xxx‘ referenced before assignment

local variable 'xxx' referenced before assignment指的是'xxx'局部变量没有被声明。一般有如下两种情况第一种是变量没有赋值def test(): print(a)这里a没有赋值,应该改成如下形式def test(): a = 1 print(a)第二种是全局变量没有声明a = 1def test(): print(a)在这里a是全局变量,在定义函数中需要进行变量声明,该为如下形式..
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

Python批处理将RGB(彩色图)转换为灰度图

import osfrom PIL import Imagefile_dir = '原图片路径'out_dir = '目标图片路径'imgs = os.listdir(file_dir)for i in imgs: I = Image.open(file_dir + i) L = I.convert('L') L.save(out_dir + i)
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

PyTorch卷积神经网络实现MNIST手写数字识别

直接run,数据集在执行train_dataset = datasets.MNIST(download = True)会自动下载,稍等就好import torchimport torch.nn as nnimport torch.optim as optimfrom torchvision import datasets, transforms#define parametersinput_size = 28num_class = 10num_epochs = 3batch_siz
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

Windows office更新 应用程序无法正常启动0xc0000142

第一种方法:直接贴链接,我的电脑原本就是这个格式,所以没法改,不知道好不好用,放到这里仅供参考。https://jingyan.baidu.com/article/b2c186c80d8bb1c46ff6ff5f.html第二种方法:按Windows+R,输入cmd打开命令提示符,输入下面的命令,记得手巧:for %1 in (%windir%\system32\*.dll) do regsvr32.exe /s %1中间要安装一些辅助应用,安装就好,直到滚到底,重启。第三种方法
分类: 其他 发布时间: 04-05 23:54 阅读次数: 0

ISIC Archive数据集下载

数据介绍:该档案库包含分类皮肤损伤的23k图像。 它包含了恶性和良性的例子。每个示例均包含病变的图像,有关病变的元数据(包括分类和分割)以及有关患者的元数据。下载地址:https://github.com/GalAvineri/ISIC-Archive-DownloaderPython 3.6 or later requestspip install requests PILpip install Pillow tqdmpip install tqdmOr you could just...
分类: 其他 发布时间: 04-05 23:53 阅读次数: 0

三款国产操作系统使用初步体验

最近想选择一个Linux操作系统用来日常办公。之前用过很多Linux版本,大致可以分为CentOS系列、Debian系列,Debian系列如Ubuntu、Lubuntu、Kali Linux,CentOS系列如RedHat、CentOS 6/7,由于这些发行版来自国外开源社区或者发行公司,对中文的支持有限,所以特别希望能用上中文友好的Linux发行版本。今天给大家分享的是国产操作系统选择和体验过程的一些感受。01why首先要说明的是,本文所说的国产操作系统,指的是为中国用户...
分类: 其他 发布时间: 04-05 23:53 阅读次数: 0

QGIS与国产操作系统兼容性测试(Deepin、优麒麟、中标麒麟)

三款国产操作系统使用初步体验一文从操作系统易用性、生态完整性、软件包获取难易程度等方面考察其是否满足日常办公需求。然而对我来说,QGIS是日常最常用的软件之一, QGIS与操作系统的兼容性尤其重要,于是我决定测试一下QGIS在各个国产操作系统运行情况。本文从QGIS安装、编译两个方面试验QGIS与国产操作系统的兼容性,并将试验结果分享给大家。01从软件源安装QGIS 1.1测试结论 Deepin和优麒麟可以通过添加QGIS软件源的方式成功安装最新版本...
分类: 其他 发布时间: 04-05 23:53 阅读次数: 0

QGIS基于快鸟(QuickBird)影像统计小麦种植面积

​01数据情况本次选用某地4月份快鸟(QuickBird)影像为例,使用QGIS演示提取小麦播种情况,并按照200米*200米分区计算种植面积的过程。注:本文对应的操作视频作为今天第二篇推送同时发布,习惯看视频的朋友可以点击观看。附数据压缩包:链接:https://pan.baidu.com/s/1JVUS8uAOR61RxC1n9Or9_w提取码:qgis含快鸟影像QB_subset.tif和200*200米分区矢量图层200Mgrid.shp。...
分类: 其他 发布时间: 04-05 23:53 阅读次数: 0

使用QGIS下载遥感影像(Landsat、哨兵2)

本文将演示在QGIS中定位下载区域并下载Landsat、哨兵2等遥感数据的过程。01使用的工具1) QGIS 3.162) QGIS SCP插件3) Landsat、哨兵数据下载官网账号02注册账号 注册哨兵账号【下载哨兵数据需要】 【如果已经注册账号,请直接进入下一节。】打开浏览器,在地址栏输入网址:https://scihub.copernicus.eu/dhus/#/home,进入数据浏览页面。点开左上角的,然后点击“Sig...
分类: 其他 发布时间: 04-05 23:53 阅读次数: 0