神经网络

DeiT:注意力也能蒸馏

DeiT 是一个全 Transformer 的架构。其核心是提出了针对 ViT 的教师-学生蒸馏训练策略,并提出了 token-based distillation 方法,使得 Transformer 在视觉领域训练得又快又好。 ... »

体验SRCNN和FSRCNN两种图像超分网络应用

摘要:图像超分即超分辨率,将图像从模糊的状态变清晰。 本文分享自华为云社区《图像超分实验:SRCNN/FSRCNN》,作者:zstar。 图像超分即超分辨率,将图像从模糊的状态变清晰。本文对BSDS500数据集进行超分实验。 1.实验目标 输入大小为h×w的图像X,输出为一个sh×sw的图像 Y,s ... »

隐私计算FATE-多分类神经网络算法测试

一、说明 本文分享基于 Fate 使用 横向联邦 神经网络算法 对 多分类 的数据进行 模型训练,并使用该模型对数据进行 多分类预测。 二分类算法:是指待预测的 label 标签的取值只有两种;直白来讲就是每个实例的可能类别只有两种(0 或者 1),例如性别只有 男 或者 女;此时的分类算法其实是在 ... »

zlt2000

tensorflow 基础学习二:实现一个神经网络

在tensorflow中,变量(tf.Variable)的作用就是用来保存和更新神经网络中的参数,在声明变量的同时需要指定其初始值。 tensorflow中支持的随机数生成器: 函数名称 随机数分布 主要参数 tf.random_normal 正态分布 平均值、标准差、取值类型 tf.truncated_normal 正态分布,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会 »

【吴恩达课后测验】Course 1 - 神经网络和深度学习 - 第一周测验【中英】

第一周测验 - 深度学习简介 和“AI是新电力”相类似的说法是什么? 【  】AI为我们的家庭和办公室的个人设备供电,类似于电力。 【  】通过“智能电网”,AI提供新的电能。 【 】AI在计算机上运行,​​并由电力驱动,但是它正在让以前的计算机不能做的事情变为可能。 【★】就像100年前产生电能一样,AI正在改变很多的行业。 请注意: 吴恩达在视频中表达了同样的观点。 哪些是深度学习 »

神经网络优化算法:梯度下降法、Momentum、RMSprop和Adam

最近回顾神经网络的知识,简单做一些整理,归档一下神经网络优化算法的知识。关于神经网络的优化,吴恩达的深度学习课程讲解得非常通俗易懂,有需要的可以去学习一下,本人只是对课程知识点做一个总结。吴恩达的深度学习课程放在了网易云课堂上,链接如下(免费):https://mooc.study.163.com/smartSpec/detail/1001319001.htm 神经网络最基本的优化算法是反向传播算 »

机器学习笔记(六)神经网络引入及多分类问题实践

一、 神经网络引入 我们将从计算机视觉直观的问题入手,提出引入非线性分类器的必要性。首先,我们希望计算机能够识别图片中的车。显然,这个问题对于计算机来说是很困难的,因为它只能看到像素点的数值。 应用机器学习,我们需要做的就是提供大量带标签的图片作为训练集,有的图片是一辆车,有的图片不是一辆车,最终我们希望我们给出一张图片,计算机可以准确地告诉我们这是不是一辆车。 显然这需要一个非线性分类模型。 »

神经网络测试:利用分块patch输入的弊端

在进行训练时,将图像原原本本地作为input进行训练是难以实现的,所以往往有以下两种处理方案: Centercrop 分块 分块处理 对于分块,我们可以进行不同的等分,以下对512 * 512 pixel的图像及其所对应的target进行两种尝试: 4 * 4 分块,即生成的input是128 * 128 pixel的 8 * 8 分块,即生成的input是64 * 64 pixe »

人脸识别性别的卷积神经网络

本文主要是实现了根据人脸识别性别的卷积神经网络,并对卷积过程中的提取特征进行了可视化.         卷积神经网络 卷积神经网络最早是为了解决图像识别的问题,现在也用在时间序列数据和文本数据处理当中,卷积神经网络对于数据特征的提取不用额外进行,在对网络的训练的过程当中,网络会自动提取主要的特征. 卷积神经网络直接用原始图像的全部像素作为输入,但是内部为非全连接结构.因为图像数据在 »

神经网络JOONE的实践

什么是joone Joone是一个免费的神经网络框架来创建,训练和测试人造神经网络。目标是为最热门的Java技术创造一个强大的环境,为热情和专业的用户。 Joone由一个中间引擎组成,这是Joone开发的所有应用程序的支点。Joone的神经网络可以建立在本地机器上,在分布式环境中进行培训,并在任何设备上运行。 每个人都可以编写新的模块来实现从核心引擎分发的简单组件开始的新算法或新架构。 »

神经网络环境搭建,windows上安装theano和keras的流程

今天碰到有朋友问道怎么在windows下安装keras,正好我刚完成搭建,总结下过程,也算是一个教程吧,给有需要的朋友。   步骤一:安装python。 这一步没啥好说的,下载相应的python安装即可,版本2.7,3.4,3.5都可以,只是装了什么版本,后续的包都需要对应的版本。我亲测3.5和3.4。这里以3.4版为例吧。 装好后腰把python的路径加入path里面,包括scripts和lib »

深度学习之GAN对抗神经网络

1、结构图   2、知识点 生成器(G):将噪音数据生成一个想要的数据 判别器(D):将生成器的结果进行判别, 3、代码及案例 # coding: utf-8 # ## 对抗生成网络案例 ## # # # <img src="jpg/3.png" alt="FAO" width="590" > # - 判别器 : 火眼金睛,分辨出生成和真实的 <br /> »

猪猪的机器学习笔记(十)人工神经网络

人工神经网络 作者:樱花猪   摘要: 本文为七月算法(julyedu.com)12月机器学习第十次次课在线笔记。人工神经网络在支持图像处理、文本、语言以及序列多种类型的数据处理时都用用到。本次课程更加侧重于实践,把抽象的人工神经网络用程序展现出来,课上讲述了编程使用的工具和方法,对于日后实验有非常重要的帮助。   引言: 人工神经网络(Artificial Neural Network,即AN »

重磅!神经网络浅讲:从神经元到深度学习

http://www.open-open.com/lib/view/open1452752687042.html   图1 人脑神经网络 神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向–深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解深度学习技术。 本文以一种简单的,循序的方式讲解神经网络。适合对神经网络了解不多的同学。本文对阅读没有 »

卷积神经网络(三)目标检测

1、目标定位:(以定位汽车为例) 将图像分类:行人、汽车、摩托车、纯背景图,使用softmax函数输出结果. 输出的结果不仅仅是分类,还有四个标记:bx、by、bh、bw. 这四个数据为被检测对象的边界框的参数. 左上角坐标(0,0),右下角坐标(1,1). 输出结果的表示形式:     2、特征点检测: (1)以人脸特征提取为例: 对于人脸的多个特征点,比如4个眼角、鼻子周围关键点等,假设选取 »

传统神经网络ANN训练算法总结 参考 。 以后研究

http://blog.163.com/yuyang_tech/blog/static/21605008320146451352506/ 传统神经网络ANN训练算法总结   2014-07-04 17:13:52|  分类: deeplearning 订阅            下载LOFTER我的照片书  |     原文来自:http://blog.csdn.net »

[JSOI2019]神经网络(树形DP+容斥+生成函数)

首先可以把题目转化一下:把树拆成若干条链,每条链的颜色为其所在的树的颜色,然后排放所有的链成环,求使得相邻位置颜色不同的排列方案数。 然后本题分为两个部分:将一棵树分为1~n条不相交的链的方案数;将这些链安排顺序使得不存在两条相邻的链来自同一棵树。 第一部分显然可以O(n2)树形DP,f[i][j][0/1/2]表示i及其子树j条链,i向儿子连出0/1/2条边的方案数,然后直接背包DP即可。看似O »

【神经网络与深度学习】【CUDA开发】服务器(多GPU)caffe安装和编译

一. 前提 多GPU交互在神经网络是常见的,所以在安装caffe之前需要安装NCCL,来保证多GPU之间的相互交流。  多GPU,这里指的是2个及2个以上英伟达显卡,而不是笔记本中的集显和独显。 二.安装NCCL 1.下载编译  shell终端 cd nccl make CUDA_HOME=/user/local/cuda-7.5 test #注意自己的cuda路径 1 2 1 »

卷积神经网络到底如何提取特征的

记录一些网友写的博客或者帖子,供学习用,感谢! 用文氏图来理解卷积神经网络如何决定提取哪些特征:https://blog.csdn.net/kane7csdn/article/details/84890592 为什么卷积能够提取图像的特征?看完此文应该能够给你一个答案:https://blog.csdn.net/charleswangzi/article/details/82733016 浅析卷积 »

【火炉炼AI】深度学习004-Elman循环神经网络

【火炉炼AI】深度学习004-Elman循环神经网络 (本文所使用的Python库和版本号: Python 3.6, Numpy 1.14, scikit-learn 0.19, matplotlib 2.2 ) Elman神经网络是最早的循环神经网络,由Elman于1990年提出,又称为SRN(Simple Recurrent Network, 简单循环网络)。SRN考虑了时序信息,当前时刻的输 »