神经网络

神经网络基础部件-损失函数详解

大多数深度学习算法都会涉及某种形式的优化,所谓优化指的是改变 xx 以最小化或最大化某个函数 f(x)f(x) 的任务,我们通常以最小化 f(x)f(x) 指代大多数最优化问题。损失函数大致可分为两种:回归损失(针对连续型变量)和分类损失(针对离散型变量)。常用的减少损失函数的优化算法是“梯度下降法... ... »

【机器学习】李宏毅——Recurrent Neural Network(循环神经网络)

假设我们当前要做一个人工智能客服系统,那该系统就需要对用户输入的话语进行辨认,例如用户输入: I want to arrive Taipei on November 2nd 那么该系统就能够辨认出来Taipei是目的地,而后面是时间。那么我们可以用一个简单的前向网络来实现这个事情,输出为这个单词属于 ... »

GCN 图神经网络使用详解 可视化 Pytorch

目录 手动尝试GCN图神经网络 现在让我们更详细地看一下底层图 现在让我们更详细地检查edge_index的属性 嵌入 Karate Club Network 训练 Karate Club Network 总结 手动尝试GCN图神经网络 最近,图上的深度学习已经成为深度学习社区中最热门 »

【机器学习】李宏毅——卷积神经网络CNN

CNN我们可以从两个角度来理解其中的具体过程 Neuron Version Story(解释版本1) 对于图像分类,其具体的流程如下所示: 将一张图像作为模型的输入,输出经过softmax之后将与理想向量用交叉熵的形式进行比较。那么如何将图片作为模型的输入呢? 实际上每张图片都是三维的张量,两维表示 ... »

Python CNN卷积神经网络实战教程深入讲解

目录 一、CNN简介 1. 神经网络基础 2. 卷积一下哦 3. 卷积计算 二、CNN实例代码 一、CNN简介 1. 神经网络基础 输入层(Input layer),众多神经元(Neuron)接受大量非线形输入讯息。输入的讯息称为输入向量。 输出层(Output layer »

词向量word2vec(图学习参考资料)

介绍词向量word2evc概念,及CBOW和Skip-gram的算法实现。 项目链接: https://aistudio.baidu.com/aistudio/projectdetail/5009409 在自然语言处理任务中,词向量(Word Embedding)是表示自然语言里单词的一种方法,即把 ... »

神经网络与深度学习(二):前馈神经网络

神经元 激活函数的性质 连续并可导(允许少数点上不可导)的非线性函数。 ​ 可导的激活函数可以直接利用数值优化的方法来学习网络参数。 激活函数及其导函数要尽可能的简单 ​ 有利于提高网络计算效率。 激活函数的导函数的值域要在一个合适的区间内 ​ 不能太大也不能太小,否则会影响训练的效率和稳定性。 单 ... »

实际应用效果不佳?来看看提升深度神经网络泛化能力的核心技术(附代码)

神经网络在学习能力与性能方面,远超传统机器学习算法,其大量层与数十亿参数的网络可以轻松学习数据的模式与规律,也容易陷入了『过拟合』问题。本篇梳理4类缓解过拟合的方法:数据增强、Dropout随机失活、L1和L2正则化、Early Stopping/早停止。 ... »

高保真神经网络音频编码器

高保真神经网络音频编码器 本文介绍了meta推出的音频AI Codec,其整体风格深受Google的SoundStream的影响。在其影响下改进了原有的肩背起,引入语言模型进一步降低码率,并提出了一种提升稳定性的训练策略。 论文题目:High Fidelity Neural Audio Compre ... »

LabVIEW开放神经网络交互工具包【ONNX】,大幅降低人工智能开发门槛,实现飞速推理

前言 前面给大家介绍了自己开发的LabVIEW AI视觉工具包,后来发现有一些onnx模型无法使用opencv dnn加载,且速度也偏慢,所以就有了今天的onnx工具包,如果你想要加载更多模型,追求更高的速度,那可以使用LabVIEW onnx工具包实现模型的推理与加速。 一、工具包内容 这个开放神 ... »

tensorflow-gpu版本安装及深度神经网络训练与cpu版本对比

tensorflow1.0和tensorflow2.0的区别主要是1.0用的静态图 一般情况1.0已经足够,但是如果要进行深度神经网络的训练,当然还是tensorflow2.*-gpu比较快啦。 其中tensorflow有CPU和GPU两个版本(2.0安装方法), CPU安装比较简单: pip in ... »

fengwenzhee

带你读AI论文丨ACGAN-动漫头像生成

摘要:ACGAN-动漫头像生成是一个十分优秀的开源项目。 本文分享自华为云社区《【云驻共创】AI论文精读会:ACGAN-动漫头像生成》,作者:SpiderMan。 1.论文及算法介绍 1.1基本信息 • 论文题目:《Conditional Image Synthesis With Auxiliary ... »

对循环神经网络参数的理解|LSTM RNN Input_size Batch Sequence

在很多博客和知乎中我看到了许多对于pytorch框架中RNN接口的一些解析,但都较为浅显甚至出现一些不准确的理解,在这里我想阐述下我对于pytorch中RNN接口的参数的理解。 我们经常看到的RNN网络是如图下所示: RNN的 1. timestep训练过程 这个左边图中间循环的箭头难以理解,所以将 ... »

一文了解循环神经网络

摘要:循环神经网络(RNN)可是在语音识别、自然语言处理等其他领域中引起了变革! 本文分享自华为云社区《【MindSpore易点通】深度学习系列-循环神经网络上篇》,作者:Skytier 循环神经网络(RNN)可是在语音识别、自然语言处理等其他领域中引起了变革! 1 应用场景 循环神经网络(RNN) ... »

Andrej Karpathy | 详解神经网络和反向传播(基于 micrograd)

只要你懂 Python,大概记得高中学过的求导知识,看完这个视频你还不理解反向传播和神经网络核心要点的话,那我就吃鞋:D Andrej Karpathy,前特斯拉 AI 高级总监、曾设计并担任斯坦福深度学习课程 CS231n 讲师、OpenAI 创始成员和研究科学家。在 7 月离职特斯拉后,Andr ... »

matpool

基于 PyTorch 和神经网络给 GirlFriend 制作漫画风头像

摘要:本文中我们介绍的 AnimeGAN 就是 GitHub 上一款爆火的二次元漫画风格迁移工具,可以实现快速的动画风格迁移。 本文分享自华为云社区《AnimeGANv2 照片动漫化:如何基于 PyTorch 和神经网络给 GirlFriend 制作漫画风头像?【秋招特训】》,作者:白鹿第一帅 。 ... »

huaweiyun

LibTorch | 使用神经网络求解一维稳态对流扩散方程

0. 写在前面 本文将使用基于LibTorch(PyTorch C++接口)的神经网络求解器,对一维稳态对流扩散方程进行求解。研究问题参考自教科书$^{[1]}$示例 8.3。 1. 问题描述 一维稳态对流扩散方程为 $$ \nabla \cdot \left( \vec{u}\phi \right ... »

Fitanium