PyTorch

一、上传Anaconda3到远程服务器 注意：如果要将这个东西安装在anaconda3文件夹里的话，当前这个目录里不能有这个文件夹。（安的时候会自动创建） 二、安装Anaconda3 1. win+r 快捷键打开cmd 输入ssh 可以看到已经与服务器建立连接 2. 输入ssh <用户名>@主机IP ... »

博客推行版本更新，成果积累制度，已经写过的博客还会再次更新，不断地琢磨，高质量高数量都是要追求的，工匠精神是学习必不可少的精神。因此，大家有何建议欢迎在评论区踊跃发言，你们的支持是我最大的动力，你们敢投，我就敢肝 ... »

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是LSTM识别mnist手写数字识别 训练代码在电脑上，cpu就能训练，很快的： import torch import torch.nn as nn import torchvision import numpy ... »

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是卷积识别mnist手写数字识别 训练代码在电脑上，cpu就能训练，很快的： import torch import torch.nn as nn import torch.optim as optim from ... »

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是mlp识别mnist手写数字识别 训练代码在电脑上，cpu就能训练，很快的： 1 import torch 2 import torch.nn as nn 3 import torch.optim as opti ... »

apple的m1芯片比以往cpu芯片在机器学习加速上听说有15倍的提升，也就是可以使用apple mac训练深度学习pytorch模型！！！惊呆了 安装apple m1芯片版本的pytorch 然后使用chatGPT生成一个resnet101的训练代码，这里注意，如果网络特别轻的话是没有加速效果的， ... »

当使用ChatGPT帮我们工作的时候，确实很大一部分人就会失业，当然也有很大一部分人收益其中。我今天继续使用其帮我了解新的内容，也就是timm库。毫不夸张的说，Chat GPT比百分之80的博客讲的更清楚更好，仅次于源码。 当提到计算机视觉的深度学习框架时，PyTorch无疑是最受欢迎的选择之一。P ... »

目录 1.简介 2.先说成功安装的方法 3.常见的其他安装方式 3.1 直接使用pip install torchtext安装 3.2 使用conda install -c pytorch torchtext安装 3.3 使用pytorch-lts源安装安装 总结 1.简介 在学习沐 »

本文主要面向两类目标读者: 一类是想使用机器学习的生物学家，一类是想进入生物学领域的机器学习研究者。如果你不熟悉生物学或机器学习，仍然欢迎你阅读本文，但有时你可能会觉得有点读不太懂！如果你已经熟悉这两者，那么你可能根本不需要本文 —— 你可以直接跳到我们的示例 notebook 以查看这些模型的实际 ... »

目录 概述 制作数据集 1、训练的数据集 2、将数据集分成训练集和测试集 3、训练 4、部署测试 总结 概述 源码地址 torch版本 训练环境没有按照torch的readme一样的环境，自己部署环境为： torch==1.9.1 torchvision==0.10.1 p »

1.Pytorch中tensor的生成与访问 可以使用arange()创建一个张量：如，torch.arange(12)创建0开始的前12个整数： 除非特殊指定，否则新的张量将存放在内存中，并采用CPU计算。 可以使用reshape()来改变张量的形状： 注意，reshape()的发起者是一个张量， ... »

Vanilla Transformer 注意力提示 ​ 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 ​ 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ... »

目录 模型的保存与复用 模型定义和参数打印 模型保存 模型推理 模型再训练 模型迁移 参考文献 本文整理了Pytorch框架下模型的保存、复用、推理、再训练和迁移等实现。 模型的保存与复用 模型定义和参数打印 # 定义模型结构 class LenNet(nn.Module): »

目录 Unfold()与Fold()的用途 nn.Unfold() Unfold()与Fold() 变化模式图解 nn.Fold() 单通道 滑动窗口无重叠 模拟图片数据（b,3,9,9），通道数 C 为3，滑动窗口无重叠。 单通道 滑动窗口有重叠。 卷积等价于：Unfold + Matrix »

目录 准备 加载预训练的 PyTorch 模型​ 加载测试图像​ 将计算图导入 Relay​ Relay 构建​ 在 TVM 上执行可移植计算图​ 查找分类集名称​ 准备 本篇文章译自英文文档 Compile PyTorch Models。 作者是 Alex Wong。 更多 TVM »

目录 开发环境 1 加载相关第三方库 2 加载数据集 3 确定超参数的值 5 演示原始数据分布加噪100步后的效果 6 编写拟合逆扩散过程高斯分布的模型 7 编写训练的误差函数 8 编写逆扩散采样函数（inference过程） 9 开始训练模型，并打印loss及中间重构效果 10 动画演示扩散过程 »

目录 正文 图构建 Sampler方法 GraphSAGE模型定义 模型训练与测试 总结 正文 GraphSAGE是一种用于图神经网络中的节点嵌入学习方法。它通过聚合节点邻居的信息来生成节点的低维表示，使节点表示能够更好地应用于各种下游任务，如节点分类、链路预测等。 图构建 在使用G »

目录 反向传播 手动完成线性回归 pytorch API完成线性回归 优化器类 实现 反向传播 这里说一下我的理解，反向传播是相对于前向计算的，以公式J（a,b,c）=3(a+bc)为例，前向计算相当于向右计算J（a,b,c）的值，反向传播相当于反过来通过y求变量a，b，c的导数，如下 »

pytorch在有限的资源下部署大语言模型（以ChatGLM-6B为例） Part1知识准备 在PyTorch中加载预训练的模型时，通常的工作流程是这样的： my_model = ModelClass(...)state_dict =torch.load(checkpoint_file) 用简单的话 ... »

目录 构建网络 训练模型 构建网络 ResNet由一系列堆叠的残差块组成，其主要作用是通过无限制地增加网络深度，从而使其更加强大。在建立ResNet模型之前，让我们先定义4个层，每个层由多个残差块组成。这些层的目的是降低空间尺寸，同时增加通道数量。 以ResNet50为例，我们可以使用以 »