迁移学习：互信息的变分上下界
在机器学习，尤其是涉及异构数据的迁移学习/联邦学习中，我们常常会涉及互信息相关的优化项，我上半年的第一份工作也是致力于此。其思想虽然简单，但其具体的估计与优化手段而言却大有门道，我们今天来好好总结一下，也算是对我研一下学期一个收尾。为了解决互信息估计的的难解性，我们的方法是不直接对互信息进行估计，而... ... »
创建Anaconda虚拟Python环境的方法
本文介绍在Anaconda环境下，创建、使用与删除Python虚拟环境的方法。 在Python的使用过程中，我们常常由于不同Python版本以及不同第三方库版本的支持情况与相互之间的冲突情况，而需要创建不同的Python虚拟环境；在Anaconda的帮助下，这一步骤就变得十分方便。 首先，我们需要打 ... »
机器学习之分类
分类任务和回归任务的不同之处在于，分类任务需要做出离散的预测。对于多分类任务的神经网络模型，其输出目标通常会用**one-hot**编码来表示，在输出层中使用**softmax**函数，同时使用分类交叉熵损失函数进行训练。在本博客中，我们将使用**TensorFlow**的底层API实现一个基于全连 ... »
论文精读：带有源标签自适应的半监督域适应（Semi-Supervised Domain Adaptation with Source Label Adaptation）
# Semi-Supervised Domain Adaptation with Source Label Adaptation 具有源标签适应的半监督域适应 >[原文链接](https://openaccess.thecvf.com/content/CVPR2023/papers/Yu_Semi- ... »
高基数类别特征预处理：平均数编码
本文介绍了一种对高基数类别特征非常有效的编码方式：平均数编码。详细的讲述了该种编码方式的原理，在实际工程应用中有效避免过拟合的方法，并且提供了一个直接上手的代码版本。 ... »
前馈神经网络解密：深入理解人工智能的基石
> 本文深入探讨了前馈神经网络（FNN）的核心原理、结构、训练方法和先进变体。通过Python和PyTorch的实战演示，揭示了FNN的多样化应用。 > 作者TechLead，拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师， ... »
机器学习从入门到放弃：我们究竟是怎么教会机器自主学习的？
一、前言简介 我相信你一定听过一个说法，那就是机器学习模型可以被视为函数的一种表示方式。它们通常是由多个函数组成的，这些函数通过参数连接在一起。我们让机器从数据中提取模式、规律和关联，然后使用这些信息来做出预测、分类、聚类等任务。所以从本质上来说，在机器学习中我们其实就是要找一个超级函数，我们已知的 ... »
循环神经网络RNN完全解析：从基础理论到PyTorch实战
>在本文中，我们深入探讨了循环神经网络（RNN）及其高级变体，包括长短时记忆网络（LSTM）、门控循环单元（GRU）和双向循环神经网络（Bi-RNN）。文章详细介绍了RNN的基本概念、工作原理和应用场景，同时提供了使用PyTorch构建、训练和评估RNN模型的完整代码指南。 > 作者 TechLea ... »
基于随机化三期临床试验数据和多模态深度学习的前列腺癌治疗方案个性化
回复我们公众号“1号程序员”的“E005”可以获取原文下载地址。[关注并回复：【E005】] 摘要 前列腺癌是男性最常见的癌症，也是导致癌症死亡的主要原因。确定患者最佳治疗方案是一项挑战，肿瘤学家必须选择最有可能成功且最不可能出现毒性的治疗方案。国际预后标准依赖于非特异性和半定量工具，通常导致过度治 ... »
线性回归基本原理和公式推导
回复我们公众号“1号程序员”的“E001”可以获取《BAT机器学习面试1000题》下载链接。[关注并回复：【E001】] 线性回归是一种监督式机器学习算法，它计算因变量与一个或多个独立特征之间的线性关系。当独立特征的数量为1时，被称为单变量线性回归；在存在多于一个特征的情况下，被称为多变量线性回归。 ... »
GAN！生成对抗网络GAN全维度介绍与实战
> 本文为生成对抗网络GAN的研究者和实践者提供全面、深入和实用的指导。通过本文的理论解释和实际操作指南，读者能够掌握GAN的核心概念，理解其工作原理，学会设计和训练自己的GAN模型，并能够对结果进行有效的分析和评估。 > 作者 TechLead，拥有10+年互联网服务架构、AI产品研发经验、团队管 ... »
头疼！卷积神经网络是什么？CNN结构、训练与优化一文全解
> 本文全面探讨了卷积神经网络CNN，深入分析了背景和重要性、定义与层次介绍、训练与优化，详细分析了其卷积层、激活函数、池化层、归一化层，最后列出其训练与优化的多项关键技术：训练集准备与增强、损失函数、优化器、学习率调整、正则化技巧与模型评估调优。旨在为人工智能学者使用卷积神经网络CNN提供全面的指 ... »
拥抱数据变革：知识引导的机器学习
机器学习(ML)在大规模数据可用的许多应用中的成功，导致了人们对科学学科中类似成就的期望越来越高。数据科学的使用在涉及尚未完全理解的过程的科学问题中尤其有希望。然而，纯粹用数据驱动的方法来建模物理过程可能会有问题。例如，它可以创建一个复杂的模型，它既不能超越训练它的数据，也不能在物理上解释它。当训练 ... »
python机器学习经典算法代码示例及思维导图（数学建模必备）
最近几天学习了机器学习经典算法，通过此次学习入门了机器学习，并将经典算法的代码实现并记录下来，方便后续查找与使用。 ... »
计算机视觉五大核心研究任务全解：分类识别、检测分割、人体分析、三维视觉、视频分析
> 本篇文章深入探讨了计算视觉的定义和主要任务。内容涵盖了图像分类与识别、物体检测与分割、人体分析、三维计算机视觉、视频理解与分析等技术，最后展示了无监督学习与自监督学习在计算机视觉中的应用。 > 作者 TechLead，拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦 ... »
解码Transformer：自注意力机制与编解码器机制详述与代码实现
> 本文全面探讨了Transformer及其衍生模型，深入分析了自注意力机制、编码器和解码器结构，并列举了其编码实现加深理解，最后列出基于Transformer的各类模型如BERT、GPT等。文章旨在深入解释Transformer的工作原理，并展示其在人工智能领域的广泛影响。 > 作者 TechLe ... »
编织人工智能：机器学习发展历史与关键技术全解析
>本文全面回顾了机器学习的发展历史，从早期的基本算法到当代的深度学习模型，再到未来的可解释AI和伦理考虑。文章深入探讨了各个时期的关键技术和理念，揭示了机器学习在不同领域的广泛应用和潜力。最后，总结部分强调了机器学习作为一种思维方式和解决问题的工具，呼吁所有参与者共同探索更智能、更可持续的未来，同时 ... »
【不要】重复自己*——如何为现代机器学习设计开源库
不要 重复自己* 如何为现代机器学习设计开源库 ## ? Transformers 设计理念 _“不要重复自己 (Don’t Repeat Yourself)”_ ，或 **DRY**，是广为人知的软件开发原则。该原则出自《程序员修炼之道: 从小工到专家》 (英文名为 The pragmatic ... »
机器学习从入门到放弃：Transfomer-现代大模型的基石
一、前言 随着 ChatGPT 的横空出世，全世界的目光都聚焦在了生成式 AI 上。本次将介绍 Transformer 的发展历史、基本原理，也是记录总结自己在学习路上的所得。 首先我想聊聊 NLP 的发展路线，这样对于后面的 transformer 可能会有更好的理解。自从计算机诞生之初，让计算机 ... »
【机器学习】神经网络
# Neural Networks > 神经网络：一种计算模型，由大量的节点(或神经元)直接相互关联而构成。每个节点(除输入节点外)代表一种特定的输出函数(或者认为是运算),称为激励函数；每两个节点的连接都代表该信号在传输中所占的比重(即认为该信号对该节点的影响程度) > > 神经网络三要素：模型、 ... »