实践课程
深度学习全景进阶：深度学习进阶与前沿应用最新高级培训课程
2024年7月18日-21日【18日全天报告，陕西科技大学学术交流中心】
【三天实战学习，资料齐全，长期回放】
前言
参与要求：（注：本次培训课程为高级课程，要求学员掌握卷积神经网络、循环神经网络等基础知识，同时具备一定的编程基础，熟悉、、、、、等第三方模块库。）
近年来，随着以卷积神经网络（CNN）为代表的深度学习的迅猛发展，人工智能进入第三次发展浪潮，AI技术在各个领域得到越来越广泛的应用。为了帮助学员更加深入地了解近3-5年来人工智能领域的新理论、新技术，爱尚培训全新推出《深度学习进阶与应用》培训课程，让你系统地掌握AI新理论、新方法及其代码实现。 课程采用“理论讲解+案例练习+动手实践+讨论互动”相结合的方式，讲解注意力机制的基本原理及代码实现方法、模型（BERT、GPT-1/2/3/3.5/4、DETR、ViT、Swin等）、生成模型（变分自编码器VAE、生成对抗网络GAN、扩散模型等）、目标检测算法（R-CNN、Fast R-CNN、R-CNN、YOLO、SDD等）、图神经网络（GCN、GAT、GIN等）、强化学习（Q-、DQN等）、深度学习模型可解释性与可视化方法（CAM、Grad-CAM、LIME、t-SNE等）。 （注：本培训课程为高级课程，要求学员掌握卷积神经网络、循环神经网络等基础知识，同时需具备一定的编程基础，熟悉、、、-、等第三方模块库）现作出以下通知：
训练方法
现场实践+线上直播+助学群助力+导师面对面实操交流（报名后加入助学群，查看见面流程）
陪同导师
1、建立导师学生交流群，长期解答疑问、分享经验，助力学习与应用；
2、课程结束后，我们会不定期举办线上答疑会，协助学习和巩固实际工作问题的沟通；
教学特色
1.深入浅出的原理讲解；
2.讲解技术和方法，并提供所有案例数据和代码；
3、结合项目案例讲解实现方法，并与实际工作应用联系起来；
4、学习计算机操作，独立完成案例操作练习，并全程跟踪、分析问题；
5.课程结束后将有专门的学习小组帮助巩固学习及交流实际工作应用，并不定期进行线上答疑；
证书和学习时间
学员可获得《深度学习技术》专业技术证书及学习时长证书，证书可在线查询。该证书可作为学习时长的证明，个人学习知识更新，单位员工专业技能素质培训，单位人才招聘的重要参考。证书查询网站：
注：办理证书需提供2寸电子照片一张及姓名、证件号码，课程开始前发送给会务组。
发票
培训费、会议费、资料费、技术咨询费均需凭加盖章的凭证由参会人员报销；
培训费
课程费用：3580元 爱尚培训会员费：会员政策参与
【优惠活动】：
1：学生凭有效学生证可享受15％的折扣。
2：转发到朋友圈推荐好课程，集齐20个赞可得100元【设为公开展示】。
课程表
课程表
课程指南
第一章
()机制详解
1.注意力机制的背景和动机（为什么需要注意力机制？注意力机制的起源与发展）。
2.注意力机制的基本原理：什么是注意力机制？注意力机制的数学表达和基本公式，利用机器翻译任务帮助你理解该机制，注意力权重如何计算？
3.注意力机制的主要类型：自注意力和多头注意力、软注意力和硬注意力、全局（）注意力和局部（）注意力
4.注意力机制的优化及变体：稀疏注意力（ ）、加权注意力（ ）
5.注意力机制的可解释性和可视化：注意力权重的可视化（权重热图）
6.案例演示 7.实践练习
第二章
模型详细信息
1.模型背景（从RNN、LSTM到机制的演进，模型背景以及在自然语言处理和计算机视觉中的重要性）
2.模型拓扑（编码器、解码器、多头自注意力机制、前馈神经网络、层归一化和残差连接等）
2.模型是如何运作的（为什么模型需要位置信息？位置编码是如何计算的？模型的损失函数是什么？）
3.自然语言处理（NLP）领域的模型：BERT、GPT-1/GPT-2/GPT-3/GPT-3.5/GPT-4（模型的整体架构、输入输出形式、预训练目标、预训练数据的选择和处理、词嵌入方法、GPT系列模型的改进和演进等）。
4. 计算机视觉领域（CV）的模型：DETR / ViT / Swin （DERT：基于双向匹配损失的检测头设计；ViT：图像如何分割成固定大小？如何将图像线性嵌入到向量中？其在图像处理中的作用是什么？Swin：带窗口的自注意力机制，分层结构，如何利用位移窗口实现长程依赖？）
5.案例演示 6.实践练习
第三章
生成模型详解
1.变分自编码器VAE（自编码器的基本结构及工作原理，变分推理的基本概念及其与传统贝叶斯推理的区别，VAE的编码器和解码器结构及工作原理）。
2. 生成对抗网络（GAN）（GAN的背景和动机，GAN的拓扑结构和工作原理，生成器和鉴别器的作用，GAN的目标函数）。
3.扩散模型（扩散模型的核心概念？如何用随机过程模拟数据生成？扩散模型如何工作）。
4.跨模态图像生成DALL.E（什么是跨模态学习？DALL.E模型的基本架构和模型训练流程）。
5.案例演示 6.实践练习
第四回
目标检测算法详解
1、目标检测任务与图像分类与识别任务的区别和联系。
2.两阶段目标检测算法：R-CNN，Fast R-CNN，R-CNN（RCNN的工作原理，Fast R-CNN和R-CNN的改进）。
3.One-目标检测算法：YOLO模型、SDD模型（拓扑结构及工作原理）。
4.案例演示 5.实践练习
第五章
图神经网络解释
1.图神经网络的背景和基础知识（什么是图神经网络？图神经网络的发展历史？为什么需要图神经网络？）
2.图的基本概念及表示（图的基本构成：节点、边、属性；图的表示方法：邻接矩阵；图的类型：无向图、有向图、加权图）。
3. 图神经网络的工作原理（节点嵌入和特征传播、聚合邻居信息的方法以及图神经网络的层次结构）。
4.图卷积网络（GCN）的工作原理。
5. 图神经网络的变体和扩展：图注意力网络（GAT）、图同构网络（GIN）、图自编码器、图生成网络。
6.案例演示 7.实践练习
第六章
强化学习详解
1.强化学习的基本概念和背景（什么是强化学习？强化学习与其他机器学习方法有什么区别？强化学习的应用领域有哪些？
2.Q-（马尔可夫决策过程，Q-的核心概念，什么是Q-函数？Q-的基本更新规则）。
3.深度Q网络（DQN）（为什么传统的Q-在高维或连续状态空间中不再起作用？如何使用神经网络代替Q表来估计Q值？目标网络的作用以及如何提高DQN的稳定性？）
4.案例演示 5.实践练习
第七章
物理信息神经网络
（PINN）
1. 物理信息神经网络背景（物理信息神经网络（PIN）的概念及其在科学计算中的重要性，传统数值模拟方法与PIN的比较）
2. PINN工作原理：物理定律和方程的数学表达，如何将物理定律嵌入到神经网络模型中？PINN架构（输入层、隐藏层、输出层的设计），物理约束的形式化（如何将边界条件等物理知识融入网络？）损失函数的设计（数据驱动和物理驱动的损失项）
3.常用PINN库和框架介绍
4.案例演示 5.实践练习
第八章
神经架构搜索（ ，NAS）
1. NAS的背景与动机（传统的神经网络设计依赖于经验和直觉，耗费大量时间且可能无法达到最优效果。通过自动搜索，可以发现传统方法难以设计的创新高效的架构。）
2. NAS的基本流程：搜索空间定义（确定需要搜索的网络架构要素，如层数、层类型、激活函数等）、搜索策略（随机搜索、贝叶斯优化、进化算法、强化学习等）、性能评估
3. NAS的关键技术：进化算法（通过模拟突变、交叉、选择等生物进化过程，迭代改进网络架构）、强化学习（利用策略网络生成架构，并通过奖励信号优化策略网络）、贝叶斯优化（利用贝叶斯方法对搜索空间进行高效的全局搜索，平衡探索和利用）
4.案例演示 5.实践练习
第九章
深度学习模型可解释性和可视化方法详解
1. 什么是模型可解释性？为什么我们需要解释深度学习模型？
2.可视化方法有哪些（特征图可视化、卷积核可视化、类别激活可视化等）？
3. 解释类激活映射CAM（）、梯度类激活映射GRAD-CAM、局部可解释模型敏感的LIME（-）等方法的原理。
4. t-SNE的基本概念及其在深度学习模型高维特征可视化中的应用。
5.案例演示 6.实践练习
第十章
讨论与问答
1.分享和复制相关学习材料（书籍推荐、在线课程推荐等）
2. 建立微信群，方便后续讨论和问答
注：请您准备好自己的计算机并提前安装好所需的软件。
登记方式
详细报名程序请与课程主任联系
宋鹏：（微电子）
QQ咨询:
添加客服微信宋：接收详细培训通知
点击课程标题链接查看内容
NO1：平台逐步建立了完整的教学方案，深度促进了跨学科科研技术的融合，成为众多科研团体和个人提升实践技术的首选内容。
NO2：为了取得更好的发展，爱尚培训邀请了30多位专家学者作为顾问，为爱尚培训平台的长远发展提供宝贵的建议和工作指导。
NO3：爱尚培训独创云导师授课模式，最大限度促进专业问答、跨学科交流，建立300多个云导师社区，不仅让你学习，更将专业导师带到你身边。
NO4：爱尚研究设立长期免费学术讲座：围绕基础原理、前沿热点技术、文本解读、实践技巧、成果推广等主题，每月约4场。已完成200多场，可在平台免费观看往期讲座。
NO5：为了深度满足用户需求，我们依托专家团队，在技术咨询服务、数据处理合作、软件开发、构建高性能计算平台等领域进行合作。
云导师【点亮科研与实践，您的陪伴导师平台】
会员特权
如何成为会员：
1、凡参加爱尚培训付费课程者，均可成为会员；
2、充值3500元即可成为会员（费用直接使用）。
会员特权：
1. 参与直播及视频课程累计优惠，15%-25%
（一级会员优惠15%、高级会员优惠20%、尊享会员优惠25%）；
2、参与课程组织及报名，推荐人可获得课程推荐现金5%；
3、免费享用爱尚培训会议平台“会员免费”视频教程；
4、长期免费参加各领域简单实用的公开课程（无门槛）；
5.免费参与导师线上面对面答疑；
6、爱尚培训资源站共享的资料可以免费下载。
【报名方式】
宋鹏：（微信）