|
 用于大家评估是否采用华为云mindspore的实验要求说明 |
|
|
华为云、作业、实验成绩查询 |
|
|
 加分ex6实验指导：基于Mindspore-Ascend的llama7b模型推理与微调实验 |
|
|
| 参考教材&答疑方式时间 |
 《深度学习基础》刘远超 （暂无电子版） |
|
|
 《动手深度学习》李沐https://zh.d2l.ai/ |
|
|
《动手学深度学习》的MindSpore实现 |
|
|
周志华《机器学习》 |
教材1刘远超《深度学习基础》教材2 李沐《动手深度学习》教材3周志华《机器学习》
|
|
nndl神经网络与深度学习，398页附录，大家按此复习下相关数学知识 |
|
|
PythonDataScienceHandbook |
|
|
PythonDataScienceHandbook |
|
|
mindspore官方教程 |
|
|
李航《统计学习方法（第2版）》 |
|
|
赵鑫等《大语言模型》 |
|
|
| 第1讲 机器学习概述 |
 课前线上资源：1.1机器学习的引出 |
该视频主要讲述了机器学习的定义和基本流程，以及如何从简单的线性分类器演变为深度学习的分类器。视频还介绍了深度学习的定义、特点、来历、应用领域和模型框架。深度学习是机器学习的分支，是实现机器学习的一种重要技术手段，其模型结构一般是含有多个隐藏层的多层神经网络。视频强调了深度学习的基础知识的重要性，包括数据集的拆分、模型的性能评价等内容。
|
|
ex1Numpy考试题库 |
|
|
 本讲ppt |
|
|
| 第2讲 模型评估与选择 |
课前完成线上内容观看：数据集及其拆分 |
本视频主要讲述了数据集及其拆分、有监督学习、验证集、机器学习算法和特征提取、模型评估等模块的相关内容。此外，还介绍了埃德康是一个开源的p发行版本，包含了多个科学包及其依赖项，以及最简单的训练集和测试集的拆分方法及流除法的不足之处，k折交叉验证相对于流出法的优势，超参数的概念，以及如何通过网格搜索和k折交叉验证来调整超参数，以优化模型性能。
|
|
课件 |
|
|
| 第3讲 特征工程 |
课前线上资源：3.1特征工程 |
该视频主要讲述了自然语言处理的基本任务和相关工具。首先介绍了句法分析，即识别句子中各个成分之间的关系。随后介绍了常用的自然语言处理工具，如nltk和text processing API。
|
|
03课件 |
|
|
| 第4讲 分类问题1 |
翻转课堂：sklearn量纲缩放（蔡诗彬） |
|
|
 sklearn量纲缩放 |
|
|
翻转课堂：sklearn文档向量化（邓媚） |
|
|
sklearn文档向量化 |
|
|
翻转课堂：sklearn画PR曲线（黄子睿） |
|
|
 sklearn画PR曲线代码 |
|
|
档首页> AI开发平台ModelArts> 开发环境> CodeLab |
|
|
04课件 |
|
|
| 第5讲 分类问题2 |
SVM课件 |
|
|
贝叶斯课件 |
|
|
| 实验1 |
档首页> AI开发平台ModelArts> 开发环境> CodeLab |
|
|
华为云modelarts |
|
|
modelarts帮助文档 |
|
|
| 第6讲 回归问题 |
复习：课中线上资源 二次回归与线性回归的比较. |
|
|
二次回归与线性回归的比较代码 |
|
|
回归问题 |
|
|
| 第7讲 集成学习1 |
课前资源 信息熵 |
|
|
决策树课件 |
|
|
| 第8讲 集成学习2 |
翻转课堂 信息熵代码演示（庄晴慧） |
|
|
信息熵代码 |
|
|
集成学习课件 |
|
|
| 实验2 逻辑回归+xgboost |
 ex2_classification.zip |
本次ex2实验例程和数据在 “ex2_classification.zip”提供。 实验平台的搭建参考实验1。 目录： - 实验： 例程和数据
- ex2_report.docx ：实验报告
- ex2_slices.pptx： 实验要求
- codelab相关配置流程.pdf
严禁分享、抄袭代码报告，若发现严重影响抄袭双方的课程成绩 4月2日之前，将报告和代码打包，备注学号+姓名，由学委同一收集并发到助教邮箱 752649416@qq.com，或提供百度网盘链接
|
|
| 第9讲 神经网络的优化1 |
09课件1 损失函数 |
|
|
09课件2 梯度下降 学习率adagrad adam 随机梯度下降 特征缩放 |
|
|
课中 线上资源 梯度下降 |
|
|
| 第10讲 神经网络的优化2 |
10-1 复习 batch 和 动量（Momentum NAG） |
|
|
10-2 复习 自适应学习率(AdaGrad RMSProp) RMSProp+Momentum=Adam |
|
|
10-3 梯度消失和梯度爆炸BN |
|
|
10-4激活函数 dropout |
|
|
课中线上资源 批次标准化BN |
|
|
课中资源 激活函数 dropout |
|
|
| 第11讲 感知机模型与多层感知机 |
课前线上资源 感知机 |
|
|
课中资源 正向反向传播代码示例 |
|
|
翻转课堂 mindspore自动微分代码演示（张祎婧） |
https://www.mindspore.cn/tutorials/zh-CN/r1.10/beginner/autograd.html
|
|
mindspore自动微分 代码 |
|
|
mindspore 训练DNN分类网络代码示例 |
|
|
11 课件 DNN BP |
|
|
| 实验3 DNN+CNN |
ex3dnn&cnn |
|
|
参考资料 mindspore图像数据加载与增强 |
|
|
参考资料 sklearn TSNE用法 |
|
|
| 第12讲 卷积神经网络 |
翻转课堂 lenet5 mindspore代码演示 （黄子睿） |
|
|
mindspore lenet代码 |
|
|
课前资源 卷积与卷积神经网络 |
|
|
课件12-1 卷积和池化 |
|
|
课件12-2 LeNet AlexNet VGG NiN |
|
|
| 第13讲 卷积神经网络计算机视觉应用 |
RNN Seq2Seq 示例代码 |
|
|
课件13-1 Inception ResNet |
|
|
13-2 目标检测 |
|
|
翻转课堂 mindspore yoloV3 代码演示（邓媚、陈钰琳） |
|
|
mindspore yoloV3 代码 |
|
|
| 第14讲 循环神经网络 |
翻转课堂 RNN实现情感分类（李谕锋） |
|
|
课前资源 循环神经网络 |
|
|
课件14 RNN |
|
|
| 第15讲 无监督学习:降维，深度学习可视化 |
课前线上资源：降维方法小结和理解：PCA、LDA、MDS、ISOMAP、SNE、T-SNE、AutoEncoder |
|
|
课中资源 CNN explainer |
|
|
课中资源 卷积可视化ZFnet |
|
|
15-1 课件PCA Kmeans |
|
|
15-2课件 LLE T-SNE |
|
|
| 第16讲 现代循环神经网络 |
课前线上资源 词嵌入 |
|
|
 课件16-1 现代循环神经网络 |
|
|
课件16-2 编码器解码器架构 |
|
|
课件 16-3 词嵌入 |
|
|
图解词嵌入king - man + woman is queen; but why? |
|
|
| 第17讲 注意力机制 |
课件17-1 注意力机制概述 |
|
|
课件17-2 自注意力 |
|
|
图解神经机器翻译模型（带有注意力机制的 Seq2seq 模型） |
|
|
| 第18讲 Transformer |
课件18-1 Transformer概述 |
|
|
课件18-2 Transformer |
|
|
图解Transformer |
|
|
| 实验 4 RNN |
代码文件 |
|
|
实验要求 |
|
|
| 第19讲 ViT 及注意力机制改进 |
反转课堂mindspore Vision Transformer图像分类 代码示例（丘锐）） |
|
|
课件19-1 vision transformer |
|
|
课件19 注意力机制改进 |
|
|
| 第20讲 预训练模型 |
使用BERT网络实现智能写诗 |
|
|
图解GPT2 |
|
|
课件20 预训练模型 |
|
|
绿联翻页笔程序 |
|
|
| 实验5 Transformer |
代码要求 |
|
|
实验要求 |
|
|
| 第21讲 生成式网络模型1 |
课前线上资料 VAE |
|
|
课件21-1 自编码器 |
|
|
课件 21-2 VAE GAN |
|
|
mindspore DCGAN代码示例 生成漫画头像 |
|
|
mindspore.nn.Conv2dTranspose |
|
|
| 第22讲 生成式网络模型2 |
mindspore Diffusion代码示例 扩散模型 |
|
|
课件22-1 Diffusion Model |
|
|
课件22-2 Stable Diffusion |
|
|
线上资源 Stable Diffusion |
|
|
| 第23讲 LLM RAG项目汇报 |
加分ex6《机器学习》智能助教实验组队及实验说明 |
|
|
参考资料 LangChain文档 |
|
|
基于LangChain+ChatGLM3的本地知识库P100 chatglam3 6b |
|
|
基于LangChain+ChatGLM3实现本地知识库问答，有Gradio界面。 |
https://github.com/STRUGGLE1999/LangChain-ChatGLM3/blob/main/README.md
https://blog.csdn.net/qq_45257495/article/details/135356487
|
|
原始chatglm3 6b webUI 非rag |
|
|
提供web服务的方式Gradio入门到进阶全网最详细教程[二]：快速搭建AI算法可视化部署演示 |
|
|
昇思MindSpore技术公开课大模型专题第二期 |
|
|
mindspore ChatGLM2 微调示例 |
|
|
langchain + mindspore |
|
|
langchain中的提示工程 |
|
|
本学期维护同学 chatglm notebook |
|
|
大模型基础 |
|
