大模型算法实战专家—周红伟老师

法国科学院数据算法博士/曾任阿里巴巴人工智能专家/曾任马上消费企业风控负责人

课程背景

随着人工智能技术的快速发展，智能助手（如DeepSeek-R1）在多模态理解、个性化交互、知识推理等领域的应用日益广泛。DeepSeek-R1作为深度求索公司推出的第三代智能助手，凭借其先进的核心技术（如大规模预训练、多模态理解、上下文感知等），在智能客服、内容创作、教育、医疗等领域展现了强大的潜力。

然而，要将DeepSeek-R1的能力充分发挥并应用于实际业务场景，不仅需要深入理解其核心技术原理，还需要掌握本地部署和微调的方法，以满足特定领域或企业的定制化需求。为此，本课程旨在帮助学员系统学习DeepSeek-R1的核心技术原理，并通过实操掌握本地部署和微调的技能，从而提升在实际项目中的应用能力。

课程收益

1. 深刻理解DeepSeek-R1的核心技术原理

• 掌握DeepSeek-R1的架构设计、多模态理解、上下文感知、知识图谱等核心技术。
• 掌握大规模预训练模型（如Transformer）的工作原理及其在DeepSeek-R1中的应用。

2. 掌握DeepSeek-R1的本地部署方法

• 学习如何搭建适合DeepSeek-R1运行的本地环境（包括硬件配置、依赖库安装等）。
• 掌握DeepSeek-R1的本地部署流程，包括模型加载、服务启动和接口调用。
• 掌握如何优化部署性能，以支持高并发和低延迟的应用场景。

3. 学会DeepSeek-R1的微调与定制化

• 掌握如何利用领域数据对DeepSeek-R1进行微调，以提升其在特定任务中的表现。
• 学习微调过程中的关键技术，包括数据预处理、模型训练、参数调优等。

4. 提升实际项目中的应用能力

• 通过实战案例，学习如何将DeepSeek-R1应用于智能客服、内容生成、知识问答等场景。

授课形式

理论讲解+案例实操+代码实战+课堂练习+实战演练+小组研讨+互动答疑

课程时间

2天

课程大纲

第一部分：DeepSeek的API的应用实践

1. 大模型的技术原理

1. 1. 大语言模型概述
   2. 大模型的技术发展历程
   3. 大模型的应用场景
   4. 大模型的Attention机制原理
   5. 大模型的核心技术原理：Transformer架构
   6. LLM技术架构原理
      1. 模型架构：详细讲解LLM的模型架构
      2. 大模型的输入处理
      3. LLM的嵌入层
      4. LLM的SoftMax层
      5. LLM的输出层
   7. LLM训练过程
      1. 大模型的训练LLM的过程
      2. 大模型数据标注
      3. 模型训练
      4. 模型优化算法
      5. 大模型的性能评估指标和方法

案例分析：分析LLM在实际应用中的典型案例，语义问答、文本生成，实体词提取等。

2. DeepSeek大模型的Prompt Tuning & Fine Tuning

1. 1. Prompt Tuning技术原理
   2. 提示微调的应用框架
   3. 提示微调的应用方法
   4. 提示微调与传统训练方法的区别
   5. 提示微调的应用场景
   6. 案例实践：提示微调的案例实践

1. 1. Fine Tuning技术原理
   2. Fine Tuning原理和适用场景
   3. Fine Tuning的流程与步骤
   4. Fine Tuning数据标注
   5. Fine Tuning模型训练
   6. Fine Tuning参数优化
   7. 案例实践：利用Fine Tuning的案例实操，如客户评级分析、评价分类

3. DeepSeek API的使用

1. 1. DeepSeek API技术开发
   2. DeepSeek API开发调用的两种方法
   3. DeepSeek API调用的代码开发
   4. DeepSeek API动态权限接口开发的配置
   5. DeepSeek API调用的内容模板化
   6. API请求与响应
      1. 案例实操基本请求
      2. 代码编写：基本的API请求参数设置
      3. 响应解析：讲解如何解析API响应
   7. API集成

3.7. 代码集成

3.8 案例实践：应用程序通过API调用的业务应用

4. 实践：微调自己的DeepSeek，实现敏感问题审查

1. 1. 数据准备
      1. 数据收集
      2. 敏感问题定义：敏感问题的定义
   2. 微调过程
      1. 配置微调环境：依赖包的配置
      2. 案例实操：微调的具体操作
   3. 微调的效果评估：评估微调后的DeepSeek在敏感问题审查中表现

第二部分：大语言模型LLM的本地部署

1. Hugging Face & Model Scope

1. 1. Hugging Face平台应用
   2. Hugging Face平台主要产品
   3. Model Scope平台介绍：数据集、模型库、模型评估
   4. 模型选择与下载
   5. 模型浏览：模型选择：模型使用场景和性能指标
   6. 案例实操：模型下载，代码示例下载过程

2. 文本信息提取

1. 1. 信息提取方法和应用场景
   2. 文本信息提取方法
   3. 文本提取案例：实体识别、关系抽取
   4. 网络知识图谱

1. 1. 文本信息提取实践操作
   2. 传统文本抽取工具与库
   3. 大模型的文本抽取方法和案例实操

3. 词模型与词嵌入（Tokenizer）

1. 1. Tokenizer原理
   2. 词向量化的技术方法
   3. Embedding的技术原理
   4. Tokenizer类型和对比：WordPiece、BPE和SentencePiece

1. 1. Tokenizer实现
   2. Tokenizer应用案例
   3. 词嵌入构建

4. Hugging Face API

1. 1.  Hugging Face API应用
   2. 功能与用途：模型调用和数据处理
   3. API调用代码编程
   4. API调用请求示例
   5. API调用错误处理

5. DeepSeek-R1-Distill-Qwen-7B应用

1. 1. DeepSeek-R1-Distill-Qwen-7B模型
   2. DeepSeek-R1-Distill-Qwen-7B应用场景
   3. DeepSeek-R1-Distill-Qwen-7B技术细节
   4. DeepSeek-R1-Distill-Qwen-7B架构与机制
   5. DeepSeek-R1-Distill-Qwen-7B性能评估

6. 案例实践：基于Hugging Face API快速部署模型

1. 1. 环境准备
   2. 环境配置：依赖包配置
   3. 工具安装

1. 1. 模型部署
   2. 部署步骤：详细描述模型部署的步骤，包括模型加载、接口设置、测试验证
   3. 案例实操：本地部署代码实操，提供实际操作示例，展示如何将模型部署到生产环境，包括常见问题及解决方案。

第三部分 大语言模型LLM的本地微调

1. Full Fine Tuning技术详解

1. 1. Full Fine Tuning：全微调的适用场景
   2. 技术原理
   3. 微调流程
   4. 数据准备
   5. 训练过程
   6. 评估与优化

2. 微调框架PEFT

1. 1. PEFT框架介绍
   2. PEFT技术优势
   3. PEFT实践操作
   4. PEFT框架使用
   5. 案例分析：分析PEFT框架在实际应用中的案例

3. Prompt Tuning, P-Tuning, Prefix-Tuning

1. 1. Prompt Tuning的定义与方法
   2. Prompt Tuning的实施步骤: 包括Prompt设计框架、优化方法
   3. P-Tuning概述与原理
   4. P-Tuning应用案例

1. 1. Prefix-Tuning概述与原理
   2. Prefix-Tuning技术细节

4. LoRA微调技术原理和实操

1. 1. LoRA概述
   2. LoRA定义与背景
   3. LoRA技术原理：讲解LoRA的技术原理：低秩矩阵分解、参数高效微调

1. 1. LoRA实践操作
   2. 案例实操：通过LoRA微调，包括代码示例、配置步骤
   3. 效果评估

5. 实践：微调DeepSeek-R1-Distill-Qwen-7B

1. 1. 数据准备
   2. 数据收集：数据格式
   3. 数据处理：数据校准

1. 1. 微调操作
   2. 微调配置环境：介绍微调环境的配置、工具和依赖包
   3. 执行微调：微调DeepSeek-R1的操作步骤，包括训练过程、参数设置、结果验证
   4. 效果评估：评估微调后的DeepSeek-R1模型，包括测试用例、性能分析

第四部分LangChain、Agent和RAG知识增强检索应用

1. 大语言模型的能力增强

1. 1. 增强概述
   2. LLM能力增强的方法
   3. LangChain实践应用
   4. LangChain应用场景
   5. LangChain技术实现

2. LangChain的核心模块

1. 1. 核心模块介绍
   2. 模块概述
   3. 技术实现

1. 1. LangChain案例实操
   2. LangChain模块配置
   3. 应用案例：提供实际案例，LangChain核心模块的应用效果

3. 数据连接封装与记忆封装

1. 1. 数据连接封装
   2. 数据连接封装实现方法
   3. 记忆封装
   4. 记忆封装技术实现

4. 链架构

1. 1. 链架构概述
   2. 链架构定义与结构
   3. 链架构实践操作
      1. 构建链：演示如何构建链架构，包括设计步骤、代码示例
      2. 案例分析

5. 数据处理流

5.1 数据处理流概述

5.2 数据处理流实践操作

5.3 构建数据流

6. Agent与外挂知识库

1. 1. Agent的应用
   2. 设计与实现：讲解Agent的设计与实现，包括代码示例、操作步骤
   3. 外挂知识库RAG应用
   4. 概述与应用
   5. 实现方法

7. LangChain与Agent应用实践

1. 1. 实践任务
      1. 综合案例：综合案例，展示LangChain与Agent的实际应用
      2. 解决方案设计
   2. 结果展示与反馈

专利和文献：

深度学习国际发明专利

1) 基于深度学习的图像检索方法及装置，专利公开公告号：CN107368614A。专利类型：发明公布。发明人：周红伟;李凯;任伟;李庆;郭奇杰;周杨;刘川郁

2) Simulation model and droplet ejection performance of a thermal-bubble microejector，Hongwei Zhou，A.M.Gué，Sensors and Actuators B: Chemical Volume 145，Issue 1，4 March 2010，Pages 311-319

3)Simulation Bubble Nucleation and Bubble Growth of a Thermal Bubble Microejector,Hongwei Zhou，A.M.Gué，Excerpt from the Proceedings of the COMSOL Conference 2009 Mila

图 深度学习国际发明专利