0简介

NLP系列开始更新了！！！这个系列主要会介绍一些NLP的基础概念，比如RNN、LSTM、GRU等内容，重头戏放在大语言模型的基础讲解上，其中大语言模型的分享主要由两个方面：1.基础结构(Seq2Seq，Attention，Transformer，Bert，GTP等网络结构)；2.训练微调(数据相关的)；当然也会涉及到NLP的一些常规运用，比如分类、信息的提取和生成等等

内心OS：模型基础结构上，不仅大语言模型，许多小规模模型也采用相同的结构。目前，NLP领域绝大多数成功模型均使用transformer架构。

一、自然语言概述

1. 什么是NLP？

NLP(Natural Language Processing，自然语言处理)就是让计算处理或理解自然语言，即当计算机可以理解并处理自然语言后，计算机可以执行一些对应的业务，从而实现人机交互的目的

常见应用类型：关键词提取、概要抽取、事件命名、实体识别（如价格、日期、姓名、公司、地点等）、关系抽取、分类（文本分类、情感分析、意图识别等）、机器翻译、语音转文本、图像转文本、问答系统、文本生成。

PS：当前的大语言模型本质是文本生成模型， 这类文本生成模型之所以成为大语言模型，只是由于模型包含巨大的参数量和高质量的微调数据，使得模型整体表现不错

NLP实际上有两个