NLP文本匹配任务Text Matching [有监督训练]：PointWise（单塔）、DSSM（双塔）、Sentence BERT（双塔）项目实践

NLP文本匹配任务Text Matching [有监督训练]：PointWise（单塔）、DSSM（双塔）、Sentence BERT（双塔）项目实践

0 背景介绍以及相关概念

本项目对3种常用的文本匹配的方法进行实现：PointWise（单塔）、DSSM（双塔）、Sentence BERT（双塔）。

文本匹配（Text Matching）是 NLP 下的一个分支，通常用于计算两个句子之间的相似程度，在推荐、推理等场景下都有着重要的作用。

举例来讲，今天我们有一堆评论数据，我们想要找到指定类别的评论数据，例如：

1. 为什么是开过的洗发水都流出来了，是用过的吗？是这样子包装的吗？
2. 喜欢折叠手机的我对这款手机情有独钟，简洁的外观设计非常符合当代年轻人的口味，给携带增添了一份愉悦。
3. 物流很快，但是到货时有的水果已经不新鲜了，坏掉了，不满意本次购物。
...

在这一堆评论中我们想找到跟「水果」相关的评论，那么第 3 条评论就应该被召回。这个问题可以被建模为文本分类对吧，通过训练一个文本分类模型也能达到同样的目的。

但，分类模型的主要问题是：分类标签是固定的。假如在训练的时候标签集合是「洗浴，电脑，水果」，今天再来一条「服饰」的评论，那么模型依旧只能在原有的标签集合里面进行推理，无论推到哪个都是错误的。因此，我们需要一个能够有一定自适应能力的模型，在加入一些新标签后不用重训模型也能很好的完成任务。

文本匹配目前比较常用的有两种结构：

  1. 单塔模型：准确率高，但计算速度慢。

  2. 双塔模型：计算速度快，准确率相对低一些。

下面我们对这两种方法分别进行介绍。

0.1 单塔模型

单塔模型顾名思义，是指在整个过程中只进行一次模型计算。这里的「塔」指的是进行「几次模型计算」，而不一定是「模型个数」，这个我们会放到双塔部分解释。在单塔模型下，我们需要把两句文本通过 [SEP] 进行拼接，将拼接好的数据喂给模型，通过 output 中的[CLS] token 做一个二分类任务。

单塔模型的 forward 部分长这样，完整源码在文末：

    def __init__(self, encoder, dropout=None):"""init func.Args:encoder (transformers.AutoModel): backbone, 默认使用 ernie 3.0dropout (float): dropout 比例"""super().__init__()self.encoder = encoderhidden_size = 768self.dropout = nn.Dropout(dropout if dropout is not None else 0.1)self.classifier = nn.Linear(768, 2)def forward(self,input_ids,token_type_ids,position_ids=None,attention_mask=None) -> torch.tensor:"""Foward 函数，输入匹配好的pair对，返回二维向量（相似/不相似）。Args:input_ids (torch.LongTensor): (batch, seq_len)token_type_ids (torch.LongTensor): (batch, seq_len)position_ids (torch.LongTensor): (batch, seq_len)attention_mask (torch.LongTensor): (batch, seq_len)Returns:torch.tensor: (batch, 2)"""pooled_embedding = self.encoder(input_ids=input_ids,token_type_ids=token_type_ids,position_ids=position_ids,attention_mask=attention_mask)["pooler_output"]                                  # (batch, hidden_size)pooled_embedding = self.dropout(pooled_embedding)   # (batch, hidden_size)logits = self.classifier(pooled_embedding)          # (batch, 2)return logits

单塔模型的优势在于准确率较高，但缺点在于：计算慢。

  • 为什么慢呢？

举例来讲，如果今天我们有三个类别「电脑、水果、洗浴」，那我们就需要将一句话跟每个类别都做一次拼接，并喂给模型去做推理：

水果[SEP]苹果不是很新鲜，不满意这次购物[SEP]
电脑[SEP]苹果不是很新鲜，不满意这次购物[SEP]
洗浴[SEP]苹果不是很新鲜，不满意这次购物[SEP]

那如果类别数目到达成百上千时，就需要拼接上千次，为了判断一个样本就需要过上次模型，而大模型的计算通常来讲是非常耗时的，这就导致了在类别数目很大的情况下，单塔模型的效率往往无法满足人们的需求。

0.2 双塔模型

单塔模型的劣势很明显，有多少类别就需要算多少次。但事实上，这些类别都是不会变的，唯一变的只有新的评论数据。所以我们能不能实现将这些不会变的「类别信息」「提前计算」存下来，只计算那些没有见过的「评论数据」呢？这就是双塔模型的思想。双塔模型的「双塔」含义就是：两次模型计算。即，类别特征计算一次，评论特征计算一次。

通过上图可以看到，「类别」和「评论」不再是拼接在一起喂给模型，而是单独喂给模型，并分别得到各自的 embedding 向量，再进行后续的计算。而上图中左右两个两个模型可以使用同一个模型（这种方式叫：同构模型），也可以用两个不同的模型（这种方式叫：异构模型）。因此「双塔」并不一定代表存在两个模型，而是代表需要需要进行两次模型计算。

0.2.1 DSSM（Deep Structured Semantic Models,深度结构化语义模型）

Paper Reference: https://posenhuang.github.io/papers/cikm2013_DSSM_fullversion.pdf

DSSM 是一篇比较早期的 paper，我们主要借鉴其通过 embedding 之间的余弦相似度进行召回排序的思想。我们分别将「类别」和「评论」文本过一遍模型，并得到两段文本的 embedding。将匹配的 pair 之间的余弦相似度 label 置为 1，不匹配的 pair 之间余弦相似度 label 置为 0。

Note: 余弦相似度的取值范围是 [-1, 1]，但为了方便我将 label 置为 0 并用 MSE 去训练，也能取得不错的效果。

训练数据集长这样，匹配 pair 标签为 1，不匹配为 0：

蒙牛	不错还好挺不错	0
蒙牛	我喜欢demom制造的蒙牛奶	1
衣服	裤子太差了，刚穿一次屁股就起毛了。	1
...

实现中有两个关键函数：获得句子的 embedding 函数（用于推理）、获得句子对的余弦相似度（用于训练）：

    def forward(self,input_ids: torch.tensor,token_type_ids: torch.tensor,attention_mask: torch.tensor) -> torch.tensor:"""forward 函数，输入单句子，获得单句子的embedding。Args:input_ids (torch.LongTensor): (batch, seq_len)token_type_ids (torch.LongTensor): (batch, seq_len)attention_mask (torch.LongTensor): (batch, seq_len)Returns:torch.tensor: embedding -> (batch, hidden_size)"""embedding = self.encoder(input_ids=input_ids,token_type_ids=token_type_ids,attention_mask=attention_mask)["pooler_output"]                                  # (batch, hidden_size)return embeddingdef get_similarity(self,query_input_ids: torch.tensor,query_token_type_ids: torch.tensor,query_attention_mask: torch.tensor,doc_input_ids: torch.tensor,doc_token_type_ids: torch.tensor,doc_attention_mask: torch.tensor) -> torch.tensor:"""输入query和doc的向量，返回query和doc两个向量的余弦相似度。Args:query_input_ids (torch.LongTensor): (batch, seq_len)query_token_type_ids (torch.LongTensor): (batch, seq_len)query_attention_mask (torch.LongTensor): (batch, seq_len)doc_input_ids (torch.LongTensor): (batch, seq_len)doc_token_type_ids (torch.LongTensor): (batch, seq_len)doc_attention_mask (torch.LongTensor): (batch, seq_len)Returns:torch.tensor: (batch, 1)"""query_embedding = self.encoder(input_ids=query_input_ids,token_type_ids=query_token_type_ids,attention_mask=query_attention_mask)["pooler_output"]                                 # (batch, hidden_size)query_embedding = self.dropout(query_embedding)doc_embedding = self.encoder(input_ids=doc_input_ids,token_type_ids=doc_token_type_ids,attention_mask=doc_attention_mask)["pooler_output"]                                  # (batch, hidden_size)doc_embedding = self.dropout(doc_embedding)similarity = nn.functional.cosine_similarity(query_embedding, doc_embedding)return similarity

0.2.2 Sentence Transformer

Paper Reference：https://arxiv.org/pdf/1908.10084.pdf

Sentence Transformer 也是一个双塔模型，只是在训练时不直接对两个句子的 embedding 算余弦相似度，而是将这两个 embedding 和 embedding 之间的差向量进行拼接，将这三个向量拼好后喂给一个判别层做二分类任务。

原 paper 中在 inference 的时候不再使用训练架构，而是采用了余弦相似度的方法做召回。但我在实现的时候在推理部分仍然沿用了训练的模型架构，原因是想抹除结构不一致的 gap，并且训练层也只是多了一层 Linear 层，在推理的时候也不至于消耗过多的时间。Sentence Transformer 在推理时需要同时传入「当前评论信息」以及事先计算好的「所有类别 embedding」，如下：

    def forward(self,query_input_ids: torch.tensor,query_token_type_ids: torch.tensor,query_attention_mask: torch.tensor,doc_embeddings: torch.tensor,) -> torch.tensor:"""forward 函数，输入query句子和doc_embedding向量，将query句子过一遍模型得到query embedding再和doc_embedding做二分类。Args:input_ids (torch.LongTensor): (batch, seq_len)token_type_ids (torch.LongTensor): (batch, seq_len)attention_mask (torch.LongTensor): (batch, seq_len)doc_embedding (torch.LongTensor): 所有需要匹配的doc_embedding -> (batch, doc_embedding_numbers, hidden_size)Returns:torch.tensor: embedding_match_logits -> (batch, doc_embedding_numbers, 2)"""query_embedding = self.encoder(input_ids=query_input_ids,token_type_ids=query_token_type_ids,attention_mask=query_attention_mask)["last_hidden_state"]                                                  # (batch, seq_len, hidden_size)query_attention_mask = torch.unsqueeze(query_attention_mask, dim=-1)    # (batch, seq_len, 1)query_embedding = query_embedding * query_attention_mask                # (batch, seq_len, hidden_size)query_sum_embedding = torch.sum(query_embedding, dim=1)                 # (batch, hidden_size)query_sum_mask = torch.sum(query_attention_mask, dim=1)                 # (batch, 1)query_mean = query_sum_embedding / query_sum_mask                       # (batch, hidden_size)query_mean = query_mean.unsqueeze(dim=1).repeat(1, doc_embeddings.size()[1], 1)  # (batch, doc_embedding_numbers, hidden_size)sub = torch.abs(torch.subtract(query_mean, doc_embeddings))                      # (batch, doc_embedding_numbers, hidden_size)concat = torch.cat([query_mean, doc_embeddings, sub], dim=-1)                    # (batch, doc_embedding_numbers, hidden_size * 3)logits = self.classifier(concat)                                                 # (batch, doc_embedding_numbers, 2)return logits

1. 环境安装

本项目基于 pytorch + transformers 实现，运行前请安装相关依赖包：

pip install -r ../../requirements.txttorch
transformers==4.22.1
datasets==2.4.0
evaluate==0.2.2
matplotlib==3.6.0
rich==12.5.1
scikit-learn==1.1.2
requests==2.28.1

2. 数据集准备

项目中提供了一部分示例数据，我们使用「商品评论」和「商品类别」来进行文本匹配任务，数据在 data/comment_classify 。

若想使用自定义数据训练，只需要仿照示例数据构建数据集即可：

衣服：指穿在身上遮体御寒并起美化作用的物品。	为什么是开过的洗发水都流出来了、是用过的吗？是这样子包装的吗？	0
衣服：指穿在身上遮体御寒并起美化作用的物品。	开始买回来大很多 后来换了回来又小了 号码区别太不正规 建议各位谨慎	1
...

每一行用 \t 分隔符分开，第一部分部分为商品类型（text1），中间部分为商品评论（text2），最后一部分为商品评论和商品类型是否一致（label）。

3. 有监督-模型训练

3.1 PointWise（单塔）

3.1.1 模型训练

修改训练脚本 train_pointwise.sh 里的对应参数, 开启模型训练：

python train_pointwise.py \--model "nghuyong/ernie-3.0-base-zh" \  # backbone--train_path "data/comment_classify/train.txt" \    # 训练集--dev_path "data/comment_classify/dev.txt" \    #验证集--save_dir "checkpoints/comment_classify" \ # 训练模型存放地址--img_log_dir "logs/comment_classify" \ # loss曲线图保存位置--img_log_name "ERNIE-PointWise" \  # loss曲线图保存文件夹--batch_size 8 \--max_seq_len 128 \--valid_steps 50 \--logging_steps 10 \--num_train_epochs 10 \--device "cuda:0"

正确开启训练后，终端会打印以下信息：

...
global step 10, epoch: 1, loss: 0.77517, speed: 3.43 step/s
global step 20, epoch: 1, loss: 0.67356, speed: 4.15 step/s
global step 30, epoch: 1, loss: 0.53567, speed: 4.15 step/s
global step 40, epoch: 1, loss: 0.47579, speed: 4.15 step/s
global step 50, epoch: 2, loss: 0.43162, speed: 4.41 step/s
Evaluation precision: 0.88571, recall: 0.87736, F1: 0.88152
best F1 performence has been updated: 0.00000 --> 0.88152
global step 60, epoch: 2, loss: 0.40301, speed: 4.08 step/s
global step 70, epoch: 2, loss: 0.37792, speed: 4.03 step/s
global step 80, epoch: 2, loss: 0.35343, speed: 4.04 step/s
global step 90, epoch: 2, loss: 0.33623, speed: 4.23 step/s
global step 100, epoch: 3, loss: 0.31319, speed: 4.01 step/s
Evaluation precision: 0.96970, recall: 0.90566, F1: 0.93659
best F1 performence has been updated: 0.88152 --> 0.93659
...

在 logs/comment_classify 文件下将会保存训练曲线图：

3.1.2 模型推理

完成模型训练后，运行 inference_pointwise.py 以加载训练好的模型并应用：

...test_inference('手机：一种可以在较广范围内使用的便携式电话终端。',     # 第一句话'味道非常好，京东送货速度也非常快，特别满意。',        # 第二句话max_seq_len=128)
...

运行推理程序：

python inference_pointwise.py

得到以下推理结果：

tensor([[ 1.8477, -2.0484]], device='cuda:0')   # 两句话不相似(0)的概率更大

3.2 DSSM（双塔）

3.2.1 模型训练

修改训练脚本 train_dssm.sh 里的对应参数, 开启模型训练：

python train_dssm.py \--model "nghuyong/ernie-3.0-base-zh" \--train_path "data/comment_classify/train.txt" \--dev_path "data/comment_classify/dev.txt" \--save_dir "checkpoints/comment_classify/dssm" \--img_log_dir "logs/comment_classify" \--img_log_name "ERNIE-DSSM" \--batch_size 8 \--max_seq_len 256 \--valid_steps 50 \--logging_steps 10 \--num_train_epochs 10 \--device "cuda:0"

正确开启训练后，终端会打印以下信息：

...
global step 0, epoch: 1, loss: 0.62319, speed: 15.16 step/s
Evaluation precision: 0.29912, recall: 0.96226, F1: 0.45638
best F1 performence has been updated: 0.00000 --> 0.45638
global step 10, epoch: 1, loss: 0.40931, speed: 3.64 step/s
global step 20, epoch: 1, loss: 0.36969, speed: 3.69 step/s
global step 30, epoch: 1, loss: 0.33927, speed: 3.69 step/s
global step 40, epoch: 1, loss: 0.31732, speed: 3.70 step/s
global step 50, epoch: 1, loss: 0.30996, speed: 3.68 step/s
...

在 logs/comment_classify 文件下将会保存训练曲线图：

3.2.2 模型推理

和单塔模型不一样的是，双塔模型可以事先计算所有候选类别的Embedding，当新来一个句子时，只需计算新句子的Embedding，并通过余弦相似度找到最优解即可。

因此，在推理之前，我们需要提前计算所有类别的Embedding并保存。

类别Embedding计算

运行 get_embedding.py 文件以计算对应类别embedding并存放到本地：

...
text_file = 'data/comment_classify/types_desc.txt'                       # 候选文本存放地址
output_file = 'embeddings/comment_classify/dssm_type_embeddings.json'    # embedding存放地址device = 'cuda:0'                                                        # 指定GPU设备
model_type = 'dssm'                                                      # 使用DSSM还是Sentence Transformer
saved_model_path = './checkpoints/comment_classify/dssm/model_best/'     # 训练模型存放地址
tokenizer = AutoTokenizer.from_pretrained(saved_model_path) 
model = torch.load(os.path.join(saved_model_path, 'model.pt'))
model.to(device).eval()
...

其中，所有需要预先计算的内容都存放在 types_desc.txt 文件中。

文件用 \t 分隔，分别代表 类别id、类别名称、类别描述：

0	水果	指多汁且主要味觉为甜味和酸味，可食用的植物果实。
1	洗浴	洗浴用品。
2	平板	也叫便携式电脑，是一种小型、方便携带的个人电脑，以触摸屏作为基本的输入设备。
...

执行 python get_embeddings.py 命令后，会在代码中设置的embedding存放地址中找到对应的embedding文件：

{"0": {"label": "水果", "text": "水果：指多汁且主要味觉为甜味和酸味，可食用的植物果实。", "embedding": [0.3363891839981079, -0.8757723569869995, -0.4140555262565613, 0.8288457989692688, -0.8255823850631714, 0.9906797409057617, -0.9985526204109192, 0.9907819032669067, -0.9326567649841309, -0.9372553825378418, 0.11966298520565033, -0.7452883720397949,...]},"1": ...,...
}

模型推理

完成预计算后，接下来就可以开始推理了。

我们构建一条新评论：这个破笔记本卡的不要不要的，差评。

运行 python inference_dssm.py，得到下面结果：

[('平板', 0.9515482187271118),('电脑', 0.8216977119445801),('洗浴', 0.12220608443021774),('衣服', 0.1199738010764122),('手机', 0.07764233648777008),('酒店', 0.044791921973228455),('水果', -0.050112202763557434),('电器', -0.07554933428764343),('书籍', -0.08481660485267639),('蒙牛', -0.16164332628250122)
]

函数将输出（类别，余弦相似度）的二元组，并按照相似度做倒排（相似度取值范围：[-1, 1]）。

3.3 Sentence Transformer（双塔）

3.3.1 模型训练

修改训练脚本 train_sentence_transformer.sh 里的对应参数, 开启模型训练：

python train_sentence_transformer.py \--model "nghuyong/ernie-3.0-base-zh" \--train_path "data/comment_classify/train.txt" \--dev_path "data/comment_classify/dev.txt" \--save_dir "checkpoints/comment_classify/sentence_transformer" \--img_log_dir "logs/comment_classify" \--img_log_name "Sentence-Ernie" \--batch_size 8 \--max_seq_len 256 \--valid_steps 50 \--logging_steps 10 \--num_train_epochs 10 \--device "cuda:0"

正确开启训练后，终端会打印以下信息：

...
Evaluation precision: 0.81928, recall: 0.64151, F1: 0.71958
best F1 performence has been updated: 0.46120 --> 0.71958
global step 260, epoch: 2, loss: 0.58730, speed: 3.53 step/s
global step 270, epoch: 2, loss: 0.58171, speed: 3.55 step/s
global step 280, epoch: 2, loss: 0.57529, speed: 3.48 step/s
global step 290, epoch: 2, loss: 0.56687, speed: 3.55 step/s
global step 300, epoch: 2, loss: 0.56033, speed: 3.55 step/s
...

在 logs/comment_classify 文件下将会保存训练曲线图：

3.2.2 模型推理

Sentence Transformer 同样也是双塔模型，因此我们需要事先计算所有候选文本的embedding值。

类别Embedding计算

运行 get_embedding.py 文件以计算对应类别embedding并存放到本地：

...
text_file = 'data/comment_classify/types_desc.txt'                       # 候选文本存放地址
output_file = 'embeddings/comment_classify/sentence_transformer_type_embeddings.json'    # embedding存放地址device = 'cuda:0'                                                        # 指定GPU设备
model_type = 'sentence_transformer'                                                      # 使用DSSM还是Sentence Transformer
saved_model_path = './checkpoints/comment_classify/sentence_transformer/model_best/'     # 训练模型存放地址
tokenizer = AutoTokenizer.from_pretrained(saved_model_path) 
model = torch.load(os.path.join(saved_model_path, 'model.pt'))
model.to(device).eval()
...

其中，所有需要预先计算的内容都存放在 types_desc.txt 文件中。

文件用 \t 分隔，分别代表 类别id、类别名称、类别描述：

0	水果	指多汁且主要味觉为甜味和酸味，可食用的植物果实。
1	洗浴	洗浴用品。
2	平板	也叫便携式电脑，是一种小型、方便携带的个人电脑，以触摸屏作为基本的输入设备。
...

执行 python get_embeddings.py 命令后，会在代码中设置的embedding存放地址中找到对应的embedding文件：

{"0": {"label": "水果", "text": "水果：指多汁且主要味觉为甜味和酸味，可食用的植物果实。", "embedding": [0.32447007298469543, -1.0908259153366089, -0.14340722560882568, 0.058471400290727615, -0.33798110485076904, -0.050156619399785995, 0.041511114686727524, 0.671889066696167, 0.2313404232263565, 1.3200652599334717, -1.10829496383667, 0.4710233509540558, -0.08577515184879303, -0.41730815172195435, -0.1956728845834732, 0.05548520386219025, ...]}"1": ...,...
}

模型推理

完成预计算后，接下来就可以开始推理了。

我们构建一条新评论：这个破笔记本卡的不要不要的，差评。

运行 python inference_sentence_transformer.py，函数会输出所有类别里「匹配通过」的类别及其匹配值，得到下面结果：

Used 0.5233056545257568s.
[('平板', 1.136274814605713), ('电脑', 0.8851938247680664)
]

函数将输出（匹配通过的类别，匹配值）的二元组，并按照匹配值（越大则越匹配）做倒排。

参考链接：https://github.com/HarderThenHarder/transformers_tasks/blob/main/text_matching/supervised

github无法连接的可以在：https://download.csdn.net/download/sinat_39620217/88214437 下载

更多优质内容请关注公号：汀丶人工智能；会提供一些相关的资源和优质文章，免费获取阅读。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/89382.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

【闲侃历史】 唐朝----安史之乱那些事（1）

【闲侃历史】 唐朝----安史之乱那些事（1）

说到安史之乱，可谓是唐朝最乱的一段时期，据说唐朝当时也就5000多万人，而经历了这一战，人口只剩1000多万人了。著名的杨国忠和杨贵妃也是在这个时候死的。这个系列我们就先来侃侃发起安史之乱的两个人----安禄山和史思明 一. 安禄…
阅读更多...
Django的简介安装与配置及两大设计模式

Django的简介安装与配置及两大设计模式

一.Djang的介绍 1.Django是什么 Django 是使用 Python 语言开发的一款免费而且开源的 Web 应用框架。 由于 Python 语言的跨平台性，所以 Django 同样支持 Windows、Linux 和 Mac 系统。 在 Python 语言炽手可热的当下，Django 也迅速的崛起，在…
阅读更多...
LeetCode150道面试经典题-- 有效的字母异位词(简单)

LeetCode150道面试经典题-- 有效的字母异位词(简单)

1.题目 给定两个字符串 s 和 t ，编写一个函数来判断 t 是否是 s 的字母异位词。 注意：若 s 和 t 中每个字符出现的次数都相同，则称 s 和 t 互为字母异位词。 2.示例 s"adasd" t"daads" 返回true s"addad" t &q…
阅读更多...
最小生成树（Kruskal）克鲁斯卡尔算法

最小生成树（Kruskal）克鲁斯卡尔算法

算法步骤总共分为两步，由并查集实现 第一步（把所有的边按边长的大小进行排序） 第二步（如果两个点不连通就把两点之间的边加上再把两个点连通） 当放入的边数为点数减去一时就代表已经全部连通 例题一（859. …
阅读更多...
[Mongodb 5.0]聚合操作

[Mongodb 5.0]聚合操作

本文对应Aggregation Operations — MongoDB Manual 正文 此章节主要介绍了Aggregation Pipeline，其实就是将若干个聚合操作放在管道中进行执行，每一个聚合操作的结果作为下一个聚合操作的输入，每个聚合指令被称为一个stage。 在正式开始学…
阅读更多...
电压放大器和电荷放大器区别是什么意思

电压放大器和电荷放大器区别是什么意思

电压放大器和电荷放大器是两种常见的信号放大器。它们的区别主要在于其输入端口所呈现的电路特性不同。 电压放大器的介绍 电压放大器是一种将输入信号的电压增益放大的电路元件，其输入端口呈现高阻抗特性。即在输入端口上，电压放大器所对应的电路模型中…
阅读更多...
探索数据之美：初步学习 Python 柱状图绘制

探索数据之美：初步学习 Python 柱状图绘制

文章目录 一 基础柱状图1.1 创建简单柱状图1.2 反转x和y轴1.3 数值标签在右侧1.4 演示结果 二 基础时间线柱状图2.1 创建时间线2.2 时间线主题设置取值表2.3 演示结果 三 GDP动态柱状图绘制3.1 需求分析3.2 数据文件内容3.3 列表排序方法3.4 参考代码3.5 运行结果 一 基础柱状图…
阅读更多...
【Android】MVC，MVP，MVVM三种架构模式的区别

【Android】MVC，MVP，MVVM三种架构模式的区别

MVC 传统的代码架构模式，仅仅是对代码进行了分层，其中的C代表Controller，控制的意思 将代码划分为数据层，视图层，控制层，三层之间可以任意交互 MVP MVP是在MVC基础上改进而来的一种架构，其中的…
阅读更多...
微信开发之一键退出群聊的技术实现

微信开发之一键退出群聊的技术实现

简要描述： 退出群聊 请求URL： http://域名地址/quitChatRoom 请求方式： POST 请求头Headers： Content-Type：application/jsonAuthorization：login接口返回 参数： 参数名必选类型说明wI…
阅读更多...
0基础学C#笔记09：希尔排序法

0基础学C#笔记09：希尔排序法

文章目录 前言一、希尔排序的思想二、使用步骤总结 前言 希尔排序可以说是插入排序的一种变种。无论是插入排序还是冒泡排序，如果数组的最大值刚好是在第一位，要将它挪到正确的位置就需要 n - 1 次移动。也就是说，原数组的一个元素如果距离它…
阅读更多...
React源码解析18（3）------ beginWork的工作流程【mount】

React源码解析18（3）------ beginWork的工作流程【mount】

摘要 OK，经过上一篇文章。我们调用了： const root document.querySelector(#root); ReactDOM.createRoot(root)生成了FilberRootNode和HostRootFilber。 并且二者之间的对应关系也已经确定。 而下一步我们就需要调用render方法来讲react元素挂载在ro…
阅读更多...
gitee分支合并

gitee分支合并

合并dev分支到master（合并到主分支） git checkout master git merge dev //这里的dev表示你的分支名称 git push //推送到远程仓库 效果如下图 不报错就表示推送成功了，希望能帮助各位小伙伴
阅读更多...
设计模式之七：适配器模式与外观模式

设计模式之七：适配器模式与外观模式

面向对象适配器将一个接口转换成另一个接口，以符合客户的期望。 // 用火鸡来冒充一下鸭子class Duck { public:virtual void quack() 0;virtual void fly() 0; };class Turkey { public:virtual void gobble() 0;virtual void fly() 0; };class TurkeyAdapter :…
阅读更多...
SpringBean的生命周期和循环依赖

SpringBean的生命周期和循环依赖

Spring循环依赖 前言 大制作来啦，spring源码篇，很早之前我就想写一系列spring源码篇了，正好最近总是下雨，不想出门，那就让我来带大家走进Spring源码世界吧。 阅读建议 spring源码读起来有点难度，需要多Deb…
阅读更多...
学习笔记-JVM-工具包(JVM分析工具)

学习笔记-JVM-工具包(JVM分析工具)

常用工具 JDK工具 ① jps: JVM Process status tool：JVM进程状态工具，查看进程基本信息 ② jstat: JVM statistics monitoring tool ： JVM统计监控工具，查看堆，GC详细信息 ③ jinfo：Java Configuration I…
阅读更多...
Mysql 和Oracle的区别

Mysql 和Oracle的区别

、mysql与oracle都是关系型数据库，Oracle是大型数据库，而MySQL是中小型数据库。但是MySQL是开源的，但是Oracle是收费的，而且比较贵。 1 2 mysql默认端口：3306，默认用户：root oracle默认端口&…
阅读更多...
Observability：识别生成式 AI 搜索体验中的慢速查询

Observability：识别生成式 AI 搜索体验中的慢速查询

作者：Philipp Kahr Elasticsearch Service 用户的重要注意事项：目前，本文中描述的 Kibana 设置更改仅限于 Cloud 控制台，如果没有我们支持团队的手动干预，则无法进行配置。 我们的工程团队正在努力消除对这些设置的限制…
阅读更多...
学会智慧工地有多爽？能省时间又高效？

学会智慧工地有多爽？能省时间又高效？

当今社会，科技的迅速发展正在深刻地改变着各行各业，建筑领域也不例外。在这一背景下，"智慧工地"这一概念应运而生，它代表了将创新技术和数字化解决方案引入建筑工地，以提升效率、安全性和可持续性的愿景。 智…
阅读更多...
阿里云Alibaba Cloud Linux镜像系统介绍_常见问题解答FAQ

阿里云Alibaba Cloud Linux镜像系统介绍_常见问题解答FAQ

阿里云服务器操作系统Alibaba Cloud Linux镜像怎么样？可以代替CentOS吗？Alibaba Cloud Linux兼容性如何？有人维护吗？漏洞可以修复吗？Alibaba Cloud Linux完全兼容CentOS，并由阿里云官方免费提供长期维护。 …
阅读更多...
LinuxC编程——进程

LinuxC编程——进程

目录 一、概念1.1 程序1.2 进程 二、特点⭐⭐⭐三、进程段四、进程分类五、进程状态六、进程状态转换图七、函数接口1. 创建子进程2. 回收进程资源3. 退出进程4. 获取进程号 八、守护进程 一、概念 进程和程序是密不可分的两组概念，相对比，便于理解。 1.…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023