大数据-172 Elasticsearch 索引操作 与 IK 分词器 自定义停用词 Nginx 服务

点一下关注吧！！！非常感谢！！持续更新！！！

目前已经更新到了：

  • Hadoop（已更完）
  • HDFS（已更完）
  • MapReduce（已更完）
  • Hive（已更完）
  • Flume（已更完）
  • Sqoop（已更完）
  • Zookeeper（已更完）
  • HBase（已更完）
  • Redis （已更完）
  • Kafka（已更完）
  • Spark（已更完）
  • Flink（已更完）
  • ClickHouse（已更完）
  • Kudu（已更完）
  • Druid（已更完）
  • Kylin（已更完）
  • Elasticsearch（正在更新…）

章节内容

上节我们完成了如下的内容：

  • ES-head 插件配置使用
  • Kibana 插件配置使用

在这里插入图片描述

索引操作

创建索引库

Elasticsearch采用Rest风格API，因此其API就是一次HTTP请求，你可以用任何工具来发起HTTP请求。
语法：

PUT /索引名称
{"settings": {"属性名": "属性值"}
}

settings：就是索引库设置，其中可以索引库的各种属性，比如分片数、副本数等。目前我们不设置，先默认即可。
示例：

PUT /wzkicu-index

执行结果如下图：
在这里插入图片描述

判断索引是否存在

单个索引

语法：

GET /索引名称

示例：

GET /wzkicu-index

执行结果如下图所示：
在这里插入图片描述

多个索引

语法：

GET /索引名称1,2,3,4,5...

示例：

GET /wzkicu-index,wzkicu,wzk

执行结果如下图所示：（这里有不存在的索引，所以404了）
在这里插入图片描述

所有索引

方式1：

GET _all

执行结果如下图所示：
在这里插入图片描述
方式2：

GET /_cat/indices?v

执行结果如下图所示：
在这里插入图片描述
这里的health列，表示：

  • 绿色：索引的所有分片都正常分配
  • 黄色：至少有一个副本没有得到正确的分配
  • 红色：至少有一个主分片没有得到正常的分配

打开索引

语法：

POST /索引名称/_open

示例：

POST /wzkicu-index/_open

执行结果如下图：
在这里插入图片描述

关闭索引

语法：

POST /索引名称/_close

示例：

POST /wzkicu-index/_close

执行结果如下图：
在这里插入图片描述

删除索引

语法：

DELETE /索引名称1,2,3,4,5...

示例：

DELETE /wzkicu-index

执行结果如下图所示：
在这里插入图片描述

IK分词器

下载项目

官方地址在这里，是GitHub开源的项目，安装方式很多，我这里就直接用官方的方式安装了：

https://github.com/infinilabs/analysis-ik/releases/tag/Latest

页面是这样的：
在这里插入图片描述

安装插件

cd /opt/servers/elasticsearch-7.3.0/
bin/elasticsearch-plugin install https://get.infini.cloud/elasticsearch/analysis-ik/7.3.0

执行结果如下图所示，我们需要重启ES：
在这里插入图片描述

重启ES

重启过程，启动完毕：
在这里插入图片描述

分词测试

IK分词器两种分词模式：

  • ik_max_word 模式 （最常用）（会将文本最细粒度的拆分）
  • ik_smart 模式 （会做最粗粒度的拆分）

暂时不细追究语法，先学习测试，再后续研究。

ik_max_word

POST _analyze
{"analyzer": "ik_max_word","text": "山东省青岛市黄岛区"
}

我们的到的结果是：

{"tokens": [{"token": "山东省","start_offset": 0,"end_offset": 3,"type": "CN_WORD","position": 0},{"token": "山东","start_offset": 0,"end_offset": 2,"type": "CN_WORD","position": 1},{"token": "省","start_offset": 2,"end_offset": 3,"type": "CN_CHAR","position": 2},{"token": "青岛市","start_offset": 3,"end_offset": 6,"type": "CN_WORD","position": 3},{"token": "青岛","start_offset": 3,"end_offset": 5,"type": "CN_WORD","position": 4},{"token": "市","start_offset": 5,"end_offset": 6,"type": "CN_CHAR","position": 5},{"token": "黄岛区","start_offset": 6,"end_offset": 9,"type": "CN_WORD","position": 6},{"token": "黄岛","start_offset": 6,"end_offset": 8,"type": "CN_WORD","position": 7},{"token": "区","start_offset": 8,"end_offset": 9,"type": "CN_CHAR","position": 8}]
}

执行的结果如下图所示：
在这里插入图片描述

ik_smart

POST _analyze
{"analyzer": "ik_smart","text": "山东省青岛市黄岛区"
}

执行的结果是：

{"tokens": [{"token": "山东省","start_offset": 0,"end_offset": 3,"type": "CN_WORD","position": 0},{"token": "青岛市","start_offset": 3,"end_offset": 6,"type": "CN_WORD","position": 1},{"token": "黄岛区","start_offset": 6,"end_offset": 9,"type": "CN_WORD","position": 2}]
}

执行的结果如下图所示：
在这里插入图片描述

提出问题

在实际环境中，有很多时候并不能够准确的理解我们断词断句，有时候有些词我们想要它拆分，有些词我们希望它不拆分。
那我们怎么办呢？

词典使用

扩展词

不进行分词，告诉引擎这是一个词。

停用词

有些词在文本中出现的频率非常高，但对本文的语义会产生很大的影响，例如：呢、了、啊等等，英语中也有类似于 a 、the、of 等等。这样的词称为停用词。
停用词经常会过滤掉，不会被索引，在检索过程中，如果用户的查询词中含有停用词，系统会自动过滤掉。
停用词可以加快索引的速度、减少索引库的大小。

扩展词、停用词应该统一维护，避免集群中多台导致节点各自维护自己的一份。这里我们计划使用Web的方式，将dict词库共享给分词器等。

分词服务

配置Web
我这里使用 Nginx，你也可以使用 Tomcat：

apt install nginx

安装过程如下图所示：
在这里插入图片描述
访问页面：http://h121.wzk.icu，可以看到Nginx顺利运行：
在这里插入图片描述
编写dict内容：

vim /var/www/html/stop_dict.dic

向其中写入的内容如下：

的
了
啊
呢

同理，我们写入 ext_dict.dic：

vim /var/www/html/ext_dict.dic

我们访问对应的页面，可以拿到对应的Web文件：
在这里插入图片描述

配置分词器

# 这里看自己的版本 我选了好几个
cd /opt/servers/elasticsearch-8.15.0/plugins/analysis-ik
mkdir config
vim IKAnalyzer.cfg.xml

写入如下的内容：

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties><comment>IK Analyzer 扩展配置</comment><!--用户可以在这里配置自己的扩展字典 --><entry key="ext_dict"></entry><!--用户可以在这里配置自己的扩展停止词字典--><entry key="ext_stopwords"></entry><!--用户可以在这里配置远程扩展字典 --><entry key="remote_ext_dict">http://h121.wzk.icu/ext_dict.dic</entry><!--用户可以在这里配置远程扩展停止词字典--><entry key="remote_ext_stopwords">http://h121.wzk.icu/stop_dict.dic</entry>
</properties>

对应的截图如下所示：
在这里插入图片描述

重启服务

重启ES服务，测试效果。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/452518.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

[论文阅读]RGB-Depth Fusion GAN for Indoor Depth Completion

[论文阅读]RGB-Depth Fusion GAN for Indoor Depth Completion

摘要 由于固有的限制&#xff0c;如无法感知透明物体和有限的距离范围&#xff0c;室内深度传感器捕获的原始深度图像通常会有大面积的深度值缺失。这种不完整的深度图给许多后续视觉任务带来了负担&#xff0c;尽管提出了很多深度补全方法来缓解这一问题。但是现有的大多数方…
阅读更多...
解决k8s集群中安装ks3.4.1开启日志失败问题

解决k8s集群中安装ks3.4.1开启日志失败问题

问题 安装kubesphere v3.4.1时&#xff0c;开启了日志功能&#xff0c;部署时有三个pod报错了 Failed to pull image “busybox:latest”: rpc error: code Unknown desc failed to pull and unpack image “docker.io/library/busybox:latest”: failed to copy: httpRead…
阅读更多...
字节跳动青训营——入营考核解答（持续更新中~~~）

字节跳动青训营——入营考核解答（持续更新中~~~）

考核内容&#xff1a; 在指定的题库中自主选择不少于 15 道算法题并完成解题&#xff0c;其中题目难度分配如下&#xff1a; 简单题不少于 10 道中等题不少于 4 道困难题不少于 1 道 解答代码 16.DNA 序列还原 &#xff08;简单&#xff09; 代码实现&#xff1a; public…
阅读更多...
零基础Java第八期：一维数组（1）

零基础Java第八期：一维数组（1）

目录 一、 一维数组的基本概念 1.1. 什么是数组 1.2. 数组的创建及初始化 1.3. 数组的使用 二、数组是引用类型 2.1. 初始JVM的内存分布 2.2. 基本类型变量与引用类型变量 2.3. 引用变量的理解 2.4. null 三、数组的应用场景 3.1. 作为函数的参数 3.2. 作为函数的返…
阅读更多...
2024台州赛CTFwp

2024台州赛CTFwp

备注&#xff1a; 解题过程中&#xff0c;关键步骤不可省略&#xff0c;不可含糊其辞、一笔带过。解题过程中如是自己编写的脚本&#xff0c;不可省略&#xff0c;不可截图&#xff08;代码字体可以调小&#xff1b;而如果代码太长&#xff0c;则贴关键代码函数&#xff09;。…
阅读更多...
【HarmonyOS NEXT】服务端向终端推送消息——获取Push Token

【HarmonyOS NEXT】服务端向终端推送消息——获取Push Token

【需求】 获取Push Token 【文档】 https://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V5/push-get-token-V5 【代码】 // EntryAbility.ets 文件 import { pushService } from kit.PushKit; export default class EntryAbility extends UIAbility {onCreat…
阅读更多...
第T7周：咖啡豆识别

第T7周：咖啡豆识别

>- **&#x1f368; 本文为[&#x1f517;365天深度学习训练营](https://mp.weixin.qq.com/s/0dvHCaOoFnW8SCp3JpzKxg) 中的学习记录博客** >- **&#x1f356; 原作者&#xff1a;[K同学啊](https://mtyjkh.blog.csdn.net/)**难度&#xff1a;夯实基础⭐⭐语言&#xff…
阅读更多...
Qt5.14.2 安装详细教程（图文版）

Qt5.14.2 安装详细教程（图文版）

Qt 是一个跨平台的 C 应用程序开发框架&#xff0c;主要用于开发图形用户界面&#xff08;GUI&#xff09;程序&#xff0c;但也支持非 GUI 程序的开发。Qt 提供了丰富的功能库和工具&#xff0c;使开发者能够在不同平台上编写、编译和运行应用程序&#xff0c;而无需修改代码。…
阅读更多...
如何通过CDN优化网站服务器访问速度？

如何通过CDN优化网站服务器访问速度？

CDN&#xff0c;即内容分发网络&#xff08;Content Delivery Network&#xff09;&#xff0c;在现代互联网中起着重要作用。它可以显著提升网站服务器的访问速度。以下是CDN在加速网站访问方面的主要优势及其工作原理。 1. 全球分布的服务器节点 CDN通过在全球范围内布设多个…
阅读更多...
CANoe与C#联合仿真方案

CANoe与C#联合仿真方案

引言 CANoe作为一款强大的网络仿真工具，能够模拟各种通信协议，尤其是在汽车领域的CAN、LIN、Ethernet等协议。而C#作为一种广泛使用的编程语言，能够为CANoe提供灵活的用户界面和逻辑控制。本文将探讨如何将CANoe与C#结合，实现高效的联合仿真方案。 1. 系统架构 联合仿真…
阅读更多...
Python学习的自我理解和想法（16）

Python学习的自我理解和想法（16）

学的是b站的课程&#xff08;千锋教育&#xff09;&#xff0c;跟老师写程序&#xff0c;不是自创的代码&#xff01; 今天是学Python的第16天&#xff0c;从今天开始&#xff0c;每天一到两个常用模块&#xff0c;更完恢复到原来的。开学了&#xff0c;时间不多&#xff0c;写…
阅读更多...
Bug：通过反射修改@Autowired注入Bean的字段，明确存在，报错 NoSuchFieldException

Bug：通过反射修改@Autowired注入Bean的字段，明确存在，报错 NoSuchFieldException

【BUG】通过Autowired注入了一个Bean SeqNo&#xff0c;测试的时候需要修改其中的字段。通过传统的反射&#xff0c;无论如何都拿不到信息&#xff0c;关键是一方面可以通过IDEA跳转&#xff0c;一方面debug也确实能看到这个字段。但是每次调用set方法报错&#xff1a;NoSuchFi…
阅读更多...
Nuxt.js 应用中的 app：templatesGenerated 事件钩子详解

Nuxt.js 应用中的 app：templatesGenerated 事件钩子详解

title: Nuxt.js 应用中的 app：templatesGenerated 事件钩子详解 date: 2024/10/19 updated: 2024/10/19 author: cmdragon excerpt: app:templatesGenerated 是 Nuxt.js 的一个生命周期钩子，在模板编译到虚拟文件系统（Virtual File System, VFS）之后被调用。这个钩子允许…
阅读更多...
【数据分享】1901-2023年我国省市县三级逐月最低气温（免费获取/Shp/Excel格式）

【数据分享】1901-2023年我国省市县三级逐月最低气温（免费获取/Shp/Excel格式）

之前我们分享过1901-2023年1km分辨率逐月最低气温栅格数据&#xff08;可查看之前的文章获悉详情&#xff09;&#xff0c;该数据来源于国家青藏高原科学数据中心&#xff0c;很多小伙伴拿到数据后反馈栅格数据不太方便使用&#xff0c;问我们能不能把数据处理为更方便使用的Sh…
阅读更多...
Android15之解决gdb：Remote register badly formatted问题(二百三十六)

Android15之解决gdb：Remote register badly formatted问题(二百三十六)

简介&#xff1a; CSDN博客专家、《Android系统多媒体进阶实战》一书作者 新书发布&#xff1a;《Android系统多媒体进阶实战》&#x1f680; 优质专栏&#xff1a; Audio工程师进阶系列【原创干货持续更新中……】&#x1f680; 优质专栏&#xff1a; 多媒体系统工程师系列【…
阅读更多...
C++临时变量的常量性

C++临时变量的常量性

C 临时变量的常量性-CSDN博客 #include <iostream> using namespace std; void print(string& str) {cout << str << endl; }int main() {print("hello world");//print(string("hello world"));return 0; }编译器根据字符串"…
阅读更多...
探索 Coconut: Python 的新篇章

探索 Coconut: Python 的新篇章

文章目录 探索 Coconut: Python 的新篇章背景&#xff1a;为何选择 Coconut&#xff1f;Coconut 是什么&#xff1f;如何安装 Coconut&#xff1f;简单的库函数使用方法1. 惰性列表2. 模式匹配3. 函数组合4. 协程5. 模式匹配数据类型 场景应用1. Web 开发2. 数据处理3. 异步编程…
阅读更多...
【C++】类的默认成员函数：深入剖析与应用(下)

【C++】类的默认成员函数：深入剖析与应用(下)

&#x1f4af;前言 回顾上篇文章&#x1f449;【C】类的默认成员函数&#xff1a;深入剖析与应用&#xff08;上&#xff09;中对构造函数、拷贝构造函数和析构函数的讨论&#xff0c;强调这些默认成员函数在类的创建、初始化和销毁过程中的重要性。 ✍引出本篇将继续探讨剩余…
阅读更多...
【工具变量】A股上市企业大数据应用（2001-2023年）-参考柏淑嫄实践

【工具变量】A股上市企业大数据应用（2001-2023年）-参考柏淑嫄实践

数据简介&#xff1a;企业数字化转型的浪潮孕育出大数据&#xff0c;大数据技术是在数据处理和应用中释放大数据多元价值的必要手段。大数据作为企业发展的战略资源和生产要素对企业转型发展具有重要意义。对上市企业大数据应用程度进行测算不仅有助于了解大数据相关技术在企业…
阅读更多...
Triton Inference Server 架构原理

Triton Inference Server 架构原理

文章目录 TensorRT-LLM & Triton Server 部署回顾部署梳理Triton 架构 为什么要使用 backend &#xff1f;triton_model_repo 目录结构Ensemble 模式BLS 模式 上篇文章进行了 TensorRT-LLM & Triton Server 部署 &#xff0c;本篇简单讲讲 Triton Inference Server 的架…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023