Elastic Agent:可灵活地在任何地方发送和处理任何数据

作者:来自 Elastic Nima Rezainia

Elastic Agent 是一款功能强大且用途广泛的工具,可用于从各种数据源(包括自定义用户应用程序)收集日志和指标。现在,Elastic Agent 提供了无与伦比的灵活性,可以将数据准确地传递到需要的地方,从而通过单个代理实现安全性和可观察性用例。本博客介绍了最新版本的 Elastic Agent 中提供的功能以及如何定制它们以适合你的特定用例。

多种目的地

从 Elastic Agent 8.16 开始,借助 “output per integration - 按集成输出” 功能,用户可以将来自任何支持的数据源的数据发送到任何支持的目的地。无论是直接发送到区域或特定业务线的 Elasticsearch 集群,还是通过 Logstash 和 Kafka 等中间件,该流程都能无缝扩展到最大的企业。部署单一代理来收集可观测性和安全数据变得前所未有的简单。

“output per integration - 按集成输出” 是指在 Elastic Agent 中能够为每个集成配置不同的数据输出。这意味着从各种来源收集的数据可以根据每个集成的配置被定向到特定的目的地。例如,一类集成的数据(如系统日志)可以直接发送到针对日志优化的 Elasticsearch 集群,而另一类数据(如来自云服务的指标)可以通过 Kafka 路由到不同的分析平台。

此功能在需要将数据分布到多个系统或区域的复杂环境中提供了极大的灵活性。它使企业能够更精细地控制数据路由,从而根据特定的业务或合规要求定制数据流。

使用 Logstash 进行可选处理

通过对每个集成的输出进行细粒度控制,将 Logstash 纳入你的采集架构不再是一个全有或全无的决定。你现在可以根据需要为特定数据源包含 Logstash,以实现编辑、丰富和其他 Logstash 独有的功能。

例如,如果你在 Elastic 集成中使用新的 Logstash 集成过滤器,你现在可以只发送你希望 Logstash 处理的数据,同时将其余数据源直接发送到 Elasticsearch。减少 Logstash 上的工作负载可以减少采集占用空间,减少管理节点的时间,并提高可靠性。

使用 Kafka 进行动态转发

Kafka 是一种分布式、高弹性且可扩展的流媒体平台,是一种非常流行的实时流数据处理工具。Kafka 的生产者和消费者模型允许操作员为日志和指标、安全性和可观察性或敏感和机密信息设置不同的管道。Elastic Agents 非常适合此模型,能够写入特定的 Kafka 主题(topic),并且随着 8.16 的发布,Elastic Agents 可以动态选择 Kafka 主题。

企业策略管理

企业用户依赖 Elastic Agent 作为集中定义的数据采集平台。借助 Fleet 策略管理,用户可以通过代理策略同时管理数千个代理的代理设置。无论你是根据属性(例如地理位置、数据治理法规、平台类型,甚至部门线)组织主机,代理策略都可以实现简单且可扩展的管理。

从 8.16 开始,代理策略中现在提供按集成输出(output per integration),使管理员能够操作全局 Elastic Agent 控制平面,同时将关键的可观察性和安全性数据准确地传递到其所属的位置。

示例:降低云出口费用

考虑一个多云企业,其应用程序部署在冗余区域和云提供商中。按区域管理采集配置会增加管理开销,但全局管理采集意味着在数据穿越区域和提供商时产生昂贵的云出口费用。

通过按集成输出,你可以维护全局或特定于云的 Elastic Agent 控制平面,同时将数据保持在区域或区域本地,从而节省数十万美元的云网络成本。

示例:数据主权和 GDPR

假设一家企业需要确保在某个区域收集的数据保留在该区域内(数据主权)。Fleet 通过允许操作员通过代理策略快速将输出分配给一组 Elastic Agent,从而简化了流程。

Elastic Agent 还会从部署它们的平台收集主机日志和指标,从而提供有关主机健康状况的宝贵见解。大多数运营商倾向于将监控数据与用户数据分开存储,这可以增强弹性并方便从单个集群进行故障排除。Fleet 通过允许运营商在其代理策略中为这些数据分配特定的监控集群来实现这一点。

将上下文插入数据

在许多部署中,用户需要将本地上下文添加到其平台中采集的数据。这种嵌入的上下文可帮助操作员唯一地识别数据,以便进一步处理、路由,甚至创建特定于上下文的仪表板,例如针对特定租户的仪表板。

随着 8.15 版本的发布,Elastic Agent 用户现在可以在策略级别添加自定义 [field:value] 对。这些自定义字段嵌入到该策略下代理收集的所有数据中。随着日志和事件在管道中移动,添加的字段可用于有效地增强或路由数据。你可以在我们的文档中找到有关此功能的更多信息。

额外的灵活性

总之,Elastic Agent 8.16 在数据收集和输出管理方面提供了无与伦比的灵活性,使用户可以将数据准确地发送到需要的地方。凭借每个集成的输出、可选的 Logstash 处理、动态 Kafka 转发和增强的企业策略管理等功能,Elastic Agent 简化了复杂的数据工作流程,同时优化了资源使用。无论是降低云出口费用还是确保遵守数据主权法规,Elastic Agent 都使开发人员和运营商能够构建可扩展、有弹性且高效的数据管道,使其成为现代企业的宝贵工具。

本文中描述的任何特性或功能的发布和时间均由 Elastic 自行决定。任何当前不可用的特性或功能可能无法按时交付或根本无法交付。

原文:Elastic Agent: Flexibility to send and process any data, anywhere | Elastic Blog

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/472161.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Android CCodec Codec2 (二一)InputBuffers

CCodec使用CCodecBuffers来对输入/输出端口上的buffer进行管理,这一篇文章我们将一起了解InputBuffers,也就是输入端口的buffer管理方法。 1、CCodecBuffers CCodecBuffers是端口管理的基类,它抽象了输入端口管理和输出端口管理的通用方法&a…

JDBC-Mysql 时区问题详解

目录 一、前置准备 1.1 版本号列表 1.2 Sql脚本 1.3 application.yaml配置 1.4 数据库时区设置 二、java Date类型与(jdbcType)TIMESTAMP类型的转换 2.1 jdbc对serverTimeZone的处理 2.2 java Date转(jdbcType)TIMESTAMP …

LC12:双指针

文章目录 125. 验证回文串 本专栏记录以后刷题碰到的有关双指针的题目。 125. 验证回文串 题目链接:125. 验证回文串 这是一个简单题目,但条件判断自己写的时候写的过于繁杂。后面参考别人写的代码,首先先将字符串s利用s.toLowerCase()将其…

H5页面多个视频如何只同时播放一个?

目录 背景1. 首先介绍下 muted 属性2. 监听播放和暂停操作3. 视频播放完毕后返回桌面,再进入H5页面发现视频封面丢失置灰解决思路: 背景 页面模块同时有个四个视频模块,发现可以同时播放四个视频,但是理想的是每次只播放一个。 …

【环境配置】macOS配置jdk与maven

配置jdk与maven 配置jdk与切换java版本命令 maven安装与配置国内镜像源 用到的命令 # 进入 JDK 安装目录 cd /Library/Java/JavaVirtualMachines# 查看文件 ls ➜ jdk-1.8.jdk jdk-11.jdk# 查看路径 pwd ➜ /Library/Java/JavaVirtualMachines# 打开环境变量配置文件 vi &…

基于汇编语言的贪吃蛇程序

摘要 在我们空闲的时候,我们可以用一些我们学过的知识编一些东西,通过这些东西我们可以学习到汇编语言综合应用程序设计方法,还可以提高汇编语言实际应用能力,充分了解计算机硬件和软件,完成理论到实践的推进过程。这…

Qt文件目录操作

文件目录操作相关类 Qt 为文件和目录操作提供了一些类,利用这些类可以方便地实现一些操作。Qt 提供的与文件和目录操作相关的类包括以下几个: QCoreApplication:用于提取应用程序路径,程序名等文件信息;QFile&#x…

2024 CCF中国开源大会“开源科学计算与系统建模openSCS”分论坛成功举办

11月9日,2024 中国计算机学会(CCF)中国开源大会“开源科学计算与系统建模openSCS”分论坛在深圳落下帷幕。本次论坛由开源科学计算与系统建模工作委员会、苏州同元软控信息技术有限公司(简称“同元软控”)、深圳景元数…

基于 PyTorch 从零手搓一个GPT Transformer 对话大模型

一、从零手实现 GPT Transformer 模型架构 近年来,大模型的发展势头迅猛,成为了人工智能领域的研究热点。大模型以其强大的语言理解和生成能力,在自然语言处理、机器翻译、文本生成等多个领域取得了显著的成果。但这些都离不开其背后的核心架…

C++(Day35)

一、学习内容 C绪论 C是C语言的拓充,C包含C的所有属性,换一句话说,C语言的语法在C中都合法。 C语言是面向过程的编程思想。 C语言是面向对象的编程思想。(半面向对象,半面向过程) 可以说在C中一切皆对象。 …

World of Warcraft [WeakAuras]Barney Raid Kit - Collapsing Star Indicator

https://wago.io/BarneyCS 黄色数字表示需要修的血量。 绿色数字表示停止修血。 红色数字表示修血过量,以及该坍缩星将在大爆炸读条结束前多少秒爆炸。 Numbers in yellow means damage required. Numbers in green means HP is good, dont damage anymore. Numbers…

Elasticsearch retrievers 通常与 Elasticsearch 8.16.0 一起正式发布!

作者:来自 Elastic Panagiotis Bailis Elasticsearch 检索器经过了重大改进,现在可供所有人使用。了解其架构和用例。 在这篇博文中,我们将再次深入探讨检索器(retrievers)。我们已经在之前的博文中讨论过它们&#xf…

C++清除所有输出【DEV-C++】所有编辑器通用 | 算法基础NO.1

各位小伙伴们,上一期的保留小数位数教学够用一辈子,有不错的点赞量,可我连一个粉丝铁粉都没有,你愿意做我的第一个铁粉吗?OK废话不多说,开始! 温故与知心 可能你也学过,且是工作者…

麒麟kysec安全

一、kysec安全框架管理 开启kysec getstatus Copy security-switch --set default Copy 重启系统 reboot Copy 刷新页面,等待几分钟,即可完成文件的扫描。 查看kysec状态 getstatus Copy 切换到管理员身份(密码:devuser…

本地 / 网络多绑定用例总结

原文连接:AUTOSAR_EXP_ARAComAPI的7章笔记(4) 情景设定 在前一节的基础上,假设有类似情景,区别在于服务实例 2 位于与 AP 产品相同以太网的不同 ECU 上,服务消费者及其代理驻留在 AP 产品 ECU 上。因以太网…

Android笔记(三十六):封装一个Matrix从顶部/底部对齐的ImageView

背景 ImageView的scaleType默认显示图片是这样,但是有时候设计稿需求希望图片左右能紧贴着ImageView左右边缘,又不破坏图片的比例,用自带的matrix,centerCrop等都可以满足 但是都会造成图片的某些区域被裁剪了,如果设…

什么是项目完整性管理?

项目完整性管理是一种在项目生命周期中确保项目质量、进度、成本、资源等各方面保持一致性与协调性的系统性方法。它不仅涉及项目的规划与执行,还包括对项目中的各项资源、流程、技术的整合和控制,以保障项目的最终交付质量和效果。随着项目复杂性的提升…

【3D Slicer】的小白入门使用指南四

开源解剖影像浏览工具Open Anatomy Browser使用及介绍 和3D slicer米有太大关系,该工具是网页版影像数据的浏览工具(可以简单理解为网页版的3D slicer) 介绍 ● 开放解剖(OA)浏览器是由神经影像分析中心开发的,基于网络浏览器技术构建的图谱查看器。 ● OA浏览器将解剖模…

如何优化Kafka消费者的性能

要优化 Kafka 消费者性能,你可以考虑以下策略: 并行消费:通过增加消费者组中的消费者数量来并行处理更多的消息,从而提升消费速度。 批量消费:配置 fetch.min.bytes 和 fetch.max.wait.ms 参数来控制批量消费的大小和…

论文 | On Second Thought, Let’s Not Think Step by Step!

概述与研究背景 本文探讨了“零样本链式思维”(Zero-shot Chain of Thought, CoT)在大语言模型(LLM)中的应用及其潜在的偏见与有害内容生成风险。论文指出,尽管CoT在多种逻辑推理任务中提高了模型的表现,但…