Kafka 与 filebeat 将 Shippong 日志发送到 Logstash

问题描述 投票:0回答:1

我目前正在建立中央日志系统(使用ELK),预计将从100个微服务获取日志数据,并且可以扩展更多。要求是具有最小延迟和高可用性的解决方案 现在我陷入了设计应该是什么样子的困境。 在通过互联网学习时,我得到了以下广泛用于此类要求的方法

微服务->filebeat->kafka->logstash->ElasticSearch->Kibana

但是,我很难理解 filebeat 在这种情况下是否真的有用。 如果我直接将日志流式传输到 Kafka,然后将其发送到 Logstash 会怎样?这将帮助我克服日志文件的维护问题,并且还可以减少一个需要监视和维护的组件。 我发现使用 kafka 相对于 filebeat 的一个优势是,如果传输的数据量非常大或 ES 集群无法访问,它可以充当缓冲区。来源:https://www.elastic.co/blog/just-enough-kafka-for-the-elastic-stack-part1

我想了解使用 filebeat 是否有任何我无法意识到的真正好处。

logstash elastic-stack filebeat
1个回答
1
投票

Filebeat 可以安装在您的每个服务器或节点上。 Filebeat收集并快速发送日志。它非常快速且轻量级,用 go 编写。

就您而言,优点是您不必花时间开发相同的功能来收集和发送日志。您只需为您的日志架构使用和配置 Filebeat。这很方便。

Filebeat 的另一个描述可在 link 获得。

© www.soinside.com 2019 - 2024. All rights reserved.