使用 Splunk 进行日志管理

使用 Splunk 服务器管理系统和应用程序日志

概述

这些说明是基于 CentOS,可能极大地不同于与其他 Linux 系统分配。

重要信息:代理节点 Splunk 转发器配置要求任务将日志写入 `stdout` 和 `stderr`。某些 DC/OS 服务(包括 Cassandra 和 Kafka)不会将日志写入 `stdout` 和 `stderr`。如果要记录这些服务,您必须自定义代理节点 Splunk 转发器配置。

前提条件

  • 现有 Splunk 装置可以消化数据用于索引
  • 所有 DC/OS 节点必须能够通过 HTTP 或 HTTPS 连接到 Splunk 索引器
  • 开放文件的 必须设置为 unlimited,供具有 Root 访问权限的用户使用。

对于 DC/OS 群集中的所有节点:

  1. 安装 Splunk 的 通用转发器
  2. 确保转发器具有将数据发送给索引器所需的凭据。
  3. 启动转发器。
  1. 创建一个脚本 $SPLUNK_HOME/bin/scripts/journald-master.sh,其含有来自 journald Mesos 管理节点的日志。此脚本可配合 DC/OS 和 DC/OS Enterprise 使用。不适用的日志条目将被忽略。

  2. 使脚本可执行:

    1. chmod +x "$SPLUNK_HOME/bin/scripts/journald-master.sh"

对于 DC/OS 群集中的每个代理节点:

    1. #!/bin/sh
    2. journalctl --since="now" -f \
    3. -u dcos-diagnostics.service \
    4. -u dcos-logrotate-agent.timer \
    5. -u dcos-mesos-slave.service \
    6. -u dcos-adminrouter-agent.service \
    7. -u dcos-minuteman.service \
    8. -u dcos-adminrouter-reload.service \
    9. -u dcos-navstar.service \
    10. -u dcos-adminrouter-reload.timer \
    11. -u dcos-rexray.service \
    12. -u dcos-cfn-signal.service \
    13. -u dcos-download.service \
    14. -u dcos-signal.timer \
    15. -u dcos-spartan-watchdog.service \
    16. -u dcos-gen-resolvconf.service \
    17. -u dcos-spartan-watchdog.timer \
    18. -u dcos-gen-resolvconf.timer \
    19. -u dcos-spartan.service \
    20. -u dcos-link-env.service \
    21. -u dcos-vol-discovery-priv-agent.service \
    22. -u dcos-logrotate-agent.service
  1. 使脚本可执行:

  2. 将脚本添加为转发器的输入:

    1. "$SPLUNK_HOME/bin/splunk" add exec \
    2. -source "$SPLUNK_HOME/bin/scripts/journald-agent.sh" \
  3. 将任务日志添加为转发器的输入:

后续步骤

有关如何使用 Splunk 筛选日志的详细信息,请参阅 。