用 JuiceFS 备份 NGINX 日志

    日志是分散在每个 NGINX 节点的磁盘上的，每台机器自己的磁盘并不安全，而且分散的日志也难以维护和使用。所以，我们都会将日志汇总在一个更靠谱的存储系统中，一方面长期存储安全可靠，一方面也方便做分析使用。

    在日志的存储上需要里，容量扩展性强，稳定安全，方便运维操作，价格便宜，最好按使用量付费是重点，对于存储性能的要求会低一些。目前常用的有 NFS、HDFS、对象存储等，把这些存储与 JuiceFS 做个比较：

    说到日志的收集方式，主要有两种：定时收集 和 实时收集，我们在下面分别说明。JuiceFS 使用客户自己的对象存储保存文件数据，所以也自然继承了对象存储的好处，在此之上，我们提供了高性能的元数据服务和完整的 POSIX 兼容，使用上又比对象存储便利的多。

    通常按照小时、天，把日志拷贝到一个统一的存储点。这方面的工具集很多，我们用 Linux 默认安装的 logrotate 举例说明。

    首先，要 ，并创建了一个文件系统，假设叫 super-backup。

    第一步，每台机器安装 JuiceFS 客户端，挂载到 /jfs。

    下载 JuiceFS 客户端

    挂载文件系统

    在自动化配置管理中使用 JuiceFS 也同样方便，具体方法请在上手指南中查看 如何通过命令行认证 和 ，我们支持 Docker 中挂载 和 。

    第二步，在每台机器上用 logrotate 配置日志的滚动策略，修改

    到此，NGINX 日志就可以每天 rotate 并保存到 JuiceFS 中了。增加 NGINX 节点时，只需要在新增节点上做同样的配置即可。

    如果使用 NFS，在 logrotate 中的配置是基本一样的。但是 NFS 有几个不足之处：

    • 大部分 NFS 存在单点故障，而 JuiceFS 是高可用的（专业版承诺 99.95% SLA）。

    • NFS 需要事先容量规划，JuiceFS 是弹性扩容，按容量付费的，更省心，更便宜。

    • 如果使用 HDFS 或者对象存储，日后访问备份数据时，就比较麻烦。JuiceFS 就简单很多，比如可以直接用 zgrep 查询。

    再分享几个 Tips：

    1. 执行 立即执行对 logrotate 配置做个验证。还可以用 -d 做调试。

    2. Logrotate 基于 cron 运行，无论你设置 weekly、daily 还是 hourly，具体的执行时间可以在 /etc/crontab 中修改。

    3. 如果你觉得日志文件太多，我们还提供了 命令可以快速合并 gzip 压缩过的日志文件。

    说完定时汇总，下一节我们再说说日志实时收集。

    日志的实时收集已经有了很多开源工具，常用的有 Logstash、、Scribe、 等。

    在集群不是很大的时候，日志收集、分析、索引、展示有个全家桶方案 ELK，其中用 Logstash 做日志收集和分析。

    需要下面的部署方式：

    1. 部署一个 Logstash Central 做日志汇总；

    2. 部署一个 Redis 做整个服务的 Broker，目的是在日志收集和写入中间做个缓冲，避免 Central 挂了导致日志丢失；

    3. 然后再配置 Central 的落盘方式，将日志存储到 JuiceFS / NFS / 对象存储 / HDFS 等。

    _images/logstash_on_juicefs.png

    这里不讲 Logstash 在收集、分析、过滤环节的配置了，网络上有很多文章可查（比如：Logstash 最佳实践），说一下输出环节。

    把 Logstash 收集处理好的日志保存到 JuiceFS 只要在配置的 output 部分设置一下：

    存储到 NFS 也可以用上面的配置，缺点和上文定时收集部分提到的相同。

    如果要保存到对象存储、HDFS，需要再配置 Logstash 的第三方插件，大部分是非官方的，随着 Logstash 版本的升级，使用时可能需要折腾一下。

    其实还有更简单的实时日志收集方法，就是直接让 NGINX 把日志输出到 JuiceFS 中，省去了维护和部署日志收集系统的麻烦。使用这个方案可能会担心 JuiceFS 出问题时影响 NGINX 的正常运行，有两方面可以帮大家减少一些顾虑：

    1. JuiceFS 本身是一个高可用的服务，专业版承诺 99.95% 的可用性，应该跟你的数据库等服务在一个可用性级别；

    2. NGINX 的日志输出是使用异步 IO 来实现的，即使 JuiceFS 出现暂时性的抖动，也基本不影响 NGINX 的正常运行（restart 或者 reload 可能会受影响）。

    如果不喜欢运维复杂的日志收集系统，这个方案值得一试。

    定时收集和实时收集都讲完了，在 super-backup 中存储的 NGINX 日志如何做个 异地备份 呢？

    只要两步：

    一、去 JuiceFS 网站控制台中，访问你文件系统的设置菜单，勾选 “启动复制”，然后选择你要复制到的对象存储，保存。

    二、在所有挂载 super-backup 的机器上重新挂载 super-backup 即可。之后新写入的数据会很快同步到要复制的 Bucket 中，旧的数据也会在客户端定时扫描（默认每周一次）时同步。

    这样可以全自动的在另外一个对象存储中同步一份数据，有效防止单一对象存储的故障或者所在区域的灾难。

    JuiceFS 兼容模式，所有写入的文件会按原样保存在对象存储中，脱离 JuiceFS 的元数据服务，也仍然可以访问里面的文件。完全不用担心 JuiceFS Lock-in。