解决Hadoop审计日志hdfs-audit.log过大的问题

白杨Shayne • 2023年08月03日 19:00 • 1年前 • 编程日记 • 阅读(1) • 违法举报

【背景】

新搭建的Hadoop环境没怎么用，就一个环境天天空跑，结果今天运维告诉我说有一台服务器磁盘超过80%了，真是太奇怪了，平台上就跑了几个spark测试程序，哪来的数据呢？

文章来源地址https://uudwc.com/A/jVW3z

既然是磁盘写满了，那首先就要找到具体是什么数据写满的磁盘。

用df查看，是根目录，还不是数据盘；

df -h

于是用du命令再挨个检查目录，看看具体是什么文件这么大

du -h --maxx-depth=1 .

终于发现在Hadoop的日志目录下，有一堆hdfs-audit.log日志，并且每个都有好几百M，删除之后，跟目录瞬间从81%减低到了42%；

问题是暂时解决了，可这样不是长久之计，审计日志还在写，过几天还得来删除。

从Ambari页面上查看hdfs的配置，搜索关键字“audit”

接着往下拉，发现审计日志配置的是INFO级别：

于是改为WARN级别，保存后重启hdfs相关组件。

过了几天后，再检查服务器，发现磁盘根目录使用率没有明显增大，问题完美解决了~

原文地址:https://blog.csdn.net/saqin6255/article/details/132068758

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请联系站长进行投诉反馈，一经查实，立即删除！