linux文件系统与日志

综合频道
193 阅读4分钟

前言

Linux系统本身和大部分服务器程序的日志文件默认放在 var/log/下。 部分程序共用一个日志文件,一部分程序使用单个日志文件。 而有些大型服务器程序日志由于日志文件不止一个,所以会在/var/log/目录中建立相应的子目录来存放日志文件,这样既保证了日志文件目录的结构清晰,又可以快速定位日志文件。

文件系统

  • 文件存储在硬盘上，硬盘最小存储单位是扇区，每个扇区有512字节。系统存取文件数据时是通过块（block）来读取的，块由连续8个扇区组成。一个块是4k大小是文件存取的最小单位。
  • 文件存储时文件名和文件数据分开存储，文件数据包含元信息和实际数据，文件数据存储在“块”中存储文件元信息的区域叫inode。因此，一个文件必须占用一个 inode，并且至少占用一个 block。inode不包含文件名。文件名是存放在目录当中的。Linux 系统中一切皆文件，因此目录也是一种文件。
  • 每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号码对应一个文件名。
  • 用户访问文件时，通过文件名找到对应的inode号，通过inode号获取inode信息，根据inode信息判断用户是否有权限访问文件，有则指向对于的数据block并读取数据，无则拒绝访问

block（块）----数据
连续的八个扇区组成一个block
是文件存取的最小单位
inode（索引节点）----元信息
中文译名为“索引节点”，也叫 i 节点
用于存储文件元信息

查看文件名对应的 inode 号码有两种方式：
ls -i 文件名
stat 文件名

Snipaste_2022-08-13_22-16-17.png inode包含文件的元信息（文件属性）

  • 文件的字节数
  • 文件拥有者的User ID
  • 文件的Group ID
  • 文件的读、写、执行权限;
  • 文件的时间戳
  • 文件类型
  • 链接数（指向这个文件路径名称个数）
  • 指向磁盘文件的数据块指针
  • 有关文件的其他数据
    Linux系统文件三个主要的时间属性
    ctime（change time）最后一次改变文件或目录（属性）的时间
    atime（access time）最后一次访问文件或目录的时间
    mtime（modify time）最后一次修改文件或目录（内容）的时间

inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分成两个区域。一个是数据区，存放文件数据；另一个是 inode 区，存放 inode 所包含的信息。每个 inode 的大小，一般是 128 字节或 256 字节。 通常情况下不需要关注单个 inode 的大小，而是需要重点关注 inode 总数。inode 的总数在格式化时就给定了，执行 “df -i” 命令即可查看每个硬盘分区对应的的inode 总数和已经使用的inode 数量。

如果rm文件名删除不了文件，可通过inode号删除文件
find 目录 -inum inode 号 -delete
eg:find ./ -inum 50464299 -delete Snipaste_2022-08-13_22-18-02.png 由于 inode 号码与文件名分离，导致Linux 系统具备以下几种特有的现象：

  • 文件名包含特殊字符，可能无法正常删除。这时直接删除 inode，能够起到删除文件的作用；
  • 移动文件或重命名文件，只是改变文件名，不影响 inode 号码；
  • 打开一个文件以后，系统就以 inode 号码来识别这个文件，不再考虑文件名。
  • 使用 vi 编辑器修改文件数据保存后，会生成一个新的 inode 号码。因为vi编辑器是会替换原文件的 Snipaste_2022-08-13_22-23-28.png
inode节点耗尽故障处理
@使用fdisk创建分区/dev/sdb1，分区大小30M即可
fdisk /dev/sdb
mkfs.ext4 /dev/sdb1
mkdir /test
mount /dev/sdb1 /mnt
df -i
@模拟inode节点耗尽故障
for ((i=1; i<=7680; i++));do touch /test/file$i;done     touch {1..7680}.txt
df -i
df -hT
@删除文件恢复
rm -rf /test/*
df -i
df -hT

Snipaste_2022-08-13_23-25-28.png

EXT 类型文件恢复
extundelete 是一个开源的 Linux 数据恢复工具，支持 ext3、ext4文件系统。（ext4只能在centos6版本恢复）

@使用fdisk创建分区/dev/sdc1，格式化ext3文件系统
fdisk /dev/sdc
partprobe /dev/sdc
mkfs.ext3 /dev/sdc1
mkdir /test
mount /dev/sdc1 /test
df -hT
@安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs
#编译安装 extundelete
cd /test
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/local/extundelete && make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin/
@模拟删除并执行恢复操作
cd /test
echo a>a
echo a>b
echo a>c
echo a>d
ls
extundelete /dev/sdc1 --inode 2			@查看文件系统/dev/sdc1下存在哪些文件，i 节点是从 2 开始的，2 代表该文件系统最开始的目录。

rm -rf a b
extundelete /dev/sdc1 --inode 2	
cd ~
umount /test
extundelete /dev/sdc1 --restore-all		@恢复/dev/sdc1 文件系统下的所有内容
@在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件
ls RECOVERED_FILES/

实验

Snipaste_2022-08-13_23-34-52.png

Snipaste_2022-08-13_23-36-06.png 将压缩包拖到终端中 Snipaste_2022-08-13_23-42-16.png

Snipaste_2022-08-13_23-47-19.png

Snipaste_2022-08-13_23-51-49.png

Snipaste_2022-08-13_23-56-54.png

xfs 类型文件备份和恢复
CentOS 7 系统默认采用 xfs类型的文件，xfs 类型的文件可使用 xfsdump 与 xfsrestore 工具进行备份恢复。 xfsdump 的备份级别有两种：0 表示完全备份；1-9 表示增量备份。xfsdump 的备份级别默认为 0。

xfsdump 的命令格式为：
xfsdump -f 备份存放位置 要备份的路径或设备文件

xfsdump 命令常用的选项：

  • -f：指定备份文件目录
  • -L：指定标签 session label
  • -M：指定设备标签 media label
  • -s：备份单个文件，-s 后面不能直接跟路径

xfsdump使用限制:

  • 只能备份已挂载的文件系统
  • 必须使用root的权限才能操作
  • 只能备份XFS文件系统
  • 备份后的数据只能让xfsrestore解析
  • 不能备份两个具有相同UUID的文件系统（可用 blkid命令查看）
@使用fdisk创建分区/dev/sdb1，格式化xfs文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs.xfs [-f] /dev/sdb1
mkdir /data
mount /dev/sdb1 /data/
cd /data
cp /etc/passwd ./
mkdir test
touch test/a
@使用 xfsdump 命令备份整个分区
rpm -qa | grep xfsdump
yum install -y xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M sdb1]   @免交互备份
@模拟数据丢失并使用 xfsrestore 命令恢复文件
cd /data/
rm -rf ./*
ls

xfsrestore -f /opt/dump_sdb1 /data/

Snipaste_2022-08-14_00-06-25.png

Snipaste_2022-08-14_00-12-29.png Snipaste_2022-08-14_00-21-58.png

Snipaste_2022-08-14_00-24-08.png

日志

日志作用

  • 用于记录系统、程序运行中发生的各种事件
  • 通过阅读日志，有助于诊断和解决系统故障
    内核及系统日志由系统服务 rsyslog 统一管理，主配置文件为/etc/rsyslog.conf Linux 操作系统本身和大部分服务器程序的日志文件都默认放在目录/var/log/下。
内核及公共消息日志/var/log/messages
计划任务日志/var/log/cron
系统引导日志/var/log/dmesg
邮件系统日志/var/log/maillog ；/var/log/lastlog ；/var/log/secure
用户登录日志/var/log/wtmp ；/var/log/btmp

常见的一些日志文件：

  • 内核及公共消息日志：
    /var/log/messages：记录Linux内核消息及各种应用程序的公共日志信息，包括启动、IO错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息。
  • 计划任务日志：
    /var/log/cron：记录crond计划任务产生的事件信息。
  • 系统引导日志：
    /var/log/dmesg：记录Linux系统在引导过程中的各种事件信息。
  • 邮件系统日志:
    /var/log/maillog：记录进入或发出系统的电子邮件活动。
  • 用户登录日志：
    /var/log/secure：记录用户认证相关的安全事件信息。 /var/log/lastlog：记录每个用户最近的登录事件。二进制格式 /var/log/wtmp：记录每个用户登录、注销及系统启动和停机事件。二进制格式 /var/run/btmp：记录失败的、错误的登录尝试及验证事件。二进制格式

内核级系统日志由系统服务rsyslog统一管理

软件包：rsyslog-7.4.7-16.el7.x86_64
主要程序：/sbin/rsyslogd
配置文件：/etc/rsyslog.conf
vim /etc/rsyslog.conf		@查看rsyslog.conf配置文件，规则配置格式：【设备.级别	动作】*.info;mail.none;authpriv.none;cron.none         /var/log/messages
*.info		@表示info等级及以上的所有等级的信息都写到对应的日志文件里
mail.none      @表吧示某事件的信息不写到日志文件里（这里比如是邮件）

Snipaste_2022-08-14_00-48-03.png

eg：

  • mail.info /var/log/maillog ：比指定级别更高的日志级别，包括指定级别自身，保存到/var/log/maillog中
  • mail.=info /var/log/maillog ：明确指定日志级别为info，保存至/var/log/maillog
  • mail.!info /var/log/maillog ：除了指定的日志级别(info)所有日志级别信息，保存至/var/log/maillog
  • *.info /var/log/maillog ：所有facility的info级别，保存至/var/log/maillog
  • mail.* /var/log/maillog ：mail的所有日志级别信息，都保存至/var/log/maillog
  • mail.notice;news.info /var/log/maillog ：mail的notice以上记得日志级别和news的info以上的级别保存至/var/log/maillog
  • mail,news.crit -/var/log/maillog ：mail和news的crit以上的日志级别保存/var/log/maillog中；“-”代表异步模式

设备字段说明：

auth用户认证时产生的日志
authprivssh、ftp等登录信息的验证信息
daemon一些守护进程产生的日志
ftpFTP产生的日志
lpr打印相关活动
markrsyslog服务内部的信息，时间标识
news网络新闻传输协议(nntp)产生的消息。
syslog系统日志
uucpUnix-to-Unix Copy 两个unix之间的相关通信
console针对系统控制台的消息。
cron系统执行定时任务产生的日志。
kern系统内核日志
local0~local7自定义程序使用
mail邮件日志
user用户进程

Linux系统内核日志消息的优先级别（数字等级越小，优先级越高，消息越重要）：

0EMERG紧急会导致主机系统不可用的情况。如系统崩溃
1ALERT警告必须马上采取措施解决的问题。如数据库被破坏
2CRIT严重比较严重的情况。如硬盘错误，可能会阻碍程序的部分功能
3ERR错误运行出现错误。不是非常紧急，尽快修复的
4WARNING提醒可能影响系统功能，需要提醒用户的重要事件。不是错误，如磁盘用了85%等
5NOTICE注意不会影响正常功能，但是需要注意的事件。无需处理
6INFO信息一般信息。正常的系统信息
7DEBUG调试程序或系统调试信息等。包含详细开发的信息，调试程序时使用
none：没有优先级，不记录任何日志消息。

公共日志/var/log/messages 文件的记录格式

  • 时间标签：消息发出的日期和时间。
  • 主机名：生成消息的计算机的名称。
  • 子系统名称：发出消息的应用程序的名称。
  • 消息：消息的具体内容。

Snipaste_2022-08-14_01-08-24.png

配置日志服务器收集日志
rsyslog是一个C/S架构，可以通过套接字来进行监听记录工作，可以基于TCP和UDP工作，默认的监听端口是514，只需要在MODULES打开即可。

发送服务器：客户端 192.168.213.213
收集服务器：服务端 192.168.213.10 `` //关闭服务端和客户端防火墙、selinux
setenforce 0
systemctl stop firewalld
systemctl disable firewalld

修改客户端配置文件，并启动服务
vim /etc/rsyslog.conf
MODULES 
@将下面四行前的注释取消掉
$ModLoad imudp
$UDPServerRun 514
$ModLoad imtcp
$InputTCPServerRun 514

#%timestamp% ：时间戳
#%fromhost-ip% ：接收的信息来自于哪个节点的 IP
#%hostname% ：主机名
#%syslogseverity-text% ：日志等级
#%syslogtag% ：服务进程
#%msg% ：日志内容
#接收方 IP 前面一个 @ 表示 TCP 传输，两个 @ 表示 UDP 传输\

systemctl restart rsyslog

修改服务端配置文件，并启动服务
vim /etc/rsyslog.conf
@将下面四行前的注释取消掉
$ModLoad imudp
$UDPServerRun 514
$ModLoad imtcp
$InputTCPServerRun 514
*.* @@192.168.213.10:514 配置连接服务端 
systemctl restart rsyslog
//在服务端创建/data/log目录，以接受大量日志信息，配置文件中的路径应当与该路径一致
//验证
#客户端的终端命令行输入或者重启一个服务
#在服务端查看日志文件

Snipaste_2022-08-14_01-33-22.png

Snipaste_2022-08-14_01-35-22.png

Snipaste_2022-08-14_01-36-55.png

Snipaste_2022-08-14_01-41-40.png

Snipaste_2022-08-14_01-42-54.png

Snipaste_2022-08-14_01-50-37.png

Snipaste_2022-08-14_01-51-32.png

Snipaste_2022-08-14_01-55-20.png

journalctl 日志管理工具
日志管理工具journalctl是centos7上专有的日志管理工具，该工具是从messages这个文件里读取信息。 Systemd统一管理所有Unit的启动日志。带来的好处就是，可以只用journalctl一个命令，查看所有日志（内核日志和应用日志）
日志的配置文件是/etc/systemd/journald.conf

journalctl            @查看所有日志（默认情况下，只保存本次启动的日志）
journalctl -r         @-r表示倒序，从尾部看（推荐）
journalctl -k         @查看内核日志（不显示应用日志）
journalctl -b  [-0]   @查看系统本次启动的日志
journalctl -b -1      @查看上一次启动的日志（需更改设置,如上次系统崩溃，需要查看日志时，就要看上一次的启动日志）
journalctl -n 20 [-f] @显示尾部指定行数的日志.查看的是/var/log/messages的日志，但是格式上有所调整，如主机名格式不一样而已
journalctl -u nginx.service [-f]   @ 查看某个服务的日志
journalctl _PID=1                  @ 查看指定进程的日志
journalctl _UID=0  --since today   @ 查看指定用户的日志
journalctl -xe                     @-x 是目录(catalog)的意思，在报错的信息下会，附加解决问题的网址
                                   @-e  pager-end 从末尾开始看

Snipaste_2022-08-14_00-57-08.png 用户日志分析 保存了用户登录、退出系统等相关信息

  • /var/log/lastlog:最近的用户登录事件
  • /var/log/wtmp:用户登录、注销及系统开、关机事件
  • /var/run/utmp:当前登录的每个用户的详细信息
  • /var/log/secure:与用户验证相关的安全性事件

Snipaste_2022-08-14_01-55-20.png 程序日志分析

由相应的应用程序独立进行管理

  • Web服务：/var/log/httpd/ access_log（记录客户访问事件）、error_log（记录错误事件）
  • 代理服务：/var/log/squid/ access.log、cache.log
  • FTP服务：/var/logxferlog

结束语：及时作好备份和归档：适当延长日志保存期限；掌控控制日志访问权限。

avatar
文章
阅读
粉丝