最近磁盘总是写不上数据,查看磁盘空间(df -h)发现空间只用了47%,查看磁盘inode(df -hi)发现100%已经用完了,磁盘是nfs协议外挂的。

[root@localhost mimvp]# df -h
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda2              30G   21G  7.2G  75% /
tmpfs                 7.8G     0  7.8G   0% /dev/shm
/dev/sda1            1008M   81M  876M   9% /boot
/dev/sda5             229G  200M  217G   1% /data
/dev/sdb               31T   21T  9.4T  69% /data1

/dev/vol/vol5            48T   23T   26T  47% /mnt/vol5
/dev/vol/vol6            48T   34T   14T  72% /mnt/vol6
/dev/vol/vol7            48T   47T  1.5T  98% /mnt/vol7
/dev/vol/vol8            48T   45T  2.8T  95% /mnt/vol8
[root@localhost mimvp]# 

[root@localhost mimvp]# df -hi
Filesystem           Inodes IUsed IFree IUse% Mounted on
/dev/sda2              1.9M  115K  1.8M    6% /
tmpfs                  2.0M     1  2.0M    1% /dev/shm
/dev/sda1               64K    44   64K    1% /boot
/dev/sda5               15M   160   15M    1% /data
/dev/sdb               6.1G   27M  6.0G    1% /data1

/dev/vol/vol5            31M   31M     0  100% /mnt/vol5
/dev/vol/vol6            525M   47M  478M    9% /mnt/vol6
/dev/vol/vol7            122M   70M   53M   58% /mnt/vol7
/dev/vol/vol8            525M   71M  454M   14% /mnt/vol8
[root@localhost
mimvp]# 
[root@localhost mimvp]# df -T
Filesystem           Type    1K-blocks        Used   Available Use% Mounted on
/dev/sda2            ext4     30963708    21850404     7540440  75% /
tmpfs                tmpfs     8140468           0     8140468   0% /dev/shm
/dev/sda1            ext4      1032088       82704      896956   9% /boot
/dev/sda5            ext4    239321672      203792   226961056   1% /data
/dev/sdb             xfs   32224847872 22152264464 10072583408  69% /data1

/dev/vol/vol5         nfs   51002736640 23938776896 27063959744  47% /mnt/vol5
/dev/vol/vol6         nfs   51002736640 36415490048 14587246592  72% /mnt/vol6
/dev/vol/vol7         nfs   51002736640 49493112704  1509623936  98% /mnt/vol7
/dev/vol/vol8         nfs   51002736640 48044521024  2958215616  95% /mnt/vol8

 

原因分析

ext3格式的磁盘inode空间只有几百K,如果存储太多的小文件,会导致空间不足无法再创建新的文件。

解决方案

使用xfs的磁盘格式,可增加inode大小

执行步骤

1.  安装 xfsprogs-2.9.4-1.el5.centos.x86_64.rpm   

 rpm -ivh http://mirror.centos.org/centos/5/extras/x86_64/RPMS/xfsprogs-2.9.4-1.el5.centos.x86_64.rpm

2.   将挂载磁盘空间数据备份,并将该磁盘卸载:

       umount /data

       如果失败,执行以下命令查看使用/data文件的所有进程:

       lsof |grep /data

       执行以下命令将进程杀死:

       lsof | grep /data | awk -F" " '{print $2}' | xargs kill

3.   执行以下命令将磁盘格式化为xfs

       mkfs.xfs  -f  /dev/xvdb

4.   修改/etc/fstab,将挂载磁盘的格式由ext3改为xfs

      vim  /etc/fstab

5.   重新挂载磁盘

        mount -a

 

一、inode是什么?

理解inode("索引节点"),要从文件储存说起。

文件储存在硬盘上,硬盘的最小存储单位叫做"扇区"(Sector),每个扇区储存512字节,相当于0.5KB

操作系统读取硬盘的时候,不会一个个扇区地读取,这样效率太低,而是一次性连续读取多个扇区,即一次性读取一个"块"(block)。这种由多个扇区组成的"块",是文件存取的最小单位。"块"的大小,最常见的是4KB,即连续八个 sector组成一个 block。

文件数据都储存在"块"中,那么很显然,我们还必须找到一个地方储存文件的元信息,比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做inode,中文译名为"索引节点"。

 

二、inode的内容

inode包含文件的元信息,具体有以下内容:

[root@localhost mimvp]# ll /mnt/vol5/downvideo/index.m3u8 
-rw-r--r-- 1 root root 322 Apr 28 18:38 /mnt/vol5/downvideo/index.m3u8

* 文件的字节数 (322

* 文件拥有者的User ID (root

* 文件的Group ID (root

* 文件的读、写、执行权限-rw-r--r--

* 文件的时间戳(Apr 28 18:38),共有三个:

1) ctime指inode创建时间,

2) mtime指文件内容上一次修改的时间,

3) atime指文件最后一次访问的时间。

* 链接数,即有多少文件名指向这个inode1

* 文件数据block的位置/mnt/vol5/downvideo/index.m3u8

可以用stat命令,查看某个文件的inode信息:

[root@localhost mimvp]# stat /mnt/vol5/downvideo/index.m3u8 
  File: `/mnt/vol5/downvideo/index.m3u8'
  Size: 322           Blocks: 8          IO Block: 65536  regular file
Device: 14h/20d    Inode: 27851925    Links: 1
Access: (0644/-rw-r--r--)  Uid: (    0/    root)   Gid: (    0/    root)
Access: 2015-04-28 18:38:18.001531000 +0800
Modify: 2015-04-28 18:38:20.803524000 +0800
Change: 2015-04-28 18:38:20.803524000 +0800

总之,除了文件名以外的所有文件信息,都存在inode之中。

至于为什么没有文件名,下文会有详细解释。

 

三、inode的大小

inode也会消耗硬盘空间,所以硬盘格式化的时候,操作系统自动将硬盘分成两个区域。

一个是数据区,存放文件数据;

一个是inode区(inode table),存放inode所包含的元信息。

每个inode节点的大小,一般是128字节或256字节。

inode节点的总数,在格式化时就给定,一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中,每个inode节点的大小为128字节,每1KB就设置一个inode,那么inode table的大小就会达到128MB,占整块硬盘的12.8%。

查看所有硬盘分区的inode总数和已经使用的数量,可以使用df命令:

df  -i

查看每个inode节点的大小,可以用如下命令:

sudo dumpe2fs -h /dev/hda | grep "Inode size"

由于每个文件都必须有一个inode,因此有可能在硬盘还未存满的情况,发生inode已经用光,导致无法在硬盘上创建新文件(无法写入数据)。

 

四、inode号码

每个inode都有一个号码,操作系统用inode号码来识别不同的文件。

这里值得重复一遍,Unix/Linux系统内部不使用文件名,而使用inode号码来识别文件

对于系统来说,文件名只是inode号码便于识别的别称或者绰号。表面上,用户通过文件名,打开文件。实际上,系统内部这个过程分成三步:

首先,系统找到这个文件名对应的inode号码;

其次,通过inode号码,获取inode信息;

最后,根据inode信息,找到文件数据所在的block,读出数据。

使用命令ls -i ,可以看到文件名对应的inode号码(27851925):

[root@localhost mimvp]# ls -i /mnt/vol5/downvideo/index.m3u8
27851925 /mnt/vol5/downvideo/index.m3u8

 

五、目录文件

Unix/Linux系统中,目录(directory)也是一种文件。

打开目录,实际上就是打开目录文件。

目录文件的结构非常简单,就是一系列目录项(dirent)的列表。

每个目录项,由两部分组成:所包含文件的文件名,以及该文件名对应的inode号码。

ls 命令只列出目录文件中的所有文件名:

[root@localhost mimvp]# ls /etc/*.conf
/etc/asound.conf
/etc/dracut.conf
/etc/gai.conf
/etc/grub.conf
/etc/gssapi_mech.conf
/etc/hba.conf
/etc/host.conf

ls -i 命令列出整个目录文件,即文件名和inode号码:

[root@localhost mimvp]# ls -i /etc/*.conf
655613 /etc/asound.conf
656041 /etc/dracut.conf
656682 /etc/gai.conf
656700 /etc/grub.conf
656787 /etc/gssapi_mech.conf
524309 /etc/hba.conf
655392 /etc/host.conf

如果要查看文件的详细信息,就必须根据inode号码,访问inode节点,读取信息。

ls -l 命令列出文件的详细信息

[root@localhost mimvp]# ls -l /etc/*.conf
-rw-r--r--. 1 root root  148 May 15  2009 /etc/asound.conf
-rw-r--r--  1 root root  519 Apr 29 18:20 /etc/dracut.conf
-rw-r--r--  1 root root    0 May 27 22:06 /etc/gai.conf
lrwxrwxrwx. 1 root root   22 Dec  4  2014 /etc/grub.conf -> ../boot/grub/grub.conf
-rw-r--r--  1 root root  801 Jul 19  2011 /etc/gssapi_mech.conf
-r-x------  1 root root  847 Jun 12 23:07 /etc/hba.conf
-rw-r--r--  1 root root    9 Oct  2  2013 /etc/host.conf

 

六、硬链接

一般情况下,文件名和inode号码是"一一对应"关系,每个inode号码对应一个文件名。

但是,Unix/Linux系统允许,多个文件名指向同一个inode号码

这意味着,可以用不同的文件名访问同样的内容;对文件内容进行修改,会影响到所有文件名;但是,删除一个文件名,不影响另一个文件名的访问。这种情况就被称为"硬链接"(hard link)。

ln命令可以创建硬链接:

ln 源文件 目标文件

运行上面这条命令以后,源文件与目标文件的inode号码相同,都指向同一个inode。inode信息中有一项叫做"链接数",记录指向该inode的文件名总数,这时就会增加1。反过来,删除一个文件名,就会使得inode节点中的"链接数"减1。当这个值减到0,表明没有文件名指向这个inode,系统就会回收这个inode号码,以及其所对应block区域。

这里顺便说一下目录文件的"链接数"。

创建目录时,默认会生成两个目录项:"."和".."。前者的inode号码就是当前目录的inode号码,等同于当前目录的"硬链接";后者的inode号码就是当前目录的父目录的inode号码,等同于父目录的"硬链接"。所以,任何一个目录的"硬链接"总数,总是等于2加上它的子目录总数(含隐藏目录),这里的2是父目录对其的“硬链接”和当前目录下的".硬链接“。

 

七、软链接

除了硬链接以外,还有一种特殊情况。文件A和文件B的inode号码虽然不一样,但是文件A的内容是文件B的路径。读取文件A时,系统会自动将访问者导向文件B。因此,无论打开哪一个文件,最终读取的都是文件B。这时,文件A就称为文件B的"软链接"(soft link)或者"符号链接(symbolic link)。

这意味着,文件A依赖于文件B而存在,如果删除了文件B,打开文件A就会报错:"No such file or directory"。这是软链接与硬链接最大的不同:文件A指向文件B的文件名,而不是文件B的inode号码,文件B的inode"链接数"不会因此发生变化。

ln -s命令可以创建软链接

ln -s 源文文件或目录 目标文件或目录

 

八、inode的特殊作用

由于inode号码与文件名分离,这种机制导致了一些Unix/Linux系统特有的现象。

1. 有时,文件名包含特殊字符,无法正常删除。这时,直接删除inode节点,就能起到删除文件的作用。

2. 移动文件或重命名文件,只是改变文件名,不影响inode号码。

3. 打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名。因此,通常来说,系统无法从inode号码得知文件名。

第3点,使得软件更新变得简单,可以在不关闭软件的情况下进行更新,不需要重启。因为系统通过inode号码识别运行中的文件,不通过文件名。更新的时候,新版文件以同样的文件名生成一个新的inode,不会影响到运行中的文件。等到下一次运行这个软件的时候,文件名就自动指向新版文件,旧版文件的inode则被回收。

 

实际问题

在一台配置较低的Linux服务器(内存、硬盘比较小)的/data分区内创建文件时,系统提示磁盘空间不足,用df -h命令查看了一下磁盘使用情况,发现/data分区只使用了66%,还有12G的剩余空间,按理说不会出现这种问题。 后来用df -i查看了一下/data分区的索引节点(inode),发现已经用满(IUsed=100%),导致系统无法创建新目录和文件。 

查找原因:

/data/cache目录中存在数量非常多的小字节缓存文件,占用的Block不多,但是占用了大量的inode。 

解决方案:

1、删除/data/cache目录中的部分文件,释放出/data分区的一部分inode。

2、用软连接将空闲分区/opt中的newcache目录连接到/data/cache,使用/opt分区的inode来缓解/data分区inode不足的问题:

ln -s /opt/newcache /data/cache