
本文深入探讨了使用Python获取文件在磁盘上实际占用空间的方法,而非仅是其逻辑大小。通过利用`os`和`stat`模块,我们可以根据文件系统的块大小精确计算文件的磁盘使用量,这对于创建固定大小的磁盘镜像或进行精确的空间规划至关重要。文章提供了核心实现代码、性能优化方案,并详细阐述了该方法的适用范围及局限性,帮助开发者避免因空间估算不准确而导致的问题。
在文件系统操作中,我们经常会遇到“文件大小”(Size)和“文件在磁盘上的实际占用空间”(Size on disk)这两个概念。它们之间存在显著差异,尤其是在需要创建固定大小的容器(如使用dd命令创建磁盘镜像)时,准确获取文件在磁盘上的实际占用空间变得至关重要。如果仅依赖文件的逻辑大小,可能会因为文件系统块分配的机制导致实际空间不足,从而引发“Not enough space”错误。
准确计算“文件在磁盘上的实际占用空间”需要了解文件系统分配块的机制以及文件系统本身的块大小。
Python的os和stat模块提供了访问文件系统底层信息的能力,使得我们能够计算文件的实际磁盘占用。
立即学习“Python免费学习笔记(深入)”;
以下是一个基本的Python函数,用于计算常规文件在磁盘上的实际占用空间:
import os
import stat
def size_on_disk(path: str) -> int:
"""
获取常规文件在磁盘上的实际占用空间。
此函数仅适用于:
- 常规文件(非目录、符号链接或特殊文件)
- Linux, Unix, 或 Mac OS 系统(不支持 Windows)
- 仅计算文件内容所占用的inode空间,不包含文件名和元数据。
"""
st = os.lstat(path)
# 检查是否为常规文件
if not stat.S_ISREG(st.st_mode):
raise NotImplementedError(f"路径 '{path}' 不是常规文件,此函数不支持。")
# 获取文件系统信息
st_vfs = os.statvfs(path)
# f_frsize 是文件系统块大小 (fragment size)
# 计算所需的块数
n_blocks, rem_bytes = divmod(st.st_size, st_vfs.f_frsize)
# 如果有余数,说明需要额外一个块
total_blocks = n_blocks + bool(rem_bytes)
# 返回实际占用的字节数
return total_blocks * st_vfs.f_frsize
# 示例用法
if __name__ == "__main__":
# 创建一个测试文件
with open("test_file.txt", "w") as f:
f.write("Hello, World!") # 逻辑大小 13 字节
try:
disk_size = size_on_disk("test_file.txt")
print(f"文件 'test_file.txt' 的逻辑大小: {os.path.getsize('test_file.txt')} 字节")
print(f"文件 'test_file.txt' 在磁盘上的实际占用空间: {disk_size} 字节")
# 尝试计算一个目录的占用空间(会抛出 NotImplementedError)
# os.mkdir("test_dir")
# print(size_on_disk("test_dir"))
except NotImplementedError as e:
print(f"错误: {e}")
except FileNotFoundError:
print("请确保文件 'test_file.txt' 存在。")
finally:
if os.path.exists("test_file.txt"):
os.remove("test_file.txt")
# if os.path.exists("test_dir"):
# os.rmdir("test_dir")在使用上述函数时,请务必注意以下限制:
os.statvfs()函数每次调用都会查询文件系统的状态,这在处理大量位于同一卷(磁盘)上的文件时,可能会引入不必要的性能开销。为了提高效率,我们可以缓存os.statvfs()的结果,因为同一卷上的文件会共享相同的文件系统块大小。
通过st.st_dev(设备ID)可以判断文件是否位于同一个文件系统卷上。
import os
import stat
# 全局缓存字典,存储设备ID到statvfs对象的映射
STATVFS_CACHE = {}
def size_on_disk_cached(path: str) -> int:
"""
获取常规文件在磁盘上的实际占用空间,并缓存文件系统信息以提高性能。
此函数同样受限于:
- 常规文件(非目录、符号链接或特殊文件)
- Linux, Unix, 或 Mac OS 系统(不支持 Windows)
- 仅计算文件内容所占用的inode空间,不包含文件名和元数据。
"""
st = os.lstat(path)
if not stat.S_ISREG(st.st_mode):
raise NotImplementedError(f"路径 '{path}' 不是常规文件,此函数不支持。")
# 使用 st.st_dev 作为缓存键
if not (st_vfs := STATVFS_CACHE.get(st.st_dev)):
# 如果缓存中没有,则调用 os.statvfs 并存入缓存
STATVFS_CACHE[st.st_dev] = (st_vfs := os.statvfs(path))
n_blocks, rem_bytes = divmod(st.st_size, st_vfs.f_frsize)
return (n_blocks + bool(rem_bytes)) * st_vfs.f_frsize
# 示例用法
if __name__ == "__main__":
# 创建多个测试文件
with open("test_file_1.txt", "w") as f:
f.write("A" * 10)
with open("test_file_2.txt", "w") as f:
f.write("B" * 200)
with open("test_file_3.txt", "w") as f:
f.write("C" * 5000) # 逻辑大小大于一个块
files_to_check = ["test_file_1.txt", "test_file_2.txt", "test_file_3.txt"]
print("\n--- 使用缓存的函数计算 ---")
for f_name in files_to_check:
try:
disk_size = size_on_disk_cached(f_name)
print(f"文件 '{f_name}' 的逻辑大小: {os.path.getsize(f_name)} 字节")
print(f"文件 '{f_name}' 在磁盘上的实际占用空间: {disk_size} 字节")
except NotImplementedError as e:
print(f"错误: {e}")
except FileNotFoundError:
print(f"请确保文件 '{f_name}' 存在。")
print(f"\n缓存内容: {STATVFS_CACHE}") # 查看缓存是否生效
# 清理测试文件
for f_name in files_to_check:
if os.path.exists(f_name):
os.remove(f_name)本文提供的Python解决方案能够帮助开发者在Unix-like系统上,精确计算常规文件在磁盘上的实际占用空间。这对于需要严格控制存储分配(如创建磁盘镜像)的场景非常有用。然而,理解其限制至关重要:它不适用于目录、符号链接或Windows系统,且仅计算文件内容的块占用,不包括文件名或元数据在目录项中的开销。在实际应用中,开发者应根据具体需求,结合这些限制来决定是否以及如何使用此方法。对于更复杂的场景,例如计算整个目录树的实际磁盘占用,则需要在此基础上进行递归遍历和更全面的考量。
以上就是使用Python准确计算文件在磁盘上的实际占用空间的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号