0

0

多进程追加写文件时如何使用文件锁(portalocker 示例)

舞夢輝影

舞夢輝影

发布时间:2026-01-27 16:11:02

|

629人浏览过

|

来源于php中文网

原创

直接追加写会丢数据,因‘a’模式下“定位+写入”非原子操作,多进程可能同时定位到同一偏移导致覆盖或交错;需用portalocker锁住整个写入过程并确保落盘。

多进程追加写文件时如何使用文件锁(portalocker 示例)

为什么直接追加写会出问题 多个进程同时用 open(..., 'a') 打开同一文件并写入,看似安全,实际可能丢数据。因为 'a' 模式只保证“写入位置移到末尾”,但“定位 + 写入”不是原子操作。两个进程几乎同时执行时,可能都定位到同一个偏移,后写的覆盖前写的,或内容交错成乱码。

常见现象包括:日志行缺失、JSON 日志变成非法格式、CSV 行错位。这不是 Python 的 bug,是操作系统层面的竞态。

portalocker.lock() 要锁整个文件,不是锁写入动作portalocker 的本质是调用底层 flock()(Linux/macOS)或 LockFileEx()(Windows),锁的是文件描述符对应的 inode,不是某段逻辑。所以必须:
  • 在写入前获取锁(portalocker.lock() 或上下文管理器)
  • 锁住期间完成全部写入(含 flush()os.fsync()
  • 写完立即释放锁(推荐用 with 语句)

不能只锁 write() 那一行——锁必须覆盖从定位到落盘的全过程。

import portalocker
with open('log.txt', 'a') as f:
    portalocker.lock(f, portalocker.LOCK_EX)
    f.write('hello\n')
    f.flush()
    os.fsync(f.fileno())  # 确保真正写入磁盘

避免死锁和阻塞:超时与非阻塞模式 默认 portalocker.lock() 会无限等待,一旦某个进程崩溃没释放锁,其他进程就卡死。生产环境必须设超时:
  • timeout=2 参数控制最大等待秒数
  • 或改用 LOCK_NB(non-blocking),失败立刻抛 portalocker.LockException

常见错误是忽略异常处理,导致程序静默失败或 crash:

情感家园企业站5.0 多语言多风格版
情感家园企业站5.0 多语言多风格版

一套面向小企业用户的企业网站程序!功能简单,操作简单。实现了小企业网站的很多实用的功能,如文章新闻模块、图片展示、产品列表以及小型的下载功能,还同时增加了邮件订阅等相应模块。公告,友情链接等这些通用功能本程序也同样都集成了!同时本程序引入了模块功能,只要在系统默认模板上创建模块,可以在任何一个语言环境(或任意风格)的适当位置进行使用!

下载
  • try/except portalocker.LockException: 做降级(如打本地 debug 日志、发告警)
  • 不要用 time.sleep() 循环重试——高并发下容易雪崩
  • 多进程场景中,锁失败大概率说明有异常进程残留,应优先查它

Windows 下注意文件打开模式和句柄继承 Windows 对文件锁更严格:open(..., 'a') 默认带 O_APPEND,但某些 Python 版本(尤其旧版)在多进程 fork 后可能继承句柄导致锁失效。稳妥做法:
  • 显式用 os.open() + os.fdopen() 控制 flags
  • 确保子进程不继承父进程的文件句柄(close_fds=True 传给 subprocess.Popen
  • 测试时用 portalocker.unlock() 清理残留锁(仅调试用,正常流程靠 with 自动释放)

最易被忽略的一点:锁只对调用 portalocker.lock() 的进程有效,如果另一个进程用 C 写的工具或 shell >> 直接追加,它完全不感知 Python 的锁——portalocker 不是全局文件写保护机制,只是协作式互斥。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

778

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

686

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

769

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

760

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1445

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

571

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

581

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

752

2023.08.11

Python 自然语言处理(NLP)基础与实战
Python 自然语言处理(NLP)基础与实战

本专题系统讲解 Python 在自然语言处理(NLP)领域的基础方法与实战应用,涵盖文本预处理(分词、去停用词)、词性标注、命名实体识别、关键词提取、情感分析,以及常用 NLP 库(NLTK、spaCy)的核心用法。通过真实文本案例,帮助学习者掌握 使用 Python 进行文本分析与语言数据处理的完整流程,适用于内容分析、舆情监测与智能文本应用场景。

9

2026.01.27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 7.9万人学习

Git 教程
Git 教程

共21课时 | 3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号