0

0

I/O密集型程序优化示例

P粉602998670

P粉602998670

发布时间:2025-09-30 22:03:02

|

367人浏览过

|

来源于php中文网

原创

答案:优化I/O密集型程序需减少等待时间并提高并发效率。示例中,同步下载多个网页时,传统方式逐个请求导致I/O空闲;采用异步I/O(asyncio + aiohttp)可在等待响应时发起其他请求,提升吞吐量;使用多线程(ThreadPoolExecutor)则适合阻塞式操作或不支持异步的场景。关键点包括避免串行等待、选择合适并发模型、控制并发规模及复用连接以降低开销。

i/o密集型程序优化示例

处理I/O密集型程序时,核心瓶颈通常不在CPU计算能力,而在于等待输入输出操作完成的时间。这类程序常见于文件读写、网络请求、数据库访问等场景。优化的关键是减少等待时间、提高并发效率。下面通过一个实际示例说明如何优化。

问题示例:同步下载多个网页

假设我们需要从多个URL抓取网页内容,使用传统的同步方式:

import requests

def fetch_urls_sync(urls): results = [] for url in urls: response = requests.get(url) results.append(response.text) return results

这种方式每次请求都要等待前一个完成,I/O空闲时间长,整体效率低。

优化1:使用异步I/O(asyncio + aiohttp)

通过异步编程,可以在等待某个请求响应的同时发起其他请求,大幅提升吞吐量。

import asyncio
import aiohttp

async def fetch_url(session, url): async with session.get(url) as response: return await response.text()

async def fetch_urls_async(urls): async with aiohttp.ClientSession() as session: tasks = [fetch_url(session, url) for url in urls] return await asyncio.gather(*tasks)

调用

results = asyncio.run(fetch_urls_async(urls))

这种方法利用事件循环,在单线程中高效管理多个I/O任务,避免线程开销,适合高并发网络请求。

LongCat AI
LongCat AI

美团推出的AI对话问答工具

下载

优化2:使用多线程(ThreadPoolExecutor)

对于不支持异步的库或复杂兼容场景,可采用线程池实现并发请求

from concurrent.futures import ThreadPoolExecutor
import requests

def fetch_url_thread(url): response = requests.get(url) return response.text

def fetch_urls_threaded(urls, max_workers=10): with ThreadPoolExecutor(max_workers=max_workers) as executor: return list(executor.map(fetch_url_thread, urls))

每个请求在独立线程中执行,主线程不再阻塞。适用于阻塞式I/O操作,但注意线程数量不宜过多,避免系统资源耗尽。

优化关键点总结

针对I/O密集型任务,优化方向明确:

  • 避免串行等待:不要让程序空等I/O完成,应尽可能重叠多个操作。
  • 选择合适并发模型:异步适合高并发网络服务;多线程适合与旧代码集成或简单并行化。
  • 控制并发规模:设置合理的连接池、线程数或信号量,防止目标服务拒绝或本地资源耗尽。
  • 结合连接复用:如aiohttp中使用ClientSession,复用TCP连接,减少握手开销。

基本上就这些。关键是理解I/O等待的本质,并用并发手段填补空闲时间,从而显著提升程序响应速度和吞吐能力。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

482

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

143

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

3

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

3

2026.01.21

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

143

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

3

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

3

2026.01.21

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

352

2023.06.29

Java编译相关教程合集
Java编译相关教程合集

本专题整合了Java编译相关教程,阅读专题下面的文章了解更多详细内容。

9

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Java 教程
Java 教程

共578课时 | 48.8万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1.0万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号