0

0

协程(Coroutine)与 asyncio 库在 IO 密集型任务中的应用

夢幻星辰

夢幻星辰

发布时间:2025-09-05 22:17:02

|

815人浏览过

|

来源于php中文网

原创

协程通过asyncio实现单线程内高效并发,利用事件循环在IO等待时切换任务,避免线程开销,提升资源利用率与并发性能。

协程(coroutine)与 asyncio 库在 io 密集型任务中的应用

协程(Coroutine)与 Python 的 asyncio 库在处理 IO 密集型任务时,提供了一种极其高效且优雅的并发解决方案。它允许程序在等待外部操作(如网络请求、文件读写)完成时,切换到其他任务,从而充分利用 CPU 时间,显著提升应用响应速度和吞吐量,而非传统意义上的多线程或多进程并发。

协程和

asyncio
解决 IO 密集型问题的核心在于其非阻塞、单线程并发模型。传统同步编程中,当程序发起一个 IO 请求(比如从网络下载数据),它会一直等待直到数据返回,期间 CPU 处于空闲状态。多线程虽然能并发,但线程的创建、销毁和上下文切换开销不小,尤其是在需要大量并发连接时,内存占用和调度成本会成为瓶颈。

asyncio
通过事件循环(Event Loop)和协程(由
async
await
关键字定义)改变了这一范式。当一个协程遇到
await
关键字,表示它将要执行一个潜在的耗时 IO 操作。此时,它会“主动”将控制权交还给事件循环,让事件循环去执行其他已准备好的协程。一旦之前的 IO 操作完成,事件循环会再次调度该协程继续执行。这就像一个高效的厨师,不是等水烧开才切菜,而是把水放炉子上后,立刻去切菜,等水开了再回来处理。这种用户态的协作式多任务处理,避免了操作系统级别的线程切换开销,使得程序能够以极低的资源消耗同时处理成千上万个并发连接。

一个简单的例子,假设我们要同时请求多个网页:

import asyncio
import time

async def fetch_url(url):
    print(f"开始请求: {url}")
    # 模拟一个网络IO操作,实际中会用aiohttp等库
    await asyncio.sleep(2) # 假设网络请求需要2秒
    print(f"完成请求: {url}")
    return f"数据来自 {url}"

async def main():
    urls = ["http://example.com/page1", "http://example.com/page2", "http://example.com/page3"]
    start_time = time.monotonic()

    # 使用asyncio.gather并发执行所有协程
    results = await asyncio.gather(*[fetch_url(url) for url in urls])

    end_time = time.monotonic()
    print(f"\n所有请求完成,耗时: {end_time - start_time:.2f} 秒")
    for res in results:
        print(res)

if __name__ == "__main__":
    asyncio.run(main())

这段代码中,

fetch_url
模拟了一个耗时的网络请求。如果使用同步方式,三个请求将依次执行,总耗时大约是 6 秒。但通过
asyncio.gather
并发执行,它们几乎同时开始和结束,总耗时接近单个请求的时间(约 2 秒),效率提升非常明显。这就是
asyncio
在 IO 密集型任务中展现的强大能力。

为什么在IO密集型场景下,协程比传统线程更具优势?

说实话,我个人觉得这是

asyncio
最吸引人的地方之一。在 IO 密集型任务中,协程相对于传统线程模型确实有着显著的优势,这并非简单地“更快”,而是关于资源效率和可扩展性。

首先是上下文切换的开销。线程的上下文切换是由操作系统内核调度的,这意味着每次切换都需要保存和恢复大量的寄存器状态、程序计数器等,这个过程是比较“重”的。如果你的应用需要成百上千甚至上万个并发连接,那么频繁的线程切换会消耗大量的 CPU 时间,甚至可能导致“颠簸”,性能反而下降。协程则不同,它的上下文切换是用户态的,由程序自身(通过事件循环)协作完成,仅仅是保存和恢复一些必要的栈帧信息,这个过程非常“轻量”,开销几乎可以忽略不计。

其次是内存占用。每个线程都需要独立的栈空间,通常是几兆字节。当并发量达到数千时,线程所需的总内存会非常可观,可能导致内存溢出。而协程共享同一个线程的栈空间,每个协程的内存占用非常小,通常只有几十到几百字节。这意味着在相同的内存资源下,协程能够支持远超线程的并发数量。

再来就是编程模型和复杂性。虽然初学

asyncio
会觉得有点反直觉,但一旦掌握了
async
await
,你会发现编写非阻塞代码变得异常清晰。你不需要担心复杂的锁机制、死锁、竞态条件等线程编程中常见的噩梦。协程的执行流程是明确的,你只需要关注数据流和
await
点,这大大降低了并发编程的门槛和出错率。当然,话说回来,如果你不小心在协程里执行了阻塞的同步代码,那整个事件循环就会被卡死,这真的是一个巨大的坑。

最后,尽管 Python 的 GIL(全局解释器锁)限制了同一时刻只有一个线程能执行 Python 字节码,使得多线程在 CPU 密集型任务中效果不佳,但对于 IO 密集型任务,当线程在等待 IO 完成时,GIL 会被释放,其他线程可以继续执行。协程同样在等待 IO 时释放控制权,其效率优势在于上述的轻量级切换和低内存占用,而非绕过 GIL。在我看来,对于网络服务、爬虫、API 网关这类以等待外部响应为主的应用,协程简直是天作之合。

如何在Python中正确使用asyncio构建高效的IO密集型应用?

要用

asyncio
构建高效的 IO 密集型应用,关键在于理解其核心机制并遵循一些最佳实践。这不仅仅是语法层面的问题,更多的是一种思维模式的转变。

OmniAudio
OmniAudio

OmniAudio 是一款通过 AI 支持将网页、Word 文档、Gmail 内容、文本片段、视频音频文件都转换为音频播客,并生成可在常见 Podcast ap

下载

首先,拥抱

async
await
。这是协程的基石。任何一个需要异步执行的函数都应该被定义为
async def
,并在其中使用
await
来等待其他协程、异步操作或事件。记住,
await
只能在
async def
函数内部使用,它是一个明确的“暂停点”,将控制权交回事件循环。

# 示例:一个简单的异步函数
async def process_data(data):
    print(f"开始处理数据: {data}")
    await asyncio.sleep(1) # 模拟耗时操作
    print(f"数据处理完成: {data}")
    return f"处理结果 for {data}"

其次,启动事件循环。你的异步应用总得有个入口。在 Python 3.7+ 中,最简单的方式是使用

asyncio.run()
。它会负责创建事件循环、运行你的顶层协程,并在完成时关闭事件循环。

async def main_application():
    # 这里可以调度多个协程
    await process_data("item1")

if __name__ == "__main__":
    asyncio.run(main_application())

再次,并发执行多个协程。如果你有多个独立的 IO 密集型任务需要同时进行,

asyncio.gather()
是你的好朋友。它接受多个协程对象,并等待它们全部完成,然后返回一个包含所有结果的列表(顺序与传入协程的顺序一致)。

async def main_concurrent():
    tasks = [
        process_data("itemA"),
        process_data("itemB"),
        process_data("itemC")
    ]
    results = await asyncio.gather(*tasks) # 星号解包列表为单独参数
    print("\n所有并发任务结果:", results)

if __name__ == "__main__":
    asyncio.run(main_concurrent())

一个非常重要的点是处理阻塞调用。这是

asyncio
应用中最常见的陷阱。如果你在一个协程内部直接调用了任何同步的、阻塞的函数(例如
time.sleep()
而不是
asyncio.sleep()
,或者
requests.get()
而不是
aiohttp.ClientSession().get()
),那么整个事件循环都会被卡住,所有的并发优势都将荡然无存。对于那些没有异步版本的第三方库,你可以使用
loop.run_in_executor()
将阻塞调用放到一个单独的线程池或进程池中执行,从而避免阻塞事件循环。

import concurrent.futures
import requests

def blocking_io_call(url):
    print(f"开始同步请求: {url}")
    response = requests.get(url) # 这是一个阻塞调用
    print(f"完成同步请求: {url}")
    return response.status_code

async def fetch_with_executor(url):
    loop = asyncio.get_running_loop()
    # 在默认的ThreadPoolExecutor中运行阻塞函数
    # 这样就不会阻塞主事件循环
    status_code = await loop.run_in_executor(
        None,  # 使用默认的线程池
        blocking_io_call,
        url
    )
    print(f"URL: {url}, Status: {status_code}")
    return status_code

async def main_with_blocking_calls():
    urls = ["https://www.google.com", "https://www.python.org"]
    tasks = [fetch_with_executor(url) for url in urls]
    await asyncio.gather(*tasks)

if __name__ == "__main__":
    asyncio.run(main_with_blocking_calls())

最后,使用异步友好的库。为了充分发挥

asyncio
的能力,你应该尽量使用那些原生支持
async/await
的库,比如
aiohttp
用于 HTTP 请求,
asyncpg
aiomysql
用于数据库操作,
websockets
用于 WebSocket 通信等。这些库的设计就是为了不阻塞事件循环,与
asyncio
无缝协作。

协程与asyncio在实际项目中有哪些常见应用场景和注意事项?

在实际项目中,协程和

asyncio
的应用场景非常广泛,特别是在那些需要高并发、低延迟的 IO 密集型服务中。

常见应用场景:

  1. 高性能 Web 服务和 API 网关: 像 FastAPI、Sanic、Starlette 这些基于
    asyncio
    的 Web 框架,能够以极低的资源消耗处理大量的并发 HTTP 请求,非常适合构建微服务、RESTful API 或高性能的后端服务。它们在等待数据库响应、调用其他微服务或处理外部 API 时,可以轻松地切换到其他请求。
  2. Web 爬虫和数据抓取: 如果你需要从大量网站并行抓取数据,
    asyncio
    结合
    aiohttp
    是一个非常强大的组合。它可以同时发起成千上万个请求,而无需创建同样多的线程或进程,大大提高了抓取效率。
  3. 实时数据处理和 WebSocket 服务: 聊天应用、实时通知系统、游戏后端等需要保持大量客户端长连接的场景,
    asyncio
    配合
    websockets
    库可以高效管理这些连接,实现数据的实时推送和接收。
  4. 数据库连接池和消息队列消费者: 许多现代数据库驱动(如
    asyncpg
    for PostgreSQL)都提供了异步接口。在
    asyncio
    应用中,你可以高效地管理数据库连接池,并在等待数据库响应时处理其他任务。同样,在消费 Kafka、RabbitMQ 等消息队列时,异步消费者可以更高效地处理消息流。
  5. 网络代理和负载均衡器: 由于
    asyncio
    对网络 IO 的高效处理,它也常被用于构建高性能的网络代理、反向代理或简单的负载均衡器。

注意事项:

  1. 避免阻塞: 我觉得这真的是一个巨大的坑,也是
    asyncio
    最大的挑战。任何一个同步的、阻塞的函数调用,无论它多小,都可能卡死整个事件循环。务必确保所有 IO 操作都是异步的,或者通过
    run_in_executor
    显式地将其放入线程池中执行。这需要你对代码中的每一个 IO 点都保持警惕。
  2. 错误处理和调试: 异步代码的调试可能比同步代码稍微复杂一些,因为执行流不是线性的。当一个协程抛出异常时,如果它没有被正确
    await
    gather
    ,异常可能不会立即传播到你期望的地方。使用
    try...except
    块来捕获异常,并利用
    asyncio
    的调试模式 (
    python -X dev -m asyncio your_script.py
    ) 可以帮助你发现问题。
  3. CPU 密集型任务:
    asyncio
    是为 IO 密集型任务设计的,它不会让你的 CPU 密集型计算变得更快。如果你的任务是大量的计算,比如图像处理、复杂算法等,那么
    asyncio
    帮不上什么忙,你仍然需要使用
    multiprocessing
    来利用多核 CPU。将 CPU 密集型任务放到
    run_in_executor
    的进程池中执行是个不错的策略。
  4. 生态系统成熟度: 尽管
    asyncio
    生态系统日益壮大,但并非所有 Python 库都有异步版本。在选择第三方库时,要优先考虑那些原生支持
    async/await
    的库,否则你可能需要自己封装或使用
    run_in_executor
  5. 资源管理: 异步资源(如
    aiohttp
    ClientSession
    、数据库连接)需要正确地创建和关闭。通常使用
    async with
    语句来管理这些资源,确保它们在协程结束时被清理。

总之,

asyncio
提供了一种强大的并发模型,但它要求开发者对程序的执行流程有更深入的理解和更严谨的编程习惯。一旦掌握,它能为你的 IO 密集型应用带来质的飞跃。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

746

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

634

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

758

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

617

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1260

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

547

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

577

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

705

2023.08.11

c++主流开发框架汇总
c++主流开发框架汇总

本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

80

2026.01.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Node.js 教程
Node.js 教程

共57课时 | 8.4万人学习

CSS3 教程
CSS3 教程

共18课时 | 4.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号