0

0

c# C#处理海量数据导入的并发优化策略

星降

星降

发布时间:2026-01-04 12:52:02

|

539人浏览过

|

来源于php中文网

原创

Parallel.ForEach 在 I/O 密集型导入中变慢,因线程争抢连接池或锁;应限流(如 MaxDegreeOfParallelism=4–8)、改用 SqlBulkCopy(设 BatchSize、EnableStreaming、TABLOCK)或分批 SaveChanges(禁用自动追踪、每 500–2000 条提交),并用 SemaphoreSlim 控制并发防连接池耗尽。

c# c#处理海量数据导入的并发优化策略

Parallel.ForEach 处理大批量数据导入时为什么反而变慢?

不是所有“并发”都加速,Parallel.ForEach 在 I/O 密集型场景(如数据库插入、文件读写)中常因线程争抢连接或锁而拖慢整体吞吐。它默认按 CPU 核心数分配线程,但数据库连接池、磁盘 IO 或网络带宽才是真实瓶颈。

  • 避免直接包裹 DbContext.SaveChanges()SqlCommand.ExecuteNonQuery() —— 每次调用都可能触发独立事务和连接获取
  • 改用批量操作:如 EF Core 的 ExecuteSqlRaw + 参数化 SQL 批量插入,或 Dapper 的 connection.Execute(sql, list)
  • 手动控制并行度:Parallel.ForEach(list, new ParallelOptions { MaxDegreeOfParallelism = 4 }, item => { ... }),值设为数据库连接池大小(如 SQL Server 默认 100,实际建议 4–8)

如何让 SqlBulkCopy 真正跑满带宽?

SqlBulkCopy 是 .NET 原生最快的数据导入方式,但默认配置下常只用单线程、小缓冲、无索引优化,导致吞吐远低于理论值。

  • 必须设置 BatchSize(如 10000),避免单次提交过大内存溢出或过小频繁往返
  • 开启 EnableStreaming = true,配合 DataTableIDataReader 流式供数,减少内存峰值
  • 导入前执行 ALTER TABLE ... DISABLE TRIGGERDROP INDEX(完事后重建),尤其对有唯一约束或外键的表影响巨大
  • 确保目标表有 WITH (TABLOCK) 提示(通过 SqlBulkCopy.SqlRowsCopied 事件无法控制,需在 SQL 层显式加)

EF Core 批量插入时 SaveChanges 卡住的三个常见原因

EF Core 的变更跟踪机制在海量数据下会吃光内存、拖慢性能,SaveChanges 不是“越快越好”,而是“越少调用越好”。

NetShop网店系统
NetShop网店系统

NetShop软件特点介绍: 1、使用ASP.Net(c#)2.0、多层结构开发 2、前台设计不采用任何.NET内置控件读取数据,完全标签化模板处理,加快读取速度3、安全的数据添加删除读取操作,利用存储过程模式彻底防制SQL注入式攻击4、前台架构DIV+CSS兼容IE6,IE7,FF等,有利于搜索引挚收录5、后台内置强大的功能,整合多家网店系统的功能,加以优化。6、支持三种类型的数据库:Acces

下载
  • 禁用自动检测变更:context.ChangeTracker.AutoDetectChangesEnabled = false,手动 context.Entry(entity).State = EntityState.Added
  • 分批提交:每 500–2000 条调用一次 SaveChanges(),而非全量后一次提交(否则事务日志暴涨、锁表时间过长)
  • 不用 AddRange 直接传大集合——它仍会逐个标记状态;改用 context.AddRange(entities.Take(batchSize)) + 循环

异步 + 并发组合使用时容易忽略的连接池耗尽问题

await context.SaveChangesAsync() 配合 Task.WhenAll 看似高效,实则极易触发 Timeout expired. The timeout period elapsed prior to obtaining a connection from the pool 错误。

  • Task.WhenAll 同时发起 100 个 SaveChanges —— 就等于向连接池申请 100 个连接,远超默认上限(通常 100,但受服务器资源限制)
  • 正确做法:用 SemaphoreSlim 限流,例如
    var semaphore = new SemaphoreSlim(8);
    await semaphore.WaitAsync();
    try { await context.SaveChangesAsync(); }
    finally { semaphore.Release(); }
  • 连接字符串中显式加大 Max Pool Size=200 不解决问题,只是掩盖争抢——应优先降低并发请求数,再调高池大小作为补充
真正卡住海量导入的,往往不是 CPU 或代码逻辑,而是数据库连接、事务日志增长、索引维护和锁等待。先确认瓶颈在哪,再选 SqlBulkCopy、分批 SaveChanges 还是纯原生 ADO.NET,比盲目加并发更有效。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

676

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

320

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

346

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1090

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

356

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

674

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

570

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

410

2024.04.29

从零到实战:Python 编程系统入门专题
从零到实战:Python 编程系统入门专题

本专题面向零编程基础及初学者,系统讲解 Python 编程语言的核心知识与实战技巧。内容涵盖 Python 基础语法、数据结构、函数与模块、常用标准库、简单算法思维,以及真实应用场景下的小项目实战。通过循序渐进的学习路径,帮助读者快速建立编程思维,掌握 Python 在数据处理、自动化脚本及日常开发中的实际应用能力,为后续深入学习 Web 开发、数据分析或人工智能打下坚实基础。

2

2026.01.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Java 教程
Java 教程

共578课时 | 42.1万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号