0

0

insert into select 怎么分批

小老鼠

小老鼠

发布时间:2024-05-10 00:36:20

|

2121人浏览过

|

来源于php中文网

原创

insert into ... select 语句分批处理,是为了避免一次性插入大量数据导致数据库服务器资源耗尽,影响性能甚至造成数据库崩溃。 高效的分批处理需要仔细考虑数据量、服务器性能和数据库配置。

insert into select 怎么分批

直接用 LIMIT 子句是最常用的方法。 我曾经处理过一个项目,需要将一个超过千万条记录的临时表的数据导入到正式表中。如果直接使用 INSERT INTO ... SELECT * FROM temp_table;,数据库直接挂掉了。 我们最终采用分批插入,代码类似这样:

DECLARE @batchSize INT = 10000; -- 批处理大小,根据实际情况调整
DECLARE @startRow INT = 0;

WHILE 1 = 1
BEGIN
    INSERT INTO target_table (column1, column2, ...)
    SELECT column1, column2, ...
    FROM temp_table
    WHERE id > @startRow
    LIMIT @batchSize;

    IF @@ROWCOUNT = 0
        BREAK; -- 没有更多数据则退出循环

    SET @startRow = @startRow + @batchSize;
    -- 可在此处添加等待或其他操作,避免过度占用资源
    WAITFOR DELAY '00:00:01'; -- 等待一秒,调整等待时间控制资源占用
END;

这段代码的核心在于 LIMIT @batchSize,它限制每次插入的数据行数。 @@ROWCOUNT 变量记录了本次插入的行数,当为0时,表示已经处理完所有数据。 WAITFOR DELAY 则是一个关键的细节,它可以有效控制插入速度,避免对数据库造成冲击。 这个等待时间需要根据实际情况进行调整,过短可能仍然会造成压力,过长则会影响效率。 我最初设置的等待时间是 0,结果发现服务器负载还是很高,后来调整到 1 秒才比较稳定。

批处理大小 @batchSize 的选择也很重要。 过小会增加循环次数,降低效率;过大则可能导致单个批次处理时间过长,同样影响效率,甚至引发错误。 最佳值需要根据你的数据库服务器性能和数据表结构进行测试和调整。 我建议从几千条记录开始测试,逐步增加,直到找到一个平衡点,既能保证效率,又能避免服务器过载。

Word-As-Image for Semantic Typography
Word-As-Image for Semantic Typography

文字变形艺术字、文字变形象形字

下载

此外,还需要注意的是,事务控制也是一个重要的方面。 你可以考虑在循环内部使用事务,保证数据的一致性。如果一个批次插入失败,整个事务回滚,避免数据不完整。但也要注意,事务会增加开销,需要权衡利弊。

最后, 选择合适的索引对于提升性能也至关重要。 确保目标表上有合适的索引,特别是主键和经常被查询的列,可以显著加快插入速度。

记住,分批插入是一个需要根据实际情况调整参数的过程。没有一个放之四海而皆准的最佳实践,只有不断测试和优化,才能找到最适合你的方案。

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

330

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2068

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

346

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

251

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

318

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

402

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

368

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

217

2023.10.19

俄罗斯搜索引擎Yandex最新官方入口网址
俄罗斯搜索引擎Yandex最新官方入口网址

Yandex官方入口网址是https://yandex.com;用户可通过网页端直连或移动端浏览器直接访问,无需登录即可使用搜索、图片、新闻、地图等全部基础功能,并支持多语种检索与静态资源精准筛选。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1

2025.12.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号