我每天会下载一个txt的记录文件(过去7天的记录)导入到数据库,txt文件里面大概有2000多条记录,其中80%都是数据库已存在的,只20%左右的数据是新数据,我现在是直接循环读取txt文件写入到数据库,重复的就会失败,但感觉这样效率太低了,请问有没有比较高效一点的方法?
txt中新数据是固定添加在文件尾,还是随机穿插在老数据中?
已知数据是过去7天的,那么可从
1、数据库中读取开始日期之后的数据到数组
2、读取数据文件到数组
3、对两数组求一个差集
4、将差集插入数据库
把这个导进去一个新表...
然后 写sql 批量insert into ,
条件的时候写where not in (select 主键那些 form txt文件导入的新表)
希望能帮到你!
1 从数据库中读取文件到一个txt文件old.txt
2 读取old.txt文件行数
3 从new.txt文件指定行数开始读取
仅供参考.
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号