python - scrapy 爬取pages比实际进入items的多得多?
PHP中文网
PHP中文网 2017-05-18 10:47:40
[Python讨论组]

2017-05-12 23:39:52 [scrapy.extensions.logstats] INFO:
Crawled 3000 pages (at 61 pages/min), scraped 454 items (at 10 items/min)

为什么我使用scrapy爬取的时候访问pages要比实际进入items的的多的多?
就是爬了半天items里没有几条数据入库的
有什么办法解决么?

PHP中文网
PHP中文网

认证高级PHP讲师

全部回复(1)
ringa_lee

重定向了,你看到了吧,重定向就得请求两个页面啊。还有就是看有不有页面解析发生了错误。

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号