文章 专题 AI工具 学习 下载 问答 源码 最近更新
PHP
会员中心 讲师中心 微信公众号
python - scrapy 处理 文章 分页的内容
PHP中文网
PHP中文网 2017-04-18 10:32:48
[Python讨论组]
0 3 720
举报

如一篇文章有2-3页，然后想把这些内容页爬下来，拼接成一页，然后再放入数据库。
文章url如：article_1.html,article_2.html
item有：item['title'],item['content']
而item['content']就是拼接成一页的内容。
大概怎么写呢？

PHP中文网
PHP中文网

认证0级讲师

全部回复(3)
大家讲道理
大家讲道理2017-04-18 10:34:48 3楼

找到分页接口url

赞 +0
添加回复
大家讲道理
大家讲道理2017-04-18 10:34:48 2楼

找到那个下一页的链接，加入到爬取url列表中

赞 +0
添加回复
PHP中文网
PHP中文网2017-04-18 10:34:48 1楼

可以在rules里面写正则自动扫描符合的url

赞 +0
添加回复
专题推荐
更多>
热门话题
热门教程
更多>
相关教程
热门推荐
最新课程
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网：公益在线php培训，帮助PHP学习者快速成长！
关注服务号 技术交流群
app下载
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号

  • PHP学习

  • 技术支持

  • 返回顶部