本文探讨Go语言爬虫库Colly中queue线程数设置及其与请求延迟的交互作用。 我们将分析设定线程数和请求延迟后，实际爬取过程中的表现差异。
假设我们设置队列线程数为2：
q, _ := queue.New(2, storage)
并向其中添加三个请求。同时，为collector设置5秒的请求延迟：
c.Limit(&colly.LimitRule{DomainGlob: "*", Delay: 5 * time.Second})预期是：两个线程几乎同时发出前两个请求，并在5秒后得到响应；第三个请求在10秒后发出并响应。然而，实际结果并非如此：
这表明Colly的请求延迟并非仅作用于单个请求，而是影响整个队列的处理。 如果设置了请求延迟，队列线程数的设置似乎失效。
这种现象的原因可能有：
关于Colly的OnRequest回调函数，需要注意的是，它主要用于创建请求，而非实际发出请求。请求加入队列后OnRequest触发，而请求的实际发出由Colly内部机制控制。
因此，在Colly中使用queue时，如果设置了请求延迟，线程数设置可能无法达到预期效果。 理解这种机制对于优化爬虫程序至关重要。
以上就是在Go的爬虫colly中，设定queue线程数和请求延迟后，实际效果是怎样的？的详细内容，更多请关注php中文网其它相关文章！
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移，垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是，许多工具可以让 Windows 保持平稳运行。
广告![ThinkPHP5快速开发企业站点[全程实录]](https://img.php.cn/upload/course/000/000/068/6253d918a3ce7278.png)
收藏
收藏
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
673
