首页 > 后端开发 > Golang > 正文

Go Colly如何找到请求的元素?

PHPz
发布: 2024-02-13 13:57:08
转载
887人浏览过

go colly如何找到请求的元素?

php小编香蕉将为大家介绍一款强大的网络爬虫框架——Go Colly。Go Colly是基于Go语言开发的一款轻量级网络爬虫框架,它具有高性能、高并发、易扩展等特点。在使用Go Colly进行网络爬取时,我们常常需要根据自己的需求找到请求的元素。那么,Go Colly如何找到请求的元素呢?接下来,我们将一一为大家解答。

问题内容

我正在尝试使用 colly 让特定的表循环遍历其内容,但该表未被识别,这是我到目前为止所拥有的。

package main

import (
    "fmt"
    
    "github.com/gocolly/colly"
)

func main() {
    c := colly.NewCollector(
        colly.AllowedDomains("wikipedia.org", "en.wikipedia.org"),
    )
    
    links := make([]string, 0)

    c.OnHTML("div.mw-parser-output", func(e *colly.HTMLElement) {
        
        e.ForEach("table.wikitable.sortable.jquery-tablesorter > tbody > tr", func(_ int, elem *colly.HTMLElement) {
            fmt.Println(elem.ChildAttr("a[href]", "href"))
            links = append(links, elem.ChildAttr("a[href]", "href"))
        })
    })
    
    c.OnRequest(func(r *colly.Request) {
        fmt.Println("Visiting", r.URL.String())
    })

    c.Visit("https://en.wikipedia.org/wiki/List_of_countries_and_dependencies_by_population")
    fmt.Println("Found urls for", len(links), "countries.")
}
登录后复制

我需要循环思考表中的所有 tr 元素。

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

腾讯元宝 223
查看详情 腾讯元宝

解决方法

事实证明,类的名称实际上是 wikitable.sortable,即使在 chrome 控制台中显示为 wikitable sortable jquery-tablesorter。我不知道为什么名称如此不同,但它解决了我的问题。

以上就是Go Colly如何找到请求的元素?的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:stackoverflow网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号