0

0

如何使用 Selenium(Python)精准提取网页中特定链接集合

聖光之護

聖光之護

发布时间:2026-01-10 11:28:02

|

386人浏览过

|

来源于php中文网

原创

如何使用 Selenium(Python)精准提取网页中特定链接集合

本文介绍在 python 中利用 selenium 4.8 提取嵌套在 `

  • ` 结构中的多个目标链接 `href` 属性,并返回结构化列表,便于后续遍历与数据处理。

    要从动态渲染的网页中可靠提取特定链接(如每个

  • 内部的 标签 href),仅靠 find_elements() 简单调用可能因页面加载延迟或 DOM 未就绪而失败。推荐采用显式等待(Explicit Wait)机制,结合精准的 XPath 定位器,确保元素完全加载并可交互。

    以下是一个完整、健壮的实现示例:

    from selenium import webdriver
    from selenium.webdriver.common.by import By
    from selenium.webdriver.support.ui import WebDriverWait
    from selenium.webdriver.support import expected_conditions as EC
    from selenium.webdriver.chrome.options import Options
    
    # 可选:无头模式(适合服务器环境)
    chrome_options = Options()
    chrome_options.add_argument("--headless")
    driver = webdriver.Chrome(options=chrome_options)
    
    try:
        driver.get("https://example.com")  # 替换为目标网站 URL
    
        # 显式等待:等待所有匹配的  元素出现在 DOM 中(不需可点击,仅需存在)
        wait = WebDriverWait(driver, 25)  # 最长等待 25 秒
        link_elements = wait.until(
            EC.presence_of_all_elements_located((
                By.XPATH, 
                '//li//h4[@class="programme titles"]/a[@class="br-blocklink__link"]'
            ))
        )
    
        # 提取所有 href 属性,自动过滤 None 值(若某元素无 href,get_attribute 返回 None)
        href_list = [elem.get_attribute('href') for elem in link_elements if elem.get_attribute('href')]
    
        print(f"成功提取 {len(href_list)} 个有效链接:")
        for i, url in enumerate(href_list, 1):
            print(f"{i}. {url}")
    
        # ✅ 此时 href_list 即为可直接迭代的 Python 列表,例如:
        # for url in href_list:
        #     driver.get(url)
        #     # 进行详情页解析...
    
    finally:
        driver.quit()

    关键说明与注意事项:

    Ink For All
    Ink For All

    AI写作和营销助手,精心设计的 UI

    下载
    • XPath 精准性://li//h4[@class="programme titles"]/a[@class="br-blocklink__link"] 使用了 @class 的全值匹配,适用于 class 名固定且无动态拼接的场景。若实际 HTML 中 class 含多个值(如 class="programme titles featured"),建议改用 contains(@class, 'programme titles') 或更鲁棒的 CSS 选择器(如 li h4.programme.titles a.br-blocklink__link)。
    • 显式等待优于 time.sleep():presence_of_all_elements_located 确保元素已存在于 DOM,但不保证可见或可点击;如需进一步交互(如点击),应改用 element_to_be_clickable。
    • 空 href 防御:get_attribute('href') 在元素无 href 属性时返回 None,代码中已通过 if elem.get_attribute('href') 过滤,避免无效链接混入结果。
    • 异常处理建议:生产环境中应包裹 try/except 捕获 TimeoutException、NoSuchElementException 等,提升脚本健壮性。
    • 性能提示:若页面含大量
    • ,可考虑限制 XPath 范围(如添加父容器 ID)或分页加载,避免定位耗时过长。

    通过该方法,你将获得一个纯净、可用的 href 字符串列表,无缝对接后续的多页面抓取、并发请求或数据持久化流程。

    立即学习Python免费学习笔记(深入)”;

  • 相关专题

    更多
    python开发工具
    python开发工具

    php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

    744

    2023.06.15

    python打包成可执行文件
    python打包成可执行文件

    本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

    634

    2023.07.20

    python能做什么
    python能做什么

    python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

    757

    2023.07.25

    format在python中的用法
    format在python中的用法

    Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

    617

    2023.07.31

    python教程
    python教程

    Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

    1259

    2023.08.03

    python环境变量的配置
    python环境变量的配置

    Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    547

    2023.08.04

    python eval
    python eval

    eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    577

    2023.08.04

    scratch和python区别
    scratch和python区别

    scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

    705

    2023.08.11

    c++主流开发框架汇总
    c++主流开发框架汇总

    本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

    25

    2026.01.09

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    相关推荐
    /
    热门推荐
    /
    最新课程
    Sass 教程
    Sass 教程

    共14课时 | 0.7万人学习

    Bootstrap 5教程
    Bootstrap 5教程

    共46课时 | 2.8万人学习

    CSS教程
    CSS教程

    共754课时 | 18.4万人学习

    关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
    php中文网:公益在线php培训,帮助PHP学习者快速成长!
    关注服务号 技术交流群
    PHP中文网订阅号
    每天精选资源文章推送

    Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号