0

0

c# 如何实现一个简单的爬虫

星降

星降

发布时间:2026-01-16 13:15:09

|

215人浏览过

|

来源于php中文网

原创

使用 HttpClient 发起 GET 请求获取网页内容是 C# 最轻量现代做法,需复用实例、设超时、检查状态码、用 ReadAsStringAsync 读取 HTML;再用 HtmlAgilityPack 解析,注意 XPath 属性加 @、优先 InnerHtml + HtmlDecode;基础反反爬需设 User-Agent 和延时。

c# 如何实现一个简单的爬虫

HttpClient 发起 GET 请求获取网页内容

直接用 HttpClient 是 C# 最轻量、最现代的做法,比已过时的 WebClient 更可靠,也比 HttpWebRequest 更简洁。注意必须复用同一个 HttpClient 实例,否则容易触发端口耗尽(SocketException: Too many open files)。

  • 在类级别声明并复用:private static readonly HttpClient client = new HttpClient();
  • 设置超时避免卡死:client.Timeout = TimeSpan.FromSeconds(10);
  • 记得处理响应状态码if (!response.IsSuccessStatusCode),不要只靠异常判断
  • await response.Content.ReadAsStringAsync() 读取 HTML 字符串,不是 ReadAsByteArrayAsync(除非你要解析二进制)

HtmlAgilityPack 解析 HTML 提取链接和文本

HtmlAgilityPack 是 .NET 生态里最稳定、兼容性最好的 HTML 解析库,能容忍 malformed HTML(比如缺少闭合标签),比正则匹配靠谱得多。它不依赖浏览器引擎,纯内存解析,速度快。

  • 安装包:dotnet add package HtmlAgilityPack
  • 加载 HTML:var doc = new HtmlDocument(); doc.LoadHtml(htmlString);
  • 查所有链接:doc.DocumentNode.SelectNodes("//a[@href]"),注意 XPath 中属性要带 @
  • 提取文本内容别用 InnerText(含换行/空白多),优先用 InnerHtml + WebUtility.HtmlDecode() 清理

如何避免被目标网站封禁(基础反反爬)

多数小站点没严格风控,但加几条基础头就能绕过最简单的 UA 拦截。别学某些教程发一堆无意义请求头,反而显得可疑。

纯CSS3水平手风琴分享按钮菜单
纯CSS3水平手风琴分享按钮菜单

对于手风琴动画,我们以前分享过很多,有基于jQuery的手风琴菜单,比如jQuery多层级垂直手风琴菜单;也有基于jQuery的手风琴焦点图,比如jQuery实现横向手风琴图片轮播焦点图效果。今天要分享的是一款利用纯CSS3实现的水平手风琴分享按钮菜单,每一个分享按钮展开时会有该平台的简单介绍,非常绚丽实用。

下载
  • 必设 User-Agent:用主流浏览器值,比如 Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
  • 可选加 AcceptAccept-Language,但不是必须;Referer 只在需要模拟页面跳转时才设
  • 加延时是关键:await Task.Delay(1000)(1 秒),别用 Thread.Sleep 阻塞线程
  • 不要并发猛刷——单线程 + 延迟,比十个并发还安全
using System;
using System.Net.Http;
using System.Threading.Tasks;
using HtmlAgilityPack;

class SimpleCrawler { private static readonly HttpClient client = new HttpClient { Timeout = TimeSpan.FromSeconds(10) };

static SimpleCrawler()
{
    client.DefaultRequestHeaders.UserAgent.ParseAdd(
        "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36");
}

public static async Task CrawlAsync(string url)
{
    try
    {
        var html = await client.GetStringAsync(url);
        var doc = new HtmlDocument();
        doc.LoadHtml(html);

        foreach (var link in doc.DocumentNode.SelectNodes("//a[@href]"))
        {
            var href = link.GetAttributeValue("href", "");
            if (Uri.IsWellFormedUriString(href, UriKind.Absolute))
                Console.WriteLine(href);
        }
    }
    catch (HttpRequestException ex)
    {
        Console.WriteLine($"Request failed: {ex.StatusCode}");
    }
}

}

真正难的不是发请求或提链接,而是判断哪些 URL 值得跟进、怎么去重、怎么处理跳转和相对路径、何时停——这些逻辑一加上,就不再是“简单”爬虫了。

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

611

2023.06.14

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

646

2023.06.21

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

466

2023.07.31

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

245

2023.08.01

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

2889

2023.08.11

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

505

2023.08.11

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

311

2023.08.31

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

423

2023.09.01

C++ 单元测试与代码质量保障
C++ 单元测试与代码质量保障

本专题系统讲解 C++ 在单元测试与代码质量保障方面的实战方法,包括测试驱动开发理念、Google Test/Google Mock 的使用、测试用例设计、边界条件验证、持续集成中的自动化测试流程,以及常见代码质量问题的发现与修复。通过工程化示例,帮助开发者建立 可测试、可维护、高质量的 C++ 项目体系。

3

2026.01.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 2.9万人学习

AngularJS教程
AngularJS教程

共24课时 | 2.6万人学习

CSS教程
CSS教程

共754课时 | 19.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号