0

0

Go语言中实现并发定时任务与动态更新列表的安全实践

DDD

DDD

发布时间:2025-10-13 08:41:14

|

219人浏览过

|

来源于php中文网

原创

Go语言中实现并发定时任务与动态更新列表的安全实践

本教程探讨如何在go语言中安全地实现并发定时任务,并允许在运行时动态更新任务列表,同时避免竞态条件。通过深入讲解go的`channel`和`select`机制,我们将构建一个健壮的定时抓取器,演示如何通过通信而非共享内存来管理共享状态,确保数据一致性和并发安全性。

在Go语言中开发并发应用程序时,一个常见需求是执行周期性任务,例如定时轮询一组URL。更进一步,我们可能还需要在程序运行时动态地添加或移除这些URL。直接在并发执行的goroutine中修改共享的URL列表,极易导致竞态条件(Race Condition),从而引发不可预测的行为和数据不一致。Go语言提倡“不要通过共享内存来通信,而要通过通信来共享内存”的哲学,这为解决此类问题提供了清晰的指导。

并发共享状态的挑战

考虑一个简单的定时轮询器,其核心逻辑可能如下:

func (obj *MyObj) Poll() {
    for {
        for _, url := range obj.UrlList {
            // 下载URL内容并处理
            // ...
        }
        time.Sleep(30 * time.Minute)
    }
}

// 在其他地方启动
// go obj.Poll()

如果obj.UrlList是一个公共字段,并且在Poll goroutine运行的同时,另一个goroutine尝试修改obj.UrlList(例如,添加新的URL),那么就会出现竞态条件。Poll goroutine可能正在遍历一个不完整的列表,或者在遍历过程中列表被修改,导致迭代器失效,甚至程序崩溃。这种直接共享内存的方式在并发环境下是危险的。

Go语言的解决方案:Channel与Select

为了安全地在并发环境中管理共享状态,Go语言提供了channel(通道)作为goroutine之间通信的主要机制。select语句则允许goroutine同时等待多个通信操作,并在其中一个准备好时执行相应的代码块。结合这两者,我们可以设计一个模式,确保对共享资源的访问是同步且安全的。

立即学习go语言免费学习笔记(深入)”;

设计一个安全的定时抓取器

我们将构建一个名为harvester的结构体,它将封装定时任务的逻辑以及URL列表的管理。

结构定义

harvester结构体包含以下字段:

Viggle AI
Viggle AI

Viggle AI是一个AI驱动的3D动画生成平台,可以帮助用户创建可控角色的3D动画视频。

下载
  • ticker *time.Ticker: 用于生成周期性事件的定时器。
  • add chan string: 一个字符串类型的通道,用于接收外部发送的新URL。
  • urls []string: 存储当前需要轮询的URL列表。
  • quit chan struct{}: 一个用于接收退出信号的通道,实现程序的优雅关闭。
package main

import (
    "fmt"
    "time"
)

// harvester 结构体封装了定时轮询逻辑和URL列表管理
type harvester struct {
    ticker *time.Ticker // 周期性定时器
    add    chan string  // 接收新URL的通道
    urls   []string     // 当前要轮询的URL列表
    quit   chan struct{} // 用于控制harvester优雅退出的通道
}

初始化与启动

newHarvester函数负责创建并初始化harvester实例,并启动其核心的run goroutine。这将harvester的内部操作与外部调用隔离开来。

// newHarvester 创建并启动一个新的harvester实例
func newHarvester(interval time.Duration) *harvester {
    rv := &harvester{
        ticker: time.NewTicker(interval),
        add:    make(chan string),
        urls:   make([]string, 0), // 初始化为空列表
        quit:   make(chan struct{}),
    }
    go rv.run() // 在新的goroutine中运行核心逻辑
    return rv
}

核心运行逻辑 (run goroutine)

run方法是harvester的核心。它在一个无限循环中使用select语句来监听多种类型的事件:定时器触发事件、新URL添加事件以及退出信号。

// run 方法包含harvester的核心逻辑,在一个独立的goroutine中运行
func (h *harvester) run() {
    for {
        select {
        case <-h.ticker.C:
            // 当定时器触发时,执行URL轮询
            fmt.Printf("[%s] 定时器触发,开始轮询 %d 个URL...\n", time.Now().Format("15:04:05"), len(h.urls))
            if len(h.urls) == 0 {
                fmt.Printf("[%s] URL列表为空,跳过轮询。\n", time.Now().Format("15:04:05"))
                continue
            }
            for _, u := range h.urls {
                // 模拟URL抓取操作
                harvest(u)
            }
            fmt.Printf("[%s] 轮询完成。\n", time.Now().Format("15:04:05"))

        case u := <-h.add:
            // 接收到新的URL,将其添加到列表中
            h.urls = append(h.urls, u)
            fmt.Printf("[%s] 添加新URL: %s (当前列表数量: %d)\n", time.Now().Format("15:04:05"), u, len(h.urls))

        case <-h.quit:
            // 收到退出信号,停止定时器并退出goroutine
            h.ticker.Stop()
            fmt.Println("Harvester 收到退出信号,正在停止...")
            return
        }
    }
}

// harvest 模拟实际的URL抓取操作
func harvest(url string) {
    // 实际应用中这里会包含网络请求、数据解析等逻辑
    fmt.Printf("  正在抓取: %s\n", url)
    time.Sleep(50 * time.Millisecond) // 模拟网络延迟
}

select语句的关键在于其原子性:它会阻塞直到其中一个case可以执行。这意味着在任何给定时间,h.urls列表只会被一个操作(轮询、添加或未来的移除)访问,从而避免了竞态条件,确保了数据一致性。

外部接口 (AddURL 和 Stop)

为了让外部代码能够安全地与harvester交互,我们提供公共方法:

  • AddURL(u string): 将新的URL发送到add通道。
  • Stop(): 发送信号给quit通道,通知run goroutine优雅退出。
// AddURL 允许外部代码安全地向harvester添加新的URL
func (h *harvester) AddURL(u string) {
    h.add <- u
}

// Stop 优雅地停止harvester的运行
func (h *harvester) Stop() {
    close(h.quit) // 关闭quit通道发送退出信号
}

完整示例代码

以下是包含main函数,演示harvester如何创建、运行、动态更新和优雅停止的完整示例:

package main

import (
    "fmt"
    "time"
)

// harvester 结构体封装了定时轮询逻辑和URL列表管理
type harvester struct {
    ticker *time.Ticker // 周期性定时器
    add    chan string  // 接收新URL的通道
    urls   []string     // 当前要轮询的URL列表
    quit   chan struct{} // 用于控制harvester优雅退出的通道
}

// newHarvester 创建并启动一个新的harvester实例
func newHarvester(interval time.Duration) *harvester {
    rv := &harvester{
        ticker: time.NewTicker(interval),
        add:    make(chan string),
        urls:   make([]string, 0), // 初始化为空列表
        quit:   make(chan struct{}),
    }
    go rv.run() // 在新的goroutine中运行核心逻辑
    return rv
}

// run 方法包含harvester的核心逻辑,在一个独立的goroutine中运行
func (h *harvester) run() {
    for {
        select {
        case <-h.ticker.C:
            // 当定时器触发时,执行URL轮询
            fmt.Printf("[%s] 定时器触发,开始轮询

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

338

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

258

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

209

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1468

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

620

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

550

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

566

2024.04.29

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

166

2025.07.29

Java编译相关教程合集
Java编译相关教程合集

本专题整合了Java编译相关教程,阅读专题下面的文章了解更多详细内容。

9

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 4万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号