首页 > 后端开发 > Golang > 正文

Go语言文本去重耗时17秒,如何优化才能提升性能?

花韻仙語
发布: 2025-03-03 10:18:01
原创
290人浏览过

go语言文本去重耗时17秒,如何优化才能提升性能?

Go语言文本去重性能优化:从17秒到飞速提升

本文针对一个Go语言文本去重程序进行性能分析和优化。该程序处理约75万行文本,初始去重耗时17秒,我们将通过改进代码,显著提升其效率。

原始代码使用map[string]bool存储去重结果,并通过字符串拼接累积去重后的文本。测试结果显示耗时17.654秒。代码如下:

package distinct

import (
    "bufio"
    "fmt"
    "io"
    "os"
    "strings"
)

//DistinctFile 为指定文件去重
func DistinctFile(file string, output string) {
    // 读取需要去重的文件内容
    f, _ := os.Open(file)
    defer func() {
        ferr := f.Close()
        if ferr != nil {
            fmt.Println(ferr.Error())
        }
    }()

    reader := bufio.NewReader(f)

    // 去重map
    var set = make(map[string]bool, 0)
    // 去重后的结果
    var result string

    for {
        line, isPrefix, err := reader.ReadLine()

        if err != nil {
            break
        }

        if !isPrefix {
            lineStr := string(line)
            if set[lineStr] {
                continue
            }
            result += fmt.Sprintf("%s\n", lineStr)
            set[lineStr] = true
        }
    }

    // 写入另一个文件
    nf, _ := os.Create(output)
    io.Copy(nf, strings.NewReader(result))
    defer nf.Close()
}
登录后复制

性能瓶颈及优化方案:

该程序的性能瓶颈主要在于两点:

立即学习go语言免费学习笔记(深入)”;

  1. 字符串拼接: var result string 方式的字符串拼接效率低下,每次拼接都会重新分配内存。
  2. map初始化: var set = make(map[string]bool, 0) 没有预分配空间,导致频繁哈希表扩容。

针对以上问题,我们提出以下优化方案:

  1. 使用strings.Builder: 用strings.Builder替代字符串拼接,避免频繁内存分配,显著提升效率。

  2. 预分配map空间: 将var set = make(map[string]bool, 0) 改为 var set = make(map[string]struct{}, 750000),预分配足够的空间,减少哈希表扩容次数。使用struct{}代替bool作为map的值,可以节省少量内存。

通过以上优化,可以大幅提升文本去重效率。 建议根据实际文本大小调整map的预分配空间大小。

以上就是Go语言文本去重耗时17秒,如何优化才能提升性能?的详细内容,更多请关注php中文网其它相关文章!

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号