本文针对一个Go语言文本去重程序进行性能分析和优化。该程序处理约75万行文本,初始去重耗时17秒,我们将通过改进代码,显著提升其效率。
原始代码使用map[string]bool存储去重结果,并通过字符串拼接累积去重后的文本。测试结果显示耗时17.654秒。代码如下:
package distinct import ( "bufio" "fmt" "io" "os" "strings" ) //DistinctFile 为指定文件去重 func DistinctFile(file string, output string) { // 读取需要去重的文件内容 f, _ := os.Open(file) defer func() { ferr := f.Close() if ferr != nil { fmt.Println(ferr.Error()) } }() reader := bufio.NewReader(f) // 去重map var set = make(map[string]bool, 0) // 去重后的结果 var result string for { line, isPrefix, err := reader.ReadLine() if err != nil { break } if !isPrefix { lineStr := string(line) if set[lineStr] { continue } result += fmt.Sprintf("%s\n", lineStr) set[lineStr] = true } } // 写入另一个文件 nf, _ := os.Create(output) io.Copy(nf, strings.NewReader(result)) defer nf.Close() }
性能瓶颈及优化方案:
该程序的性能瓶颈主要在于两点:
立即学习“go语言免费学习笔记(深入)”;
针对以上问题,我们提出以下优化方案:
使用strings.Builder: 用strings.Builder替代字符串拼接,避免频繁内存分配,显著提升效率。
预分配map空间: 将var set = make(map[string]bool, 0) 改为 var set = make(map[string]struct{}, 750000),预分配足够的空间,减少哈希表扩容次数。使用struct{}代替bool作为map的值,可以节省少量内存。
通过以上优化,可以大幅提升文本去重效率。 建议根据实际文本大小调整map的预分配空间大小。
以上就是Go语言文本去重耗时17秒,如何优化才能提升性能?的详细内容,更多请关注php中文网其它相关文章!
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号