
本文详细介绍了在 java 中比较两个内容相同但列顺序可能不同的 csv 文件的方法。通过构建自定义的 `pair` 类和嵌套的 `set` 数据结构,我们将 csv 文件的每一行数据转化为与列顺序无关的键值对集合,进而实现对整个文件的内容级别比较,确保即使列序错乱也能准确判断数据一致性。
在数据处理中,我们经常需要比较两个 CSV 文件的数据是否一致。然而,当两个文件包含相同的数据但列的顺序不同时,传统的逐行字符串比较方法(如将每行视为一个 String 并放入 HashSet)会失效。这是因为即使数据相同,不同的列顺序也会导致行字符串的表示形式不同。本文将介绍一种在 Java 中实现对这类 CSV 文件进行高效、准确校验的方法,核心在于构建一个对列顺序不敏感的数据结构。
考虑以下两个 CSV 文件示例:
源文件 (source.csv):
a,b,c 1,2,3 4,5,6
目标文件 (target.csv):
立即学习“Java免费学习笔记(深入)”;
a,c,b 1,3,2 4,6,5
尽管这两个文件在逻辑上包含相同的数据(例如,第一行都是 a=1, b=2, c=3),但由于目标文件的列顺序不同,将其直接读取为字符串 1,2,3 和 1,3,2 后,它们在 HashSet<String> 中会被视为不同的元素,导致比较失败。
为了解决这个问题,我们需要一种机制来将每行数据表示为一个与列顺序无关的结构。
解决方案的关键在于,将 CSV 的每一行数据转化为一个由“列名-列值”对组成的集合。这样,无论列在文件中如何排序,只要“列名-列值”对的集合是相同的,就认为这两行数据是等价的。
我们将采用以下数据结构:
Pair 类是此方案的基础,它将一个数据值与其对应的列头关联起来。为了使 Pair 对象能在 HashSet 中正确工作,我们必须正确地重写 equals() 和 hashCode() 方法。
package comparecsv;
import java.util.Objects;
public class Pair <T, U> {
private final T t;
private final U u;
public Pair (T aT, U aU) {
this.t = aT;
this.u = aU;
}
// 获取第一个元素
public T getFirst() {
return t;
}
// 获取第二个元素
public U getSecond() {
return u;
}
@Override
public int hashCode() {
int hash = 3;
hash = 59 * hash + Objects.hashCode(this.t);
hash = 59 * hash + Objects.hashCode(this.u);
return hash;
}
@Override
public boolean equals(Object obj) {
if (this == obj) { return true; }
if (obj == null) { return false; }
if (getClass() != obj.getClass()) { return false; }
final Pair<?, ?> other = (Pair<?, ?>) obj;
if (!Objects.equals(this.t, other.t)) {
return false;
}
return Objects.equals(this.u, other.u);
} // end equals
@Override
public String toString() {
return "(" + t + ", " + u + ")";
}
} // end class Pair说明:
接下来,我们将创建一个 CompareCSV 类,它负责解析 CSV 数据并将其转换为我们定义的 Set<Set<Pair<String, String>>> 结构,然后提供比较方法。
package comparecsv;
import java.util.Arrays;
import java.util.HashSet;
import java.util.List;
import java.util.Set;
public final class CompareCSV {
private final Set<Set<Pair<String, String>>> theSet;
private final String[] columnHeaders; // 存储列头
// 私有构造器,用于初始化列头和存储数据的Set
private CompareCSV (String columnHeadingsLine, String headerSplitRegex) {
this.columnHeaders = columnHeadingsLine.split(headerSplitRegex);
this.theSet = new HashSet<>();
}
// 将一行数据字符串转换为 Set<Pair<String, String>>
private Set<Pair<String, String>> createLine (String dataLine, String columnSplitRegex) {
String[] columnValues = dataLine.split(columnSplitRegex);
Set<Pair<String, String>> lineSet = new HashSet<>();
// 遍历列值,将其与对应的列头配对
for (int i = 0; i < columnValues.length; i++) {
// 确保列值数量不超过列头数量,避免索引越界
if (i < columnHeaders.length) {
lineSet.add(new Pair<>(columnValues[i], columnHeaders[i]));
} else {
// 可选:处理数据行比头行多列的情况,这里选择忽略或抛出异常
System.err.println("Warning: Data line has more columns than header: " + dataLine);
break; // 或者 continue
}
}
return lineSet;
}
// 获取解析后的数据集合
public Set<Set<Pair<String, String>>> getSet () {
return theSet;
}
// 获取列头(返回副本以防止外部修改)
public String[] getColumnHeaders () {
return Arrays.copyOf(columnHeaders, columnHeaders.length);
}
/**
* 静态工厂方法,从 List<String> 数据创建 CompareCSV 实例。
* @param theData 包含 CSV 数据的字符串列表,第一行为列头。
* @param headerSplitRegex 用于分割列头的正则表达式。
* @param columnSplitRegex 用于分割数据行的正则表达式。
* @return 包含解析后 CSV 数据的 CompareCSV 实例。
*/
public static CompareCSV createFromData (List<String> theData,
String headerSplitRegex, String columnSplitRegex) {
if (theData == null || theData.isEmpty()) {
throw new IllegalArgumentException("CSV data cannot be null or empty.");
}
// 第一行作为列头
CompareCSV result = new CompareCSV(theData.get(0), headerSplitRegex);
// 从第二行开始处理数据行
for (int i = 1; i < theData.size(); ++i) {
result.theSet.add(result.createLine(theData.get(i), columnSplitRegex));
}
return result;
}
// 主方法,用于测试
public static void main(String[] args) {
// 示例源数据
String[] sourceDataArray = {
"a,b,c,d,e",
"6,7,8,9,10",
"1,2,3,4,5",
"11,12,13,14,15",
"16,17,18,19,20"
};
// 示例目标数据,列序不同,行序也可能不同
String[] targetDataArray = {
"c,b,e,d,a", // 列序不同
"3,2,5,4,1",
"8,7,10,9,6",
"13,12,15,14,11",
"18,17,20,19,16"
};
List<String> sourceList = Arrays.asList(sourceDataArray);
List<String> targetList = Arrays.asList(targetDataArray);
// 创建 CompareCSV 实例
CompareCSV sourceCSV = createFromData(sourceList, ",", ",");
CompareCSV targetCSV = createFromData(targetList, ",", ",");
// 进行比较
boolean sourceContainsTarget = sourceCSV.getSet().containsAll(targetCSV.getSet());
boolean targetContainsSource = targetCSV.getSet().containsAll(sourceCSV.getSet());
boolean areEqual = sourceCSV.getSet().equals(targetCSV.getSet()); // 检查两个Set是否完全相等
System.out.println("源文件是否包含目标文件所有数据? " + sourceContainsTarget);
System.out.println("目标文件是否包含源文件所有数据? " + targetContainsSource);
System.out.println("两个文件数据是否完全相等? " + areEqual);
// 进一步测试,例如一个文件比另一个文件多一行
String[] sourceDataArray2 = {
"a,b,c",
"1,2,3",
"4,5,6"
};
String[] targetDataArray2 = {
"c,b,a",
"3,2,1",
"6,5,4",
"7,8,9" // 目标文件多一行
};
List<String> sourceList2 = Arrays.asList(sourceDataArray2);
List<String> targetList2 = Arrays.asList(targetDataArray2);
CompareCSV sourceCSV2 = createFromData(sourceList2, ",", ",");
CompareCSV targetCSV2 = createFromData(targetList2, ",", ",");
System.out.println("\n--- 额外测试:文件数据量不一致 ---");
System.out.println("源文件2是否包含目标文件2所有数据? " + sourceCSV2.getSet().containsAll(targetCSV2.getSet())); // 预期:false
System.out.println("目标文件2是否包含源文件2所有数据? " + targetCSV2.getSet().containsAll(sourceCSV2.getSet())); // 预期:true
System.out.println("两个文件2数据是否完全相等? " + targetCSV2.getSet().equals(sourceCSV2.getSet())); // 预期:false
}
} // end class CompareCSVCompareCSV 构造器与 columnHeaders:
createLine(String dataLine, String columnSplitRegex) 方法:
createFromData 静态工厂方法:
main 方法中的比较:
通过引入自定义的 Pair 类并巧妙地利用 Set 的无序性,我们成功构建了一个对 CSV 文件列序和行序不敏感的数据比较方案。这种方法确保了即使在列顺序和行顺序发生变化的情况下,也能准确地判断两个 CSV 文件的数据内容是否一致。在实际应用中,你可以将 List<String> 的数据源替换为从实际 CSV 文件读取的逻辑,并根据需要增强错误处理机制。
以上就是Java 中如何高效校验列顺序不同的 CSV 文件数据一致性的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号