
本文详细介绍了如何使用Gson库在Java中高效解析和映射NDJSON(Newline Delimited JSON)文件中的多个JSON记录。针对传统Gson `fromJson`方法仅能读取首个记录的问题,教程提出了基于`JsonReader`和`peek()`方法的迭代解析方案,并提供了完整的Java代码示例,确保能够成功读取并反序列化文件中所有独立的JSON对象。
在处理包含多个独立JSON对象的文本文件时,NDJSON(Newline Delimited JSON)是一种常见格式,其中每个JSON对象占据一行。然而,当尝试使用Gson库解析这类文件时,开发者常会遇到只能成功读取第一个JSON记录的问题。这是因为Gson的fromJson方法在默认情况下会将整个输入流视为一个完整的JSON结构,一旦解析完第一个顶级JSON对象,就会认为输入结束。
为了解决这一问题,我们需要利用Gson提供的JsonReader类进行迭代式解析,逐个读取文件中的JSON对象。
理解NDJSON格式与传统JSON解析的差异
NDJSON文件中的每个记录都是一个独立的、完整的JSON对象,它们之间通过换行符分隔。例如:
{"id": 1, "name": "Alice"}
{"id": 2, "name": "Bob"}
{"id": 3, "name": "Charlie"}如果直接使用 gson.fromJson(reader, MyObject.class),Gson会读取第一个 {"id": 1, "name": "Alice"} 并成功映射,但接下来的内容会被忽略,因为Gson认为文件已经解析完毕。
解决方案:使用JsonReader进行迭代解析
要正确解析NDJSON文件中的所有记录,需要结合 JsonReader 和循环结构。JsonReader 提供了对JSON流更细粒度的控制。
本支付接口的特点,主要是用xml文件来记录订单详情和支付详情。代码比较简单,只要将里面的商户号、商户key换成你自己的,将回调url换成你的网站,就可以使用了。通过这个实例也可以很好的了解一般在线支付接口的基本工作原理。其中的pay.config文件记录的是支付详情,order.config是订单详情
核心步骤
- 初始化 JsonReader: 从文件或输入流创建 JsonReader 实例。
- 设置宽松模式 (setLenient(true)): NDJSON文件中的每个JSON对象之间通常没有逗号分隔,JsonReader 默认情况下会期望一个单一的JSON文档或由逗号分隔的JSON数组。为了让 JsonReader 能够容忍这种非严格的JSON格式(即多个顶级JSON对象),需要将其设置为宽松模式。
- 迭代读取: 使用循环结构,结合 reader.peek() 方法来判断是否到达文件末尾。在每次循环中,调用 gson.fromJson(reader, YourDTO.class) 读取一个JSON对象,并将其添加到列表中。
示例代码
假设我们有一个 CustomerFeedDTO 类,用于映射NDJSON文件中的每个客户记录:
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
// 客户数据传输对象 (DTO)
class CustomerFeedDTO {
private Map profile;
private Map phone;
private ArrayList> addresses;
private Map orders;
private ArrayList> customs;
// 构造函数、Getter和Setter方法(此处省略,但实际应用中需要)
public Map getProfile() { return profile; }
public void setProfile(Map profile) { this.profile = profile; }
public Map getPhone() { return phone; }
public void setPhone(Map phone) { this.phone = phone; }
public ArrayList> getAddresses() { return addresses; }
public void setAddresses(ArrayList> addresses) { this.addresses = addresses; }
public Map getOrders() { return orders; }
public void setOrders(Map orders) { this.orders = orders; }
public ArrayList> getCustoms() { return customs; }
public void setCustoms(ArrayList> customs) { this.customs = customs; }
@Override
public String toString() {
return "CustomerFeedDTO{" +
"profile=" + profile +
", phone=" + phone +
", addresses=" + addresses +
", orders=" + orders +
", customs=" + customs +
'}';
}
} 使用上述 CustomerFeedDTO 和 NDJSON 文件,以下代码演示了如何解析所有记录:
import com.google.gson.Gson;
import com.google.gson.stream.JsonReader;
import com.google.gson.stream.JsonToken;
import java.io.FileReader;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;
public class NdJsonParser {
public static void main(String[] args) {
List customerFeedDTOs = new ArrayList<>();
Gson gson = new Gson();
// 假设 customer.json 是你的 NDJSON 文件
try (FileReader fileReader = new FileReader("customer.json");
JsonReader reader = new JsonReader(fileReader)) {
// 必须设置为宽松模式,以处理多个顶级JSON对象
reader.setLenient(true);
// 循环读取,直到文档结束
while (reader.peek() != JsonToken.END_DOCUMENT) {
CustomerFeedDTO customerFeedDTO = gson.fromJson(reader, CustomerFeedDTO.class);
customerFeedDTOs.add(customerFeedDTO);
}
// 打印所有解析出的客户记录
for (int i = 0; i < customerFeedDTOs.size(); i++) {
System.out.println("Record " + (i + 1) + ": " + customerFeedDTOs.get(i));
}
} catch (IOException e) {
System.err.println("读取文件时发生错误: " + e.getMessage());
e.printStackTrace();
}
}
} reader.peek() 与 reader.hasNext() 的选择
在循环条件中,我们使用了 reader.peek() != JsonToken.END_DOCUMENT。peek() 方法返回下一个令牌的类型,而不会实际消耗它。当 peek() 返回 JsonToken.END_DOCUMENT 时,表示已经到达了JSON文档的末尾。
虽然 JsonReader 也有 hasNext() 方法,但它在NDJSON的场景下可能导致异常。hasNext() 主要用于检查JSON数组或对象中是否还有更多元素,当它尝试读取非预期的令牌(例如,当文档末尾没有更多结构化的JSON元素时)可能会抛出 IllegalStateException。因此,对于NDJSON这种由多个独立JSON对象组成的流,使用 peek() == JsonToken.END_DOCUMENT 来判断循环终止条件更为稳健和推荐。
注意事项与最佳实践
- 资源管理: 始终使用 try-with-resources 语句来确保 FileReader 和 JsonReader 在使用完毕后能够正确关闭,避免资源泄露。
- 错误处理: 在实际应用中,应添加更详细的异常处理逻辑,例如捕获 JsonSyntaxException 来处理格式错误的JSON记录。
-
DTO设计: 示例中的 CustomerFeedDTO 使用了 Map
和 ArrayList> 来处理未知或动态的JSON结构。在已知JSON结构的情况下,建议使用具体的Java类型(如 String, Integer, 自定义对象等)来代替 Map 和 ArrayList>,以提高类型安全性和代码可读性。例如,profile 可以定义为一个具体的 ProfileDTO 类。 - 性能考虑: 对于非常大的NDJSON文件,将所有记录一次性加载到 List 中可能会消耗大量内存。在这种情况下,可以考虑逐条处理记录,或者使用流式API(如Java 8 Stream API)结合自定义的迭代器来处理数据,避免一次性加载所有数据。
总结
通过 JsonReader 的迭代解析机制,结合 reader.setLenient(true) 和 reader.peek() != JsonToken.END_DOCUMENT 作为循环条件,可以有效地解析和映射NDJSON文件中的所有JSON记录。这种方法提供了对JSON流的精细控制,是处理多行独立JSON数据时的标准和推荐实践。正确理解和应用这些技术,能够确保在Java应用程序中可靠地处理NDJSON数据。









