Dataflow中自定义证书REST调用：利用自定义容器解决信任问题

1. 问题背景与传统方法的局限性

在google cloud dataflow（基于apache beam/java sdk）中，当需要调用使用自定义自签名ssl证书的内部rest服务时，标准的java虚拟机（jvm）默认信任存储（cacerts）通常不包含这些自定义证书，从而导致ssl握手失败。

传统的解决方案尝试在运行时动态修改JVM的cacerts文件，或者通过重写SSlContext和X509TrustManager来信任特定证书。然而，这些方法在Dataflow的分布式和弹性工作器环境中存在显著的局限性：

• 运行时修改复杂性高： Dataflow工作器是短暂的，每次启动都需要重复修改cacerts，这增加了实现和维护的复杂性。
• JVM启动时机： JVM在启动时加载cacerts，在工作器启动后通过脚本修改cacerts可能无效，或者需要复杂的JVM参数配置，而gcloud CLI在启动Dataflow时通常不提供直接修改JVM cacerts路径的选项。
• 代码侵入性： 重写SSlContext和X509TrustManager需要对HTTP客户端代码进行深度修改，且难以在整个应用程序中统一管理。

这些方法不仅实现困难，而且在生产环境中难以扩展和维护，因此需要一种更为健壮和标准化的解决方案。

2. 解决方案：利用自定义容器预置证书

Dataflow Runner v2 引入了自定义容器（Custom Containers）功能，为解决此类问题提供了理想的方案。通过自定义容器，我们可以构建一个包含预配置JVM信任存储的Docker镜像，确保所有工作器在启动时都已信任所需的自定义证书。

2.1 核心思想

自定义容器允许您为Dataflow工作器指定一个自定义的Docker镜像。在这个镜像中，我们可以：

1. 基于一个标准的Java运行时环境。
2. 将自定义的.crt证书文件复制到容器内部。
3. 使用Java的keytool工具将该证书导入到JVM的默认cacerts信任存储中。

这样，当Dataflow工作器启动时，它们将使用这个预配置的JVM环境，其中已经包含了信任自签名证书所需的所有信息，无需在运行时进行任何复杂的修改。

猫眼课题宝

5分钟定创新选题，3步生成高质量标书！

85

查看详情

2.2 实现步骤

以下是使用自定义容器预置证书的详细步骤：

步骤一：准备证书文件 确保您拥有自签名证书的.crt文件。例如，my-self-signed-cert.crt。

步骤二：创建Dockerfile 创建一个Dockerfile，用于构建您的自定义工作器镜像。这个Dockerfile将基于一个包含Java运行时环境的基础镜像，并执行证书导入操作。

# 选择一个包含Java运行时的基础镜像
# 推荐使用Google Cloud提供的Beam Java SDK镜像，以确保兼容性
# 例如：gcr.io/cloud-dataflow/java/beam-sdks-java-harness:2.x.x
FROM gcr.io/cloud-dataflow/java/beam-sdks-java-harness:2.55.0

# 将您的证书文件复制到容器内部
# 建议放置在 /etc/ssl/certs 或其他临时目录
COPY my-self-signed-cert.crt /tmp/my-self-signed-cert.crt

# 导入证书到JVM的cacerts信任存储
# 默认的cacerts路径通常在 $JAVA_HOME/lib/security/cacerts 或 $JAVA_HOME/jre/lib/security/cacerts
# 这里的密码是默认的 "changeit"，如果您的cacerts密码被修改过，请相应调整
RUN keytool -import -trustcacerts -keystore $JAVA_HOME/lib/security/cacerts \
    -storepass changeit -noprompt -alias my-custom-cert -file /tmp/my-self-signed-cert.crt

# 清理临时证书文件
RUN rm /tmp/my-self-signed-cert.crt

# 设置工作目录（如果需要）
# WORKDIR /app

# 您的Beam应用程序JAR包将在Dataflow运行时动态添加到此容器中
# 因此，这里不需要COPY您的应用程序JAR

Dockerfile说明：

• FROM: 务必选择与您的Beam SDK版本兼容的官方Dataflow Beam SDK镜像，以确保运行时环境的一致性。
• COPY: 将本地的.crt文件复制到容器内的临时位置。
• keytool -import: 这是核心命令。
  • -trustcacerts: 导入为受信任的证书。
  • -keystore $JAVA_HOME/lib/security/cacerts: 指定JVM的信任存储路径。
  • -storepass changeit: cacerts文件的默认密码。请确保您的环境没有修改此密码，否则需要提供正确的密码。
  • -noprompt: 避免交互式提示。
  • -alias my-custom-cert: 为导入的证书指定一个唯一的别名。
  • -file /tmp/my-self-signed-cert.crt: 指定要导入的证书文件路径。
• RUN rm: 导入完成后，删除临时证书文件，保持镜像整洁。

步骤三：构建并推送Docker镜像 在包含Dockerfile的目录中，使用Docker CLI构建镜像，并将其推送到Google Container Registry (GCR) 或 Artifact Registry。

# 替换 [PROJECT_ID] 为您的GCP项目ID
# 替换 [IMAGE_NAME] 为您希望的镜像名称，例如 dataflow-worker-with-certs
# 替换 [TAG] 为版本标签，例如 v1.0

# 构建镜像
docker build -t gcr.io/[PROJECT_ID]/[IMAGE_NAME]:[TAG] .

# 推送镜像到GCR
docker push gcr.io/[PROJECT_ID]/[IMAGE_NAME]:[TAG]

步骤四：配置Dataflow管道使用自定义容器 在启动Dataflow管道时，通过设置--worker_harness_container_image参数来指定您刚刚推送的自定义镜像。

Maven/Gradle (Java SDK): 在您的Beam管道选项中设置：

PipelineOptionsFactory.register(MyOptions.class);
MyOptions options = PipelineOptionsFactory.fromArgs(args).withValidation().as(MyOptions.class);

options.setRunner(DataflowRunner.class);
options.setProject("[YOUR_GCP_PROJECT_ID]");
options.setRegion("[YOUR_GCP_REGION]");
options.setTempLocation("gs://[YOUR_BUCKET]/temp");
options.setWorkerHarnessContainerImage("gcr.io/[PROJECT_ID]/[IMAGE_NAME]:[TAG]"); // 指定自定义容器镜像

// 构建并运行管道
Pipeline pipeline = Pipeline.create(options);
// ... 添加您的Beam转换逻辑 ...
pipeline.run().waitUntilFinish();

gcloud CLI (如果您从命令行提交作业):

gcloud dataflow jobs run my-dataflow-job \
    --gcs-location gs://[YOUR_BUCKET]/path/to/your-job.jar \
    --worker-harness-container-image "gcr.io/[PROJECT_ID]/[IMAGE_NAME]:[TAG]" \
    --region "[YOUR_GCP_REGION]" \
    --project "[YOUR_GCP_PROJECT_ID]" \
    --temp-location "gs://[YOUR_BUCKET]/temp" \
    --parameters "..."

2.3 注意事项与最佳实践

• Dataflow Runner v2： 自定义容器功能要求您的Dataflow管道使用Dataflow Runner v2。确保您的环境和配置支持此版本。
• 基础镜像选择： 始终使用Google Cloud Dataflow提供的官方Beam SDK镜像作为基础，以确保与Dataflow运行时环境的最佳兼容性。
• 证书管理： 定期检查并更新您的自签名证书。当证书过期或更换时，您需要更新Dockerfile，重新构建并推送新的Docker镜像，然后使用新的镜像启动Dataflow管道。
• 安全性： 虽然自签名证书在内部服务中常见，但在生产环境中，更推荐使用由受信任的证书颁发机构（CA）签发的证书，或利用Google Cloud Managed Certificates等服务来简化证书管理。
• 镜像大小： 尽量保持Docker镜像的精简，避免包含不必要的依赖，以加快工作器启动速度和降低存储成本。
• 别名唯一性： keytool导入证书时使用的别名必须是唯一的。如果导入同名证书，它会覆盖之前的。

3. 总结

通过利用Dataflow Runner v2的自定义容器功能，您可以优雅且专业地解决Dataflow与使用自定义自签名证书的内部服务进行REST通信时的信任问题。这种方法将证书预置到工作器JVM的信任存储中，避免了复杂的运行时修改，提高了管道的稳定性和可维护性。这不仅简化了开发流程，也为构建更可靠的Dataflow应用程序奠定了基础。

以上就是Dataflow中自定义证书REST调用：利用自定义容器解决信任问题的详细内容，更多请关注php中文网其它相关文章！