C++ 使用 MPI 进行分布式计算，核心在于利用消息传递接口（MPI）在多个进程间协调任务与数据。它不依赖共享内存，而是让每个进程运行独立的程序副本，通过显式发送和接收消息来协作，特别适合在服务器集群等分布式环境中扩展计算能力。掌握几个关键步骤，就能快速上手。
初始化环境与理解进程模型
MPI 程序的起点是正确初始化运行时环境。所有代码都必须包含 mpi.h 头文件，并在最开始调用 MPI_Init()。程序结束前，也必须调用 MPI_Finalize() 来清理资源，否则可能导致程序无法正常退出。
在 MPI 模型中，每个运行实例都是一个独立的进程，拥有自己的内存空间。它们通过一个全局通信器 MPI_COMM_WORLD 相互关联。你可以使用 MPI_Comm_rank() 获取当前进程的唯一编号（rank），用 MPI_Comm_size() 查询总共有多少个进程参与计算。这个 rank 值是控制程序逻辑分支的关键，比如决定哪个进程是负责分发任务的“主”进程（通常 rank 为 0），哪些是执行计算的“从”进程。
实现进程间通信
通信是分布式计算的核心。MPI 提供了多种通信方式，最基本的是点对点通信，即一个进程直接向另一个特定的进程发送或接收数据。
立即学习“C++免费学习笔记（深入）”；
- 点对点通信：使用 MPI_Send() 和 MPI_Recv() 函数。发送方需要指定目标进程的 rank、要发送的数据地址、数量、数据类型以及一个用于匹配的标签。接收方则指定来源进程（可以是任意，用 MPI_ANY_SOURCE），并提供接收缓冲区。这是一种阻塞操作，意味着函数调用会等待直到发送或接收完成。
-
集体通信：当需要在所有或一组进程中同步或分发数据时，集体通信更高效。例如：
- MPI_Bcast()：将一个进程（通常是主进程）的数据广播到所有其他进程。
- MPI_Reduce()：将所有进程的某个计算结果（如部分和、最大值）收集到一个指定的根进程，并进行归约操作（如求和、取最大）。
- MPI_Scatter() 和 MPI_Gather()：分别用于将一个大数组的数据分发给各个进程，或将各个进程的计算结果收集汇总。
编译与运行
MPI 程序不能像普通 C++ 程序那样直接用 g++ 编译。你需要使用 MPI 提供的专用编译器包装器，最常见的就是 mpic++ 或 mpicxx。这个命令会自动链接正确的 MPI 库和头文件路径。编译成功后，生成的可执行文件也不能直接运行，而必须通过 mpirun 或 mpiexec 命令来启动。在这个命令里，你需要用 -np 参数指定要创建的进程数量。例如，mpirun -np 4 ./my_program 会启动 4 个进程来运行你的程序。基本上就这些，不复杂但容易忽略。
