引言：Autogluon与GPU加速
autogluon是一个强大的自动化机器学习（automl）库，旨在简化和加速机器学习模型的开发过程。在处理大规模数据集或训练复杂模型时，利用图形处理器（gpu）进行加速至关重要，它可以显著缩短训练时间。然而，用户在配置autogluon以使用gpu时，可能会遇到看似已设置gpu但实际并未生效的情况。
问题现象：num_gpus=1为何不生效？
许多用户在尝试利用GPU加速Autogluon的TabularPredictor时，会直观地在fit方法中设置num_gpus=1，期望模型训练能够自动利用可用的GPU资源。例如：
import pandas as pd
from autogluon.tabular import TabularPredictor
# 假设 df 已经加载
df = pd.read_csv("path/to/your/data.csv")
predictor = TabularPredictor(label='Expense').fit(df, presets='best_quality', verbosity=4, time_limit=70000, num_gpus=1)尽管代码中明确指定了num_gpus=1，但在实际运行过程中，通过nvidia-smi等工具检查GPU使用情况时，却发现GPU处于空闲状态，没有任何进程在使用。Autogluon的日志输出也可能显示资源分配为Folding resources per job {'num_gpus': 0.5, 'num_cpus': 4}，表明虽然尝试分配GPU资源，但可能并未完全激活或以预期方式使用。
环境准备与常见误区
在使用Autogluon进行GPU加速之前，确保正确的环境配置是前提。这通常包括：
-
CUDA驱动与PyTorch安装： 确保系统已安装与您的GPU兼容的CUDA驱动。对于PyTorch用户，需要安装带有CUDA支持的PyTorch版本。例如，对于CUDA 11.8：
pip install torch==2.0.1+cu118 torchvision==0.15.2+cu118 --index-url https://download.pytorch.org/whl/cu118 pip install autogluon
- Autogluon版本： 确保您使用的Autogluon版本支持GPU加速，并且没有已知的bug影响GPU分配。通常建议使用最新稳定版。
常见误区在于直接在fit方法中设置num_gpus参数。尽管这个参数看起来是为GPU分配而设，但对于某些Autogluon内部的模型或资源调度机制，它可能不会直接生效，或者需要通过更深层的配置进行传递。
解决方案：正确配置GPU参数
正确的做法是利用ag_args_fit参数字典来传递GPU配置。ag_args_fit允许用户向Autogluon的内部模型训练过程传递更精细的参数，包括GPU资源的分配。
将上述示例代码修改为以下形式，即可有效激活GPU加速：
import pandas as pd
from autogluon.tabular import TabularPredictor
# 假设 df 已经加载
df = pd.read_csv("path/to/your/data.csv")
# 正确配置GPU参数的方式
predictor = TabularPredictor(label='Expense').fit(
df,
presets='best_quality',
verbosity=4,
time_limit=70000,
ag_args_fit={'num_gpus': 1} # 通过 ag_args_fit 传递 num_gpus
)通过ag_args_fit={'num_gpus': 1}，Autogluon能够正确识别并尝试为内部模型（如CatBoost等支持GPU的模型）分配指定的GPU资源。
原理分析与资源分配
ag_args_fit参数是Autogluon设计中用于将特定配置传递给其内部模型训练过程的机制。当Autogluon在后台训练多个模型（例如在集成学习或堆叠模型中）时，它会根据这些参数来调度资源。
在日志中观察到的Folding resources per job {'num_gpus': 0.5, 'num_cpus': 4}，表明Autogluon可能将一个完整的GPU资源划分为多个逻辑部分，分配给并行训练的子任务或折叠（folds）。例如，如果num_gpus=1且num_parallel_jobs=2，那么每个并行任务可能会被分配0.5个GPU。这是一种有效的资源管理策略，允许在单个GPU上同时运行多个轻量级任务，或将一个GPU的能力分割给多个模型实例。
验证GPU使用
在运行上述修改后的代码后，您可以通过以下方式验证GPU是否已被正确使用：
- nvidia-smi命令： 在终端中运行nvidia-smi命令。在模型训练过程中，您应该能看到Autogluon相关进程（如Python进程）出现在“Processes”列表中，并显示相应的GPU内存使用量。
- Autogluon日志： 仔细检查Autogluon的详细日志输出（通过设置verbosity=4或更高）。成功分配GPU的日志通常会明确显示GPU资源被调度和使用。例如，可能会有类似Fitting CatBoost_BAG_L1 with 'num_gpus': 1, 'num_cpus': 8的记录，并且在子任务的资源分配中，num_gpus的实际分配值会更合理地反映GPU的使用。
注意事项
- 模型支持： 并非Autogluon集成的所有模型都原生支持GPU加速。例如，CatBoost、LightGBM（通过特定配置）等可以利用GPU，但其他一些模型可能仅限于CPU。确保您选择的模型能够从GPU中受益。
- 依赖库： 确保所有必要的依赖库（如cupy、xgboost的GPU版本、lightgbm的GPU版本等）已正确安装，以便Autogluon能够调用它们的GPU实现。
- GPU内存： 即使正确配置了num_gpus，如果GPU内存不足以容纳模型和数据，仍然可能导致训练失败或回退到CPU。
- Autogluon版本差异： 随着Autogluon版本的迭代，其API和内部实现可能会有所调整。本文提供的解决方案基于当前稳定版本，但未来版本可能引入新的GPU配置方式。
总结
在Autogluon中配置GPU加速，关键在于理解其资源调度机制。直接在fit方法中设置num_gpus可能无法生效，而通过ag_args_fit={'num_gpus': 1}这种方式，可以更精确地控制并传递GPU资源分配参数给底层的模型训练过程。正确配置GPU不仅能显著提升模型训练效率，还能充分发挥硬件性能，是进行高效AutoML实践的重要一环。
