0

0

AutoGen 使用本地 LLM 时的 api_type 错误解析与解决方案

DDD

DDD

发布时间:2025-08-06 12:28:01

|

1015人浏览过

|

来源于php中文网

原创

AutoGen 使用本地 LLM 时的 api_type 错误解析与解决方案

本文旨在解决 Autogen 框架在使用本地大型语言模型(如 LM Studio)时遇到的 TypeError: create() got an unexpected keyword argument 'api_type' 错误。核心问题在于 Autogen 库为保持与 OpenAI API 的兼容性,已移除 config_list 中 api_type 参数的支持。教程将详细阐述错误原因,并提供移除该参数的解决方案,辅以更新后的代码示例,帮助开发者顺利配置 Autogen 与本地 LLM 的交互环境,确保代理对话的正常进行。

错误现象分析

当开发者尝试使用 autogen 框架连接本地运行的大型语言模型(llm),例如通过 lm studio 启动的 llama 2 模型时,可能会遇到如下的 typeerror 错误信息:

TypeError: create() got an unexpected keyword argument 'api_type'

此错误通常发生在 autogen.oai.client.py 模块内部,表明在调用 OpenAI 兼容的 API 客户端时,传递了一个不再被接受的关键字参数 api_type。尽管在 Autogen 的早期版本或某些示例中可能看到 config_list 中包含 api_type 参数,但随着库的迭代更新,其内部实现已有所调整。

错误根源:api_type 参数的移除

此 TypeError 的根本原因在于 Autogen 库近期为了更好地与 OpenAI 官方 API 保持兼容性,已经从其内部的 config_list 配置中移除了对 api_type 参数的支持。这意味着,即使您将本地 LLM 服务配置为模拟 OpenAI API 接口(例如,LM Studio 默认就提供 /v1 兼容接口),在 Autogen 的最新版本中,您也不应再显式指定 api_type: "open_ai"。Autogen 默认会根据 api_base 的格式和请求的上下文来推断 API 类型。

解决方案

解决此问题的方法非常直接:从 config_list 中的每个配置字典中移除 api_type 参数。

以下是原始的、导致错误的代码配置:

config_list = [
    {
        "api_type": "open_ai", # <-- 导致错误的参数
        "api_base": "http://localhost:1234/v1",
        "api_key": "NULL"
    }
]

正确的配置应移除 api_type,如下所示:

椒图AI
椒图AI

中文AI修图神器,一句话搞定复杂修图

下载
config_list = [
    {
        "api_base": "http://localhost:1234/v1",
        "api_key": "NULL"
    }
]

请注意,对于本地 LLM 服务,api_key 通常可以设置为 "NULL" 或任意非空字符串,因为本地服务通常不进行 API 密钥验证。关键在于 api_base 必须准确指向您的本地 LLM 服务地址和端口。

完整示例代码

下面是修正后的完整 Autogen 脚本,演示了如何正确配置并使用本地 LLM:

from autogen import AssistantAgent, UserProxyAgent

# 修正后的 config_list,移除了 "api_type" 参数
config_list = [
    {
        "api_base": "http://localhost:1234/v1",  # 确保此地址指向您的本地LLM服务
        "api_key": "NULL"                       # 本地LLM通常不需要实际的API密钥
    }
]

# 配置 LLM
llm_config = {'config_list': config_list}

# 初始化 AssistantAgent
assistant = AssistantAgent(
    name="assistant",
    llm_config=llm_config
)

# 初始化 UserProxyAgent
user_proxy = UserProxyAgent(
    name="user_proxy",
    human_input_mode="NEVER",  # 示例中设置为非交互模式
    max_consecutive_auto_reply=100,
)

# 定义任务
task = """write a python method to output numbers 1 to 100"""

# 启动代理对话
user_proxy.initiate_chat(
    assistant,
    message=task
)

注意事项与最佳实践

  1. 版本兼容性: 软件库,尤其是像 Autogen 这样快速迭代的框架,其 API 可能会频繁更新。遇到问题时,查阅其官方文档、GitHub 仓库的最新发布说明或变更日志(如 roadmap 或 CHANGELOG 文件)是解决问题的最佳途径。本案例中,api_type 的移除正是为了与 OpenAI API 的最新规范保持一致。
  2. 本地 LLM 服务状态: 在运行 Autogen 脚本之前,请务必确认您的本地 LLM 服务(例如 LM Studio、Ollama 等)已正确启动,并且其 API 接口在 config_list 中指定的 api_base 地址和端口上可用。常见的端口号包括 8000、1234、5000 等,具体取决于您的 LLM 工具配置。
  3. 错误信息解读: 当程序抛出 TypeError 并指出“got an unexpected keyword argument”时,这通常意味着您传递了一个函数或方法不再支持的参数。这强烈暗示了 API 签名或库行为发生了变化。
  4. api_key 的作用: 尽管对于本地 LLM 服务,api_key 可以是占位符,但在连接到真正的云端 LLM 服务(如 OpenAI、Azure OpenAI 等)时,它将是身份验证的关键凭证,必须提供有效密钥。

总结

TypeError: create() got an unexpected keyword argument 'api_type' 错误是 Autogen 框架与本地 LLM 交互时常见的配置问题,其核心在于 api_type 参数在最新版本的 Autogen 中已被弃用。通过简单地从 config_list 中移除此参数,并确保本地 LLM 服务正常运行且 api_base 配置正确,即可解决此问题,使 Autogen 代理能够顺利与本地模型进行通信并执行任务。始终保持对所用库最新变化的关注,是避免此类配置错误的关键。

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

231

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

435

2024.03.01

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

253

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

206

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1463

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

617

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

548

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

543

2024.04.29

c++主流开发框架汇总
c++主流开发框架汇总

本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

97

2026.01.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Django 教程
Django 教程

共28课时 | 3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号