0

0

PythonAI大模型API教程_统一封装智能能力

舞夢輝影

舞夢輝影

发布时间:2026-01-05 17:25:33

|

264人浏览过

|

来源于php中文网

原创

核心难点是抹平不同厂商API差异,需设计轻量抽象层:统一AIRequest/AIResponse结构,用适配器模式封装各Provider,通过工厂路由自动选择,支持重试、限流、日志、缓存等横切能力。

pythonai大模型api教程_统一封装智能能力

Python 调用大模型 API 的核心难点,不是写几行代码发请求,而是如何把不同厂商(如 OpenAI、Qwen、GLM、DeepSeek、Moonshot)的接口差异“抹平”,让业务代码不随模型切换而重写。统一封装智能能力,关键在设计一层轻量、可扩展、易维护的抽象层。

统一输入输出结构:定义你的 AIRequestAIResponse

别让每个模型自己解析 prompt、处理流式响应、拼接 content。定义两个基础数据类:

  • AIRequest:包含 messages(标准 ChatML 格式列表)、model(字符串标识)、temperaturemax_tokensstream 等通用字段;可选扩展 toolstool_choice 支持函数调用
  • AIResponse:统一返回 content: strfinish_reason: strusage: dictraw: dict(原始响应体,供调试或特殊字段提取)

pydantic.BaseModel 实现,自动校验 + IDE 友好 + 序列化方便。

适配器模式:为每个厂商写一个 Provider

每个 Provider 是一个独立类,实现统一接口 async def chat(self, req: AIRequest) -> AIResponse。例如:

立即学习Python免费学习笔记(深入)”;

  • OpenAIProvider:用 httpx.AsyncClient/v1/chat/completions,把 req.messages 直接传入,再把 response 映射到 AIResponse
  • QwenProvider:适配通义千问/api/v1/services/aigc/text-generation/generation,需转换 role(user/system/assistantuser/system/assistant 通常一致,但注意 system 是否支持)和参数名(temperaturetop_p?看文档)
  • GLMProvider:智谱 API 需 sign 签名,且流式响应格式是 SSE,要单独解析 data: {...}

所有适配逻辑收在 provider 内部,上层业务完全无感。

佳蓝在线销售系统(创业版) 佳蓝在线销售
佳蓝在线销售系统(创业版) 佳蓝在线销售

1、对ASP内核代码进行DLL封装,从而大大提高了用户的访问速度和安全性;2、采用后台生成HTML网页的格式,使程序访问速度得到进一步的提升;3、用户可发展下级会员并在下级购买商品时获得差额利润;4、全新模板选择功能;5、后台增加磁盘绑定功能;6、后台增加库存查询功能;7、后台增加财务统计功能;8、后台面值类型批量设定;9、后台财务曲线报表显示;10、完善订单功能;11、对所有传输的字符串进行安全

下载

路由与工厂:用模型名自动选择 Provider

不要在业务里写 if model == "qwen": ... elif model == "glm": ...。建一个简单工厂:

class AIProviderFactory:
    _providers = {
        "gpt-4o": OpenAIProvider,
        "qwen-max": QwenProvider,
        "glm-4-flash": GLMProvider,
        "deepseek-chat": DeepSeekProvider,
    }

    @classmethod
    def get(cls, model: str) -> BaseProvider:
        provider_cls = cls._providers.get(model)
        if not provider_cls:
            raise ValueError(f"Unsupported model: {model}")
        return provider_cls()

调用时只需:provider = AIProviderFactory.get(req.model); resp = await provider.chat(req)。新增模型?加一行配置即可。

增强能力:插件化支持重试、限流、日志、缓存

封装层的价值不止于兼容,更在于可叠加横切能力:

  • 重试:对网络错误、503、rate limit 响应,自动指数退避重试(用 tenacity
  • 限流:按模型维度配置 QPS,用 aiolimiter 控制并发
  • 日志:记录请求 ID、模型名、耗时、token 数、是否流式,便于追踪和计费对账
  • 缓存:对确定性请求(非 stream / 不含时间变量),用 aiocache 缓存响应,降低延迟与成本

这些能力以装饰器或中间件方式注入 provider,不影响核心适配逻辑。

不复杂但容易忽略:真正决定封装成败的,不是代码量,而是你是否提前想清楚——哪些字段必须统一(比如 messages 结构)、哪些可以容忍差异(比如 stop 参数行为)、哪些能力暂不支持(比如 vision 输入)。从最小可用开始,再逐步加固。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

734

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

631

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

752

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

617

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1258

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

547

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

577

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

705

2023.08.11

漫蛙2入口地址合集
漫蛙2入口地址合集

本专题整合了漫蛙2入口汇总,阅读专题下面的文章了解更多详细内容。

162

2026.01.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Django 教程
Django 教程

共28课时 | 2.8万人学习

SciPy 教程
SciPy 教程

共10课时 | 1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号