aisuite - 吴恩达发布开源Python库,一个接口调用多个大模型
2025-04-10 12:02:26
10人浏览
aisuite是什么
aisuite是开源的Python库,吴恩达(Andrew Ng)发布的,旨在提供一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,开发者能轻松切换和测试不同提供商的模型。通过aisuite,用户可以便捷地获取API密钥并设置环境变量,实现对不同语言模型的访问和调用。简化了多模型管理和测试的工作,促进了人工智能技术的应用和发展。

aisuite的主要功能
- 统一接口设计:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。
- 支持多个模型平台:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
- 简化模型切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。
- 易于安装和配置:aisuite的安装过程简便,用户只需准备Python环境和所需的API密钥,可通过简单的命令安装框架。
- 主要关注聊天功能:目前,aisuite主要关注于增强聊天功能,未来计划扩展到更多使用场景。
- 扩展性:aisuite计划增加更多功能模块,例如函数调用等,以进一步丰富其实用性。
- 使用HTTP端点或SDK调用:为了确保稳定性,aisuite使用HTTP端点或SDK来与提供商进行调用。
aisuite的项目地址
如何使用aisuite
- 安装aisuite:可以通过pip命令来安装aisuite。
- 只安装基础包,不涉及任何提供商的SDK,使用命令
pip install aisuite
。 - 需要特定提供商的支持,比如Anthropic,可以使用命令
pip install 'aisuite (anthropic)'
。 - 要安装所有特定于提供商的库,使用命令
pip install 'aisuite (all)'
。
- 只安装基础包,不涉及任何提供商的SDK,使用命令
- 获取API密钥:安装后,需要为所选的提供商获取API密钥,通过环境变量进行配置。
- 编写Python客户端:配置好API密钥后,可以使用标准的Python客户端来请求聊天补全等功能。例如,以下是使用aisuite生成聊天补全响应的Python客户端示例代码:
import aisuite as ai client = ai.Client() models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"] messages = [ {"role": "system", "content": "Respond in Pirate English."}, {"role": "user", "content": "Tell me a joke."}, ] for model in models: response = client.chat.completions.create( model=model, messages=messages, temperature=0.75 ) print(response.choices[0].message.content)
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。相关资讯