ChatTool | 一个简单易用的 API 模块
前言
这是关于 GPT API 的一个 DownToEarth 的教程,从基础调用到工具拓展,目录安排如下:
- ChatTool, API 的简单封装
- 反向代理转发 API 请求
- 以 API 形式启动常见的大模型
- 模型微调指南
- 基于 API 构建实用工具
- 基于 API 部署 web 应用
- Agent 构建器,AutoGen/FlowiseAI/XAgent 等
ChatTool
三月份 ChatGPT API 接口开放时写了这个工具,目前挂在实验室的 GitHub 账号 下。ChatTool 将 API 封装为简单易用的 Chat 对象,支持多轮对话,配置代理,异步处理数据,使用工具以及微调等功能。简单来说,ChatTool 提供了一个易用的封装,本篇介绍其基本用法。
p.s. 也写了个 Julia 版 的 ChatTool,不过目前没在维护。
安装及配置
使用 Pip 安装:
1 | pip install chattool --upgrade |
修改环境变量(windows 在系统设置中修改):
1 | export OPENAI_API_KEY=your_api_key |
由于 OpenAI 限制了访问 IP,需设置代理才能访问。这里 OPENAI_API_BASE_URL
填反向代理的链接,这一来可以在国内网络调用,反向代理的配置方式参考这篇。如果用本地模型启动的 API 服务,则填本地模型的访问链接,比如 http://localhost:8000
。
安装及配置
使用示例
异步批量处理数据。
工具调用。
其他示例
微调。
文章采用 CC BY-NC-SA 4.0 许可协议,转载请注明来自 学习空间!
评论