ChatGPT开源项目推荐
1、EX-chatGPT
项目地址： https:// github.com/circlestarze ro/EX-chatGPT
ChatGPT 是一个强大的工具平台，可以无需任何调整就生成 API 请求来协助回答问题。
Ex-ChatGPT
使得 ChatGPT 能够调用外部 API，例如
WolframAlpha、Google 和 WikiMedia
，以提供更准确和及时的答案。
这个项目分为
Ex-ChatGPT
和
WebChatGPTEnhance
两部分。前者是一个使用了
GPT3.5 Turbo API
、
WolframAlpha、Google 和 WikiMedia
等 API 的服务，能够提供更强大的功能和更准确的答案。后者是一个
浏览器扩展程序
，它更新了原有的 WebChatGPT 插件以支持添加外部 API，支持 ChatGPT 网页调用不同的 API 和提示。
交互界面：
功能列表：
- OAuth2.0多用户鉴权管理
- 语音对话功能 ，使用微软 Azure API，优化响应速度 ( 1-2 秒左右 ) ，包含语音识别和文字转语音，支持多种音色和语言，自定义声音。
- docker 和 proxy 支持
- 聊天记录冗余备份
- 支持 OpenAI GPT-3.5 Turbo API
- 允许 ChatGPT 调用外部 API 接口
- 对 Google 搜索结果进行数据清洗, 减少token占用
- 自动保存载入对话历史， 自动压缩对话
- 可显示使用的 Token 数量
- API池 , API 冷却
- Markdown and MathJax 渲染
- 调用 API 过程显示动画 , 类似必应
- 历史对话管理 载入，类 chatgpt 页面布局
-
快捷键
快速选择模式
Tab和换行Shift+Enter,Enter发送，up,down选择历史发送消息，类似终端 -
stream特性，它类似于打字机的效果，可以更快地响应结果。与一次性加载所有内容不同，stream会逐步输出
Ex-chatGPT 的安装和使用
安装依赖包
pip install -r requirements.txt
配置API 密钥
将apikey.ini.example复制改名为apikey.ini,然后在apikey.ini中填入你的 API 密钥， 以及代理
运行
运行main.py并打开http://127.0.0.1:1234/
模式选择
可供选择的选项：chat,detail,web,webDirect,WebKeyWord，支持Tab。chat模式下 使用
\{promptname} {query}
格式来模糊搜索选择 prompt
快捷键
快速选择模式Tab和换行Shift+Enter,Enter发送，up,down选择历史发送消息，类似终端
2、Gradio
体验地址： http:// redmonkey.space/
该工具属于国内大佬个人搭建的服务，完全免费，无需科学上网。你如果无法正常使用ChatGPT所带来的功能，又想体验它使用它。该站点也是一种选择。
3、OpenChatKit
项目地址： https:// github.com/togethercomp uter/OpenChatKit
以下资料均来自官方说明，如需了解更多使用详情请前往开源站点进一步了解。
OpenChatKit 提供了一个强大的开源基础，可以为各种应用程序创建专用和通用聊天机器人。该套件包括一个指令调整的 200 亿参数语言模型、一个 60 亿参数调节模型和一个可扩展的检索系统，用于包含来自自定义存储库的最新响应。 它是在 OIG-43M 训练数据集上训练的，该数据集是Together 、 LAION 和 Ontocord.ai 之间的合作。
OpenChatKit四个基本组件介绍：
1、一个指令调优的大型语言模型
用EleutherAI的GPT-NoX-20B对聊天功能进行了微调，后者在carbon-negative计算上具有4300万条指令。调整重点是多轮对话、问答、分类、提取和摘要等几个任务。
2、定制配方（recipe）
用来帮助微调模型使其能够为特定任务提供高精度的结果，只需要准备自己的数据集。
3、一个可扩展的检索系统
可以让你在推理时从文档存储库、API或其他实时更新信息源添加信息。
4、一个由GPT-JT-6B微调而成的调节模型（moderation model）
可以过滤模型对一些问题的响应。这样的OpenChatKit可以为各种应用程序创建专用和通用的聊天机器人。
为了帮助测试模型，官方提供了一个简单的测试命令行测试工具，方便来与机器人交互。
python inference/bot.py
默认情况下，脚本会在目录下加载名为 GPT-NeoXT-Chat-Base-20B model 的模型
huggingface_models
，但我们可以通过指定
--model
.
例如，如果您想从我们的 Huggingface 存储库加载基础模型，可以运行以下命令从 HuggingFace 下载权重
python inference/bot.py --model togethercomputer/GPT-NeoXT-Chat-Base-20B加载模型后，在提示处输入文本，模型将回复。
$ python inference/bot.py
Loading /home/csris/src/github.com/togethercomputer/OpenChatKit/inference/../huggingface_models/GPT-NeoXT-Chat-Base-20B to cuda:1...
Welcome to OpenChatKit shell. Type /help or /? to list commands.