GPT开源项目(拥有属于自己的GPT)
GPT开源项目部署
博主近期使用开源项目搭建了一套GPT
平台,今天我将带领大家部署一下基础的逆向操作,后面方便大家了解整套部署流程:
涉及到的开源项目(演示使用不整复杂的):
API管理平台<new-api>Qwen逆向转换< Qwen AI Free >
Kimi逆向转换<KIMI AI Free>ChatGPT前端< NextChat >
项目的前置条件:
需要有一定的
Linux命令
基础;云主机,最好是
国外的云主机
,推荐购买腾讯云硅谷
地段的云主机; < 点击购买 >解答:由于Docker官方被墙,国内下载不到镜像,所以需要国外的云主机,后面
逆向GPT官方
实现白嫖
也会用到此服务器。注:购买完成后会
自动分配
固定的公网IP
地址,可在控制台
中查看;如:
43.153.xxx.xxx
域名
可以不用
,根据自身需求
评判是否购买;
满足
以上条件
即可开始部署我们的GPT平台;
* 登录我们的服务器
>>>> 本地打开终端程序或是其他工具,执行 ssh 登陆命令
ssh -p 22 root@43.153.xxx.xxx
输入密码时不会显示,输入完成后回车即可;
* 安装Docker基础服务 < 脚本地址 >
>>>> 在服务器上创建 sh 脚本文件,将脚本内容复制到内部;
vi docker.sh
进入脚本文件内部后键盘输入 i 打开文件编辑模式;
粘贴脚本内容后键盘点击 esc 按键退出编辑模式;
之后键盘输入英文的 :wq 执行保存并退出;
>>>> 执行安装脚本
sh docker.sh
执行结果如下;
>>>> 安装 docker-compose 服务
yum -y install docker-compose
* 部署Qwen逆向转换服务
>>>> docker命令行启动(便携)
docker run -it -d --init --name qwen-free-api -p 8000:8000 -e TZ=Asia/Shanghai vinlic/qwen-free-api:latest
>>>> 注:启动完成后需要再腾讯云控制台防火墙放行8000端口;
* 获取Qwen的key
从 通义千问 登录
进入通义千问随便发起一个对话,然后F12
打开开发者工具,从Application > Cookies中找到tongyi_sso_ticket
的值,这将作为Authorization的Bearer Token值:Authorization: Bearer TOKEN
这个就是我们的key了;
* 部署NextChat前端
>>>> docker命令行启动(便携)(这里需要把上面拿到的key放在=后面)
docker run -d -p 3000:3000 -e OPENAI_API_KEY= BASE_URL=http://云主机的IP地址:8000 yidadaa/chatgpt-next-web
>>>> 注:启动完成后需要再腾讯云控制台防火墙放行3000端口;
>>>> 高级参数(可以自行配置)
例如:给网页添加一个密码,输入完密码才能使用;
docker run -d -p 3000:3000 -e CODE=123456 yidadaa/chatgpt-next-web
OPENAI_API_KEY (必填项)
OpanAI 密钥,你在 openai 账户页面申请的 api key,使用英文逗号隔开多个 key,这样可以随机轮询这些 key。
CODE (可选)
访问密码,可选,可以使用逗号隔开多个密码。
警告:如果不填写此项,则任何人都可以直接使用你部署后的网站,可能会导致你的 token 被急速消耗完毕,建议填写此选项。
BASE_URL (可选)
Default: https://api.openai.com
Examples: http://your-openai-proxy.com
OpenAI 接口代理 URL,如果你手动配置了 openai 接口代理,请填写此选项。
如果遇到 ssl 证书问题,请将 BASE_URL 的协议设置为 http。
OPENAI_ORG_ID (可选)
指定 OpenAI 中的组织 ID。
AZURE_URL (可选)
形如:https://{azure-resource-url}/openai/deployments/{deploy-name}
Azure 部署地址。
AZURE_API_KEY (可选)
Azure 密钥。
AZURE_API_VERSION (可选)
Azure Api 版本,你可以在这里找到:Azure 文档。
GOOGLE_API_KEY (optional)
Google Gemini Pro 密钥.
GOOGLE_URL (optional)
Google Gemini Pro Api Url.
ANTHROPIC_API_KEY (optional)
anthropic claude Api Key.
ANTHROPIC_API_VERSION (optional)
anthropic claude Api version.
ANTHROPIC_URL (optional)
anthropic claude Api Url.
HIDE_USER_API_KEY (可选)
如果你不想让用户自行填入 API Key,将此环境变量设置为 1 即可。
DISABLE_GPT4 (可选)
如果你不想让用户使用 GPT-4,将此环境变量设置为 1 即可。
ENABLE_BALANCE_QUERY (可选)
如果你想启用余额查询功能,将此环境变量设置为 1 即可。
DISABLE_FAST_LINK (可选)
如果你想禁用从链接解析预制设置,将此环境变量设置为 1 即可。
WHITE_WEBDEV_ENDPOINTS (可选)
如果你想增加允许访问的webdav服务地址,可以使用该选项,格式要求:
每一个地址必须是一个完整的 endpoint
https://xxxx/xxx
多个地址以,相连
CUSTOM_MODELS (可选)
示例:+qwen-7b-chat,+glm-6b,-gpt-3.5-turbo,gpt-4-1106-preview=gpt-4-turbo 表示增加 qwen-7b-chat 和 glm-6b 到模型列表,而从列表中删除 gpt-3.5-turbo,并将 gpt-4-1106-preview 模型名字展示为 gpt-4-turbo。 如果你想先禁用所有模型,再启用指定模型,可以使用 -all,+gpt-3.5-turbo,则表示仅启用 gpt-3.5-turbo
用来控制模型列表,使用 + 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。
DEFAULT_INPUT_TEMPLATE (可选)
自定义默认的 template,用于初始化『设置』中的『用户输入预处理』配置项
* 访问Chat页面调用测试
>>>> 链接格式
http://云主机的公网IP地址:3000
* 之后就能愉快的访问啦!
下篇文章,我们将渠道以及Key统一管理起来,并做负载!
- 感谢你赐予我前进的力量
赞赏者名单
因为你们的支持让我意识到写文章的价值🙏
本文是原创文章,采用 CC BY-NC-ND 4.0 协议,完整转载请注明来自 小帕鲁流浪记
评论
匿名评论
隐私政策
你无需删除空行,直接评论以获取最佳展示效果