GPT开源项目部署

博主近期使用开源项目搭建了一套GPT平台,今天我将带领大家部署一下基础的逆向操作,后面方便大家了解整套部署流程:

  • 项目的前置条件:

    • 需要有一定的Linux命令基础;

    • 云主机,最好是国外的云主机,推荐购买腾讯云硅谷地段的云主机; < 点击购买 >

      • 解答:由于Docker官方被墙,国内下载不到镜像,所以需要国外的云主机,后面逆向GPT官方实现白嫖也会用到此服务器。

      • 注:购买完成后会自动分配固定的公网IP地址,可在控制台中查看;

      • 如:43.153.xxx.xxx

    • 域名可以不用,根据自身需求评判是否购买;

  • 满足以上条件即可开始部署我们的GPT平台;

* 登录我们的服务器

>>>>  本地打开终端程序或是其他工具,执行 ssh 登陆命令

	ssh -p 22  root@43.153.xxx.xxx
	输入密码时不会显示,输入完成后回车即可;

* 安装Docker基础服务 < 脚本地址 >

>>>>  在服务器上创建 sh 脚本文件,将脚本内容复制到内部;

	vi  docker.sh

	进入脚本文件内部后键盘输入  i  打开文件编辑模式;

	粘贴脚本内容后键盘点击   esc  按键退出编辑模式;

	之后键盘输入英文的  :wq  执行保存并退出; 

>>>>  执行安装脚本

	sh  docker.sh

	执行结果如下;

安装Alist网盘管理插件1.png

>>>> 安装 docker-compose 服务

	yum -y install docker-compose

* 部署Qwen逆向转换服务

>>>> docker命令行启动(便携)

	docker run -it -d --init --name qwen-free-api -p 8000:8000 -e TZ=Asia/Shanghai vinlic/qwen-free-api:latest

>>>> 注:启动完成后需要再腾讯云控制台防火墙放行8000端口;

* 获取Qwen的key

通义千问 登录

进入通义千问随便发起一个对话,然后F12打开开发者工具,从Application > Cookies中找到tongyi_sso_ticket的值,这将作为Authorization的Bearer Token值:Authorization: Bearer TOKEN 这个就是我们的key了;

* 部署NextChat前端

>>>> docker命令行启动(便携)(这里需要把上面拿到的key放在=后面)

	docker run -d -p 3000:3000 -e OPENAI_API_KEY=   BASE_URL=http://云主机的IP地址:8000  yidadaa/chatgpt-next-web


>>>> 注:启动完成后需要再腾讯云控制台防火墙放行3000端口;


>>>> 高级参数(可以自行配置)

	例如:给网页添加一个密码,输入完密码才能使用;
	docker run -d -p 3000:3000 -e CODE=123456 yidadaa/chatgpt-next-web

	OPENAI_API_KEY (必填项)
	OpanAI 密钥,你在 openai 账户页面申请的 api key,使用英文逗号隔开多个 key,这样可以随机轮询这些 key。
	
	CODE (可选)
	访问密码,可选,可以使用逗号隔开多个密码。
	
	警告:如果不填写此项,则任何人都可以直接使用你部署后的网站,可能会导致你的 token 被急速消耗完毕,建议填写此选项。
	
	BASE_URL (可选)
	Default: https://api.openai.com
	
	Examples: http://your-openai-proxy.com
	
	OpenAI 接口代理 URL,如果你手动配置了 openai 接口代理,请填写此选项。
	
	如果遇到 ssl 证书问题,请将 BASE_URL 的协议设置为 http。
	
	OPENAI_ORG_ID (可选)
	指定 OpenAI 中的组织 ID。
	
	AZURE_URL (可选)
	形如:https://{azure-resource-url}/openai/deployments/{deploy-name}
	
	Azure 部署地址。
	
	AZURE_API_KEY (可选)
	Azure 密钥。
	
	AZURE_API_VERSION (可选)
	Azure Api 版本,你可以在这里找到:Azure 文档。
	
	GOOGLE_API_KEY (optional)
	Google Gemini Pro 密钥.
	
	GOOGLE_URL (optional)
	Google Gemini Pro Api Url.
	
	ANTHROPIC_API_KEY (optional)
	anthropic claude Api Key.
	
	ANTHROPIC_API_VERSION (optional)
	anthropic claude Api version.
	
	ANTHROPIC_URL (optional)
	anthropic claude Api Url.
	
	HIDE_USER_API_KEY (可选)
	如果你不想让用户自行填入 API Key,将此环境变量设置为 1 即可。
	
	DISABLE_GPT4 (可选)
	如果你不想让用户使用 GPT-4,将此环境变量设置为 1 即可。
	
	ENABLE_BALANCE_QUERY (可选)
	如果你想启用余额查询功能,将此环境变量设置为 1 即可。
	
	DISABLE_FAST_LINK (可选)
	如果你想禁用从链接解析预制设置,将此环境变量设置为 1 即可。
	
	WHITE_WEBDEV_ENDPOINTS (可选)
	如果你想增加允许访问的webdav服务地址,可以使用该选项,格式要求:
	
	每一个地址必须是一个完整的 endpoint
	https://xxxx/xxx
	
	多个地址以,相连
	CUSTOM_MODELS (可选)
	示例:+qwen-7b-chat,+glm-6b,-gpt-3.5-turbo,gpt-4-1106-preview=gpt-4-turbo 表示增加 qwen-7b-chat 和 glm-6b 到模型列表,而从列表中删除 gpt-3.5-turbo,并将 gpt-4-1106-preview 模型名字展示为 gpt-4-turbo。 如果你想先禁用所有模型,再启用指定模型,可以使用 -all,+gpt-3.5-turbo,则表示仅启用 gpt-3.5-turbo
	
	用来控制模型列表,使用 + 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。
	
	DEFAULT_INPUT_TEMPLATE (可选)
	自定义默认的 template,用于初始化『设置』中的『用户输入预处理』配置项

* 访问Chat页面调用测试

>>>> 链接格式
	
	http://云主机的公网IP地址:3000

* 之后就能愉快的访问啦!

下篇文章,我们将渠道以及Key统一管理起来,并做负载!