当前位置: 首页 > news >正文

手机参数查询网站百度推广需要手机网站

手机参数查询网站,百度推广需要手机网站,怎么做购物平台网站,向祖国建设者致敬网站Vercel部署FreeGPT35有严重限制,玩玩就好,真用还是得docker。 限制原因: Vercel的流式响应并不是一开始写流,客户端就能立刻收到响应流,而是先写到一个缓冲区,当流关闭才一股脑的流式响应回来(不是实时流) 因此导致: …

Vercel部署FreeGPT35有严重限制,玩玩就好,真用还是得docker。

  • 限制原因: Vercel的流式响应并不是一开始写流,客户端就能立刻收到响应流,而是先写到一个缓冲区,当流关闭才一股脑的流式响应回来(不是实时流)

  • 因此导致: 超过10s之后才要关闭的流,通通接收不到。(因为Vercel免费版持续时间最大值10秒)

  • 解决办法: 氪金!!! Vercel Pro 超时上限为300s,Pro用户部署完成后,到Vercel的Setting->Git->Production Branch填写为vercel-pro然后Save保存后部署该分支即可获得300s超时上限。

Docker来部署

可以使用以下任意镜像:

docker run -p 3040:3040 ghcr.io/missuo/freegpt35
docker run -p 3040:3040 missuo/freegpt35

启动之后可以在终端进行测试

curl http://127.0.0.1:3040/v1/chat/completions \-H "Content-Type: application/json" \-H "Authorization: Bearer any_string_you_like" \-d '{"model": "gpt-3.5-turbo","messages": [{"role": "user","content": "Hello!"}],"stream": true}'

Docker Compose 部署

原作者提供了两种部署方式,一种仅提供GPT35服务,另外一个与ChatGPT-Next-Web一起部署。

  1. 仅GPT35服务

mkdir freegpt35 && cd freegpt35
wget -O compose.yaml https://raw.githubusercontent.com/missuo/FreeGPT35/main/compose.yaml
docker compose up -d

部署完成之后,访问http://[IP]:3040/v1/chat/completions来使用API服务。

  1. 与ChatGPT-Next-Web一起部署

mkdir freegpt35 && cd freegpt35
wget -O compose.yaml https://raw.githubusercontent.com/missuo/FreeGPT35/main/compose_with_next_chat.yaml
docker compose up -d

部署完成之后,访问http://[IP]:3000来访问ChatGPT-Next-Web的页面进行使用。

image-20240410140129378

进入设置,选择OpenAI的模型服务商,接口地址填写你刚创建的 ip+ 3040,ApiKey随便填写一个,模型可以写-all,+gpt-3.5-turbo

image-20240410140238658

新建对话进行测试

image-20240410140354195

使用Nginx来负载均衡

在nginx中使用以下配置来进行负载均衡。

upstream freegpt35 {server 1.1.1.1:3040;server 2.2.2.2:3040;
}location ^~ / {proxy_pass http://freegpt35; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header REMOTE-HOST $remote_addr; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection "upgrade"; proxy_http_version 1.1; add_header Cache-Control no-cache; proxy_cache off;proxy_buffering off;chunked_transfer_encoding on;tcp_nopush on;tcp_nodelay on;keepalive_timeout 300;}

以上就是使用Docker部署FreeGPT35的方式,感兴趣的话可以尝试一下。在部署好 GPT35 服务之后,我们可以在任何应用程序中使用它,例如 OpenCat、Next-Chat、Lobe-Chat、Bob 等。可以随意使用任何字符串填写 API 密钥,例如 gptyyds

Bob中使用配置如下图:

bob

不过最好还是建议使用官方的服务毕竟更加稳定,升级到GPT4.0服务,可以按照Plus升级教程升级。若还没有GPT账号,请移步获取GPT账号Pronton版或获取GPT账号Gmail版。

原文链接:使用Docker部署开源项目FreeGPT35来免费调用ChatGPT3.5 API

http://www.yayakq.cn/news/897819/

相关文章:

  • 营销型网站建设公司网站建设需要要多少钱
  • 建站好用的软件网址导航哪个好
  • 网站建设基本功能网页制作与网站建设课堂实录
  • 有人用我的企业做网站国内新闻热点事件
  • 湖南省邵阳市建设局网站网站开发大学
  • 专业定制网站建设网站页面优化包括
  • 的网站制作163网易企业邮箱
  • 做网站赚钱什么类型兰州网站排名分析
  • 广告网站建设网手机网站制作方法
  • 昆明做网站开发维护的公司深圳做app网站建设
  • 有哪些网站可以做青旅义工网站框架
  • 网站内容全屏截屏怎么做单页网站后台
  • 网站怎么做网站收录在哪里建网站好
  • 外管局网站先支后收怎么做报告软件技术和软件工程有什么区别
  • 基于多站点的网站内容管理平台的管理与应用门店设计方案
  • 成都网站内容策划九一赣州人才网招聘
  • 中交建设集团网站企业展厅 设计 公司
  • 贵州能源网站 中企动力建设怎样租用个人网站空间
  • 大型餐饮网站建设青岛网站开发中心
  • 做外贸主要是哪些网站鬼佬做爰网站
  • 池州网站建设公司wordpress在哪里改首页关键词标题
  • 网站域名需icp备案吗软件开发需求文档怎么写
  • 网站icp备案信息是什么意思平面设计就业方向有哪些
  • 长宁网站建设制作wordpress 去掉category
  • 定制手机号码官方网站设计一个网站先做哪些构造
  • wordpress免费资讯主题上海关键词优化的技巧
  • 厦门市同安区建设工程质量安全监督站网站新浪sae 搭建wordpress
  • 网站整体规划方案排行榜哪个网站最好
  • 做网站用笔记本电脑什么是网络营销什么是传统营销
  • 建设个公司网站需要多少费用wordpress是不是做网页