CPA的GPT5.4导入CC用,经常没有卡住没有响应,也不报错
- 内容介绍
- 文章标签
- 相关推荐
有人遇到过吗,每次卡住都要手动esc,然后告诉他继续
网友解答:--【壹】--:
@ZheCi 我其实是前置了oneapi,然后在docker内网直接转发到CPA的端口;在oneapi的NGINX反代日志里面发现有connection closed,并且oneapi里面的响应日志是只有输入没有输出的token。让ChatGPT检查反代发现timeout时间不合理,尤其是buffer会导致流错乱
--【贰】--:
佬 你这个是cc的配置吗?还是nginx的配置?我想直接复用的你的方法
--【叁】--:
有没有做反代;我最开始也有,发现是等首字响应或者传流的时候被停掉链接了
--【肆】--:
但是直接用CPA官方端口好像不涉及反代吧.
--【伍】--:
我丢,真强,我直接用官方的cc和cpa是不是没有好的方法排查?
--【陆】--:
这个我之前也遇到过,我一直以为是cc的问题,不太好弄,就搁置了。没想到有解决方案呀
--【柒】--:
那是有点,官方CPA好像没有反代日志,而且上游请求日志里面都是200,是没有什么可以来排查的。CC也没有具体请求日志
--【捌】--:
location ^~ / {
proxy_pass XXXX;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header X-Forwarded-Port $server_port;
proxy_set_header X-Forwarded-Host $server_name;
proxy_connect_timeout 60s;
proxy_read_timeout 600s;
proxy_send_timeout 600s;
proxy_buffering off;
proxy_request_buffering off;
proxy_socket_keepalive on;
add_header X-Cache $upstream_cache_status always;
add_header Cache-Control "no-cache" always;
add_header Strict-Transport-Security "max-age=31536000" always;
}
我记得改了几个timeout,然后禁止buffer,调整了header。具体是哪些记不太清了。你可以让ChatGPT结合你的设置试着改一下;顺便看看NGINX日志有没有报错,更直接一些。
--【玖】--:
有用nginx做反代,没有用自带的https,是这个原因吗,佬最后修改什么解决的
--【拾】--:
经常遇到返回token一直在增加但是卡住好几个小时的情况,不知道问题在哪
--【拾壹】--:
今天好象是这样。昨天还没有出现这个情况。
--【拾贰】--:
能帮到就好 这个坑也整了我一个晚上,难受的不行
--【拾叁】--:
这个是nginx的配置文件,让ChatGPT结合你自己的改一下吧
--【拾肆】--:
谢谢佬 谢谢佬 终于找到问题所在了 NB
有人遇到过吗,每次卡住都要手动esc,然后告诉他继续
网友解答:--【壹】--:
@ZheCi 我其实是前置了oneapi,然后在docker内网直接转发到CPA的端口;在oneapi的NGINX反代日志里面发现有connection closed,并且oneapi里面的响应日志是只有输入没有输出的token。让ChatGPT检查反代发现timeout时间不合理,尤其是buffer会导致流错乱
--【贰】--:
佬 你这个是cc的配置吗?还是nginx的配置?我想直接复用的你的方法
--【叁】--:
有没有做反代;我最开始也有,发现是等首字响应或者传流的时候被停掉链接了
--【肆】--:
但是直接用CPA官方端口好像不涉及反代吧.
--【伍】--:
我丢,真强,我直接用官方的cc和cpa是不是没有好的方法排查?
--【陆】--:
这个我之前也遇到过,我一直以为是cc的问题,不太好弄,就搁置了。没想到有解决方案呀
--【柒】--:
那是有点,官方CPA好像没有反代日志,而且上游请求日志里面都是200,是没有什么可以来排查的。CC也没有具体请求日志
--【捌】--:
location ^~ / {
proxy_pass XXXX;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header X-Forwarded-Port $server_port;
proxy_set_header X-Forwarded-Host $server_name;
proxy_connect_timeout 60s;
proxy_read_timeout 600s;
proxy_send_timeout 600s;
proxy_buffering off;
proxy_request_buffering off;
proxy_socket_keepalive on;
add_header X-Cache $upstream_cache_status always;
add_header Cache-Control "no-cache" always;
add_header Strict-Transport-Security "max-age=31536000" always;
}
我记得改了几个timeout,然后禁止buffer,调整了header。具体是哪些记不太清了。你可以让ChatGPT结合你的设置试着改一下;顺便看看NGINX日志有没有报错,更直接一些。
--【玖】--:
有用nginx做反代,没有用自带的https,是这个原因吗,佬最后修改什么解决的
--【拾】--:
经常遇到返回token一直在增加但是卡住好几个小时的情况,不知道问题在哪
--【拾壹】--:
今天好象是这样。昨天还没有出现这个情况。
--【拾贰】--:
能帮到就好 这个坑也整了我一个晚上,难受的不行
--【拾叁】--:
这个是nginx的配置文件,让ChatGPT结合你自己的改一下吧
--【拾肆】--:
谢谢佬 谢谢佬 终于找到问题所在了 NB

