郓城网站制作,导购网站免费推广,网站建站网站496565,网站下模板做网站犯法1、问题还原#xff1a; 在做openai机器人时#xff0c;后台使用 SseEmitterEventSource 实现流式获取数据#xff0c;前端通过 EventSourcePolyfill 函数接收后端的数据#xff0c;在页面流式输出到页面#xff0c;做成逐字打稿的效果。本地测试后#xff0c;可以正常获…1、问题还原 在做openai机器人时后台使用 SseEmitterEventSource 实现流式获取数据前端通过 EventSourcePolyfill 函数接收后端的数据在页面流式输出到页面做成逐字打稿的效果。本地测试后可以正常获取到数据页面也可以流式打印输出。工程发布到线上后前端使用的nginx作反向代理。在postman中直接访问代理的路径几乎是没有反应几秒后就会告诉你连接超时。 这里虽然显示 成功 200但是却没有认识数据的返回。
2、问题分析 本地工程不存在这个问题只有在线上环境才出现。说明线上的环境出现了问题因为在本地是通过本地的ipport访问可以直接获取到openai 的返回数据大家直接请求官方的可能会很慢/大概率是被墙在这里我做了代理速度就很快了。我会把做好的openai放到最后。言归正传线上唯一不同的是使用的nginx反向代理毫不质疑问题就在nginx上面SseEmitter是一个长连接nginx想必是做了缓冲导致数据迟缓最后超时。 3、问题解决 nginx中有一个参数是proxy_buffering, 默认是开启的状态。这个参数用来控制是否打开后端响应内容的缓冲区如果这个设置为off那么proxy_buffers和proxy_busy_buffers_size这两个指令将会失效。 但是无论proxy_buffering是否开启对proxy_buffer_size都是生效的。 proxy_buffering开启的情况下nignx会把后端返回的内容先放到缓冲区当中然后再返回给客户端(边收边传不是全部接收完再传给客户端)。 临时文件由proxy_max_temp_file_size和proxy_temp_file_write_size这两个指令决定的。如果响应内容无法放在内存里边,那么部分内容会被写到磁盘上。 如果proxy_buffering关闭那么nginx会立即把从后端收到的响应内容传送给客户端每次取的大小为proxy_buffer_size的大小这样效率肯定会比较低。 nginx不尝试计算被代理服务器整个响应内容的大小,nginx能从服务器接受的最大数据,是由指令proxy_buffer_size指定的. 特别注意 1、 proxy_buffering启用时要提防使用的代理缓冲区太大。这可能会吃掉你的内存限制代理能够支持的最大并发连接数。 2、对于基于长轮询(long-polling)的Comet 应用来说,关闭 proxy_buffering 是重要的,不然异步响应将被缓存导致Comet无法工作 重点看红色部分正是因为这个参数默认是开启状态我们配置nginx的时候也可能想不到要去修改所以就导致线上获取数据超时直至失败。下面是修改后的参数 搞定收工 这个是已经做好的 机器人助理支持语言问答论文写作日常问答同时还可以绘图画画。 问答机器人直通车 http://wdn.zs2020iot.cn/chatgpt?appidwx3414ace02bb7d650 dhttp://wdn.zs2020iot.cn/chatgpt?appidwx3414ace02bb7d650
大家爱好技术喜欢交流技术的诚意邀请进入我们的大家庭
