逐句回答,流式返回,ChatGPT采用的Server-sent events后端实时推送协议Pytho

沈良辉

善于观察的朋友一定会敏锐地发现ChatGPT网页端是逐句给出问题答案的，同样，ChatGPT后台Api接口请求中，如果将Stream参数设置为True后，Api接口也可以实现和ChatGPT网页端一样的流式返回，进而更快地给到前端用户反馈，同时也可以缓解连接超时的问题。
Server-sent events（SSE）是一种用于实现服务器到客户端的单向通信的协议。使用SSE，服务器可以向客户端推送实时数据，而无需客户端发出请求。
SSE建立在HTTP协议上，使用基于文本的数据格式（通常是JSON）进行通信。客户端通过创建一个EventSource对象来与服务器建立连接，然后可以监听服务器发送的事件。服务器端可以随时将事件推送给客户端，客户端通过监听事件来接收这些数据。
ChatGPT的Server-sent events应用

首先打开ChatGPT网页端，随便问一个问题，然后进入网络选单，清空历史请求记录后，进行网络抓包监听：

可以看到，在触发了回答按钮之后，页面会往后端的backend-api/conversation对话接口发起请求，但这个接口的通信方式并非传统的http接口或者Websocket持久化链接协议，而是基于EventSteam的事件流一段一段地返回ChatGPT后端模型的返回数据。
为什么ChatGPT会选择这种方式和后端Server进行通信？ChatGPT网页端使用Server-sent events通信是因为这种通信方式可以实现服务器向客户端推送数据，而无需客户端不断地向服务器发送请求。这种推送模式可以提高应用程序的性能和响应速度，减少了不必要的网络流量。
与其他实时通信协议（如WebSocket）相比，Server-sent events通信是一种轻量级协议，易于实现和部署。此外，它也具有广泛的浏览器兼容性，并且可以在不需要特殊网络配置的情况下使用。
在ChatGPT中，服务器会将新的聊天消息推送到网页端，以便实时显示新的聊天内容。使用Server-sent events通信，可以轻松地实现这种实时更新功能，并确保网页端与服务器之间的通信效率和稳定性。

说白了，降低成本，提高效率，ChatGPT是一个基于深度学习的大型语言模型，处理自然语言文本需要大量的计算资源和时间。因此，返回响应的速度肯定比普通的读数据库要慢的多，Http接口显然并不合适，因为Http是一次性返回，等待时间过长，而Websocket又过重，因为全双工通信并不适合这种单项对话场景，所谓单项对话场景，就是对话双方并不会并发对话，而是串行的一问一答逻辑，同时持久化链接也会占用服务器资源，要知道ChatGPT几乎可以算是日均活跃用户数全球最高的Web应用了。
效率层面，大型语言模型没办法一下子返回所有计算数据，但是可以通过Server-sent events将前面计算出的数据先“推送”到前端，这样用户也不会因为等待时间过长而关闭页面，所以ChatGPT的前端观感就是像打字机一样，一段一段的返回答案，这种“边计算边返回”的生成器模式也提高了ChatGPT的回答效率。
Python3.10实现Server-sent events应用

这里我们使用基于Python3.10的Tornado异步非阻塞框架来实现Server-sent events通信。
首先安装Tornado框架

1. pip3 install tornado==6.1

复制代码

随后编写sse_server.py:

1. import tornado.ioloop  
2. import tornado.web  
3.   
4.   
5. push_flag = True  
6.   
7. from asyncio import sleep  
8.   
9.   
10. class ServerSentEvent(tornado.web.RequestHandler):  
11.   
12.     def __init__(self, *args, **kwargs):  
13.         super(ServerSentEvent, self).__init__(*args, **kwargs)  
14.         self.set_header('Content-Type', 'text/event-stream')  
15.         self.set_header('Access-Control-Allow-Origin', "*")  
16.         self.set_header("Access-Control-Allow-Headers","*")  
17.         # 请求方式  
18.         self.set_header("Access-Control-Allow-Methods","*")  
19.   
20.     # 断开连接  
21.     def on_finish(self):  
22.         print("断开连接")  
23.         return super().on_finish()  
24.   
25.     async def get(self):  
26.         print("建立链接")  
27.         while True:  
28.             if push_flag:  
29.                 print("开始")  
30.                 self.write("event: message\n");  
31.                 self.write("data:" + "push data" + "\n\n");  
32.                 self.flush()  
33.                 await sleep(2)

复制代码

建立好推送路由类ServerSentEvent，它继承Tornado内置的视图类tornado.web.RequestHandler，首先利用super方法调用父类的初始化方法，设置跨域，如果不使用super，会将父类同名方法重写，随后建立异步的get方法用来链接和推送消息，这里使用Python原生异步的写法，每隔两秒往前端推送一个事件message,内容为push data。
注意，这里只是简单的推送演示，真实场景下如果涉及IO操作，比如数据库读写或者网络请求之类，还需要单独封装异步方法。
另外这里假定前端onmessage处理程序的事件名称为message。如果想使用其他事件名称，可以使用前端addEventListener来订阅事件，最后消息后必须以两个换行为结尾。
随后编写路由和服务实例：

1. def make_app():  
2.     return tornado.web.Application([  
3.         (r"/sse/data/", ServerSentEvent),  
4.     ])  
5.   
6. if __name__ == "__main__":  
7.     app = make_app()  
8.     app.listen(8000)  
9.     print("sse服务启动")  
10.     tornado.ioloop.IOLoop.current().start()

复制代码

随后在后台运行命令：

1. python3 sse_server.py

复制代码

程序返回：

1. PS C:\Users\liuyue\www\videosite> python .\sse_server.py  
2. sse服务启动

复制代码

至此，基于Tornado的Server-sent events服务就搭建好了。
前端Vue.js3链接Server-sent events服务

客户端我们使用目前最流行的Vue.js3框架：

1. sse_init:function(){  
2.   
3.   
4.           var push_data = new EventSource("http://localhost:8000/sse/data/")  
5.         push_data.onopen = function (event) {  
6.             // open事件  
7.             console.log("EventSource连接成功");  
8.         };  
9.          
10.   
11.         push_data.onmessage = function (event) {  
12.     try {  
13.         console.log(event);  
14.     } catch (error) {  
15.         console.log('EventSource结束消息异常', error);  
16.     }  
17. };  
18.   
19.   
20.        push_data.onerror = function (error) {  
21.     console.log('EventSource连接异常', error);  
22. };  
23.   
24.   
25.       }

复制代码

这里在前端的初始化方法内建立EventSource实例，通过onmessage方法来监听后端的主动推送：

可以看到，每隔两秒钟就可以订阅到后端的message事件推送的消息，同时，SSE默认支持断线重连，而全双工的WebSocket协议则需要自己在前端实现，高下立判。
结语

不仅仅可以实现ChatGPT的流式返回功能，SSE在Web应用程序中的使用场景非常广泛，例如实时的新闻推送、实时股票报价、在线游戏等等，比起轮询和长轮询，SSE更加高效，因为只有在有新数据到达时才会发送；同时SSE支持自定义事件和数据，具有更高的灵活性和复用性，为流式数据返回保驾护航，ChatGPT的最爱，谁不爱？最后奉上项目地址，与众乡亲同飨：github.com/zcxey2911/sse_tornado6_vuejs3

来源:https://www.cnblogs.com/v3ucn/p/17190504.html
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！