SSE(Server-Sent Events,服务器推送事件):是一种基于 HTTP 的网络通信协议,允许服务器向客户端单向推送实时数据。户端和服务端之间需要频繁地传输生成的内容。支持服务器可以一边生成结果,一边分块发送给客户端,这样用户就能逐步看到生成的内容,而不是等待服务端处理完所有内容才能看到。它的主要特点是:1)高效的单向通信:转为服务端到客户端的单向通信所设计,完美匹配大模型场景(客户端发送一次请求,服务端持续返回流式结果);2)低延迟:每次生成一个逻辑段落或标记(token)即可立即推送,避免传统 HTTP 请求-响应模式的长等待;3)轻量协议:基于HTTP/HTTPS,无需额外协议握手(如 WebSocket 的双向协商),减少连接开销。WebSocket:是一种网络通信协议,允许在客户端和服务器之间建立全双工、持久的连接,实现实时、双向的数据传输。不同于 SSE,WebSocket 连接一旦建立,双方可以随时发送数据,实效性更强,即无须等待服务端返回内容,客户端就能发起请求,适用于多人在线游戏操作实时同步、社交软件的聊天室、在线文档多人同时编辑等。它的主要特点是:1)全双工通信:客户端和服务器可以同时发送和接收数据;2)持久连接:连接建立后保持打开状态,直到主动关闭;3)低延迟:数据可以即时传输,适合实时应用。关于SSE和WebSocket的更详尽资料可阅读:详解Web端通信方式的演进:从Ajax、JSONP 到 SSE、Websocket网页端IM通信技术快速入门:短轮询、长轮询、SSE、WebSocket搞懂现代Web端即时通讯技术一文就够:WebSocket、socket.io、SSE3、传统Web端网络通信协议是什么大模型应用出现前,互联网在线应用以 Web 类应用为主,基于浏览器运行,通常通过 HTTP/HTTPS 协议与服务器通信,例如电商应用、新零售/新金融/出行等交易类应用,教育、传媒、医疗等行业应用,以及公共网站、CRM 等企业内部应用,适用范围非常广泛。其中,HTTPS 是 HTTP 的安全版本,通过 SSL/TLS 协议,对传输数据进行加密保护,加解密过程中会带来一些性能损耗。从 API 管理的视角,看不同类型的网络通信协议:
HTTPS 是一种无状态的、应用层的协议,用于在客户端(如浏览器)和服务器之间传输超文本(如 HTML 文件、图片、视频等)。它具有以下特点:1)基于请求-响应模型;2)无状态:每次请求都是独立的,服务器不会保存客户端的状态;3)数据加密,防止数据被窃听或篡改;身份验证,确保客户端与正确的服务器通信;数据完整性,防止数据在传输过程中被修改。(HTTP 是明文传输)它的优势是:1)简单易用:HTTP 协议设计简单,易于实现和使用;2)广泛支持:几乎所有浏览器、服务器和开发框架都支持 HTTP;3)灵活性:支持多种数据格式(如 JSON、XML、HTML)和内容类型;4)无状态:简化了服务器的设计,适合分布式系统;5)安全和合规性:通过加密技术保护数据传输,防止窃听和篡改;符合现代网络安全标准(如 GDPR、


奔放的炒粉
1 声望0 粉丝