头图

深入解析QUIC协议

拍乐云Pano

QUIC(Quick UDP Internet Connection)是Google提出的一个基于UDP的传输协议,因其高效的传输效率和多路并发的能力,已经成为下一代互联网协议HTTP/3的底层传输协议。除了应用于Web领域,它的优势同样适用于一些通用的需要低延迟、高吞吐特性的传输场景。本文从QUIC的由来和优势出发,分享实际项目中需要考虑的问题和解决思路,通过测试对比QUIC和TCP的实际传输能力,希望有助于大家理解和实践QUIC协议。

PART 01 为什么需要QUIC?

众所周知,HTTP从最初的HTTP/0.9,经历了HTTP/1.x,HTTP/2到最新的HTTP/3这几个大的更新版本。在HTTP/3版本之前,HTTP底层都是用TCP传输数据,而伴随着移动互联网的发展,网络交互场景越来越丰富并要求及时性,传统TCP固有的性能瓶颈越来越不能满足需求,原因有以下几点:

建立连接的握手延迟大

HTTPS包含两个握手:1)TCP三次握手,1个RTT;2)TLS握手,2个RTT。完整握手总共需要3个RTT,对于直播等需要首帧秒开场景,握手延迟太大。

多路复用的队首阻塞

以HTTP/2多路复用为例,多个数据请求作为不同的流,共用一条TCP连接发送,所有的流应用层都必须按序处理。若某个流的数据丢失,后面其他流的数据都会被阻塞,直到丢失的流数据重传完成其他流才能被继续传输。即使接收端已经收到之后流的数据包,HTTP协议也不会通知应用层去处理。

TCP协议的更新滞后

TCP协议是实现在操作系统内核内,但是用户端的操作系统版本升级非常困难,很多老旧的系统像WindowsXP还有大量用户使用,因此TCP协议的一些更新很难被快速推广。

正是考虑到以上的这些问题,QUIC在应用层之上基于UDP实现丢包恢复,拥塞控制,加解密,多路复用等功能,既能优化握手延迟,同时又完全解决内核协议更新滞后问题。

PART 02 QUIC的优势

这里列举下QUIC的主要优势。

握手建连更快

QUIC建连时间大约0~1 RTT,在两方面做了优化:

1)传输层使用了UDP,减少了1个RTT三次握手的延迟。

2)加密协议采用了TLS 协议的最新版本TLS 1.3,相对之前的TLS 1.1-1.2,TLS1.3允许客户端无需等待TLS握手完成就开始发送应用程序数据的操作,可以支持1 RTT和0RTT。

对于QUIC协议,客户端第一次建连的握手协商需1-RTT,而已建连的客户端重新建连可以使用之前协商好的缓存信息来恢复TLS连接,仅需0-RTT时间。因此QUIC建连时间大部分0-RTT、极少部分1-RTT,相比HTTPS的3-RTT的建连,具有极大的优势。

避免队首阻塞的多路复用

QUIC同样支持多路复用,相比HTTP/2,QUIC的流与流之间完全隔离的,互相没有时序依赖。如果某个流出现丢包,不会阻塞其他流数据的传输和应用层处理,所以这个方案并不会造成队首阻塞。

支持连接迁移

什么是连接迁移?举个例子,当你用手机使用蜂窝网络参加远程会议,当你把网络切换到WLAN时,会议客户端会立马重连,视频同时出现一瞬间的卡顿。这是因为,TCP采用四元组(包括源IP、源端口、目标地址、目标端口)标识一个连接,在网络切换时,客户端的IP发生变化,TCP连接被瞬间切断然后重连。连接迁移就是当四元组中任一值发生变化时,连接依旧能保持,不中断业务。QUIC支持连接迁移,它用一个(一般是64位随机数)ConnectionID标识连接,这样即使源的IP或端口发生变化,只要ConnectionID一致,连接都可以保持,不会发生切断重连。

可插拔的拥塞控制

QUIC是应用层协议,用户可以插拔式选择像Cubic、BBR、Reno等拥塞控制算法,也可以根据具体的场景定制私有算法。

前向纠错(FEC)

QUIC支持前向纠错,弱网丢包环境下,动态的增加一些FEC数据包,可以减少重传次数,提升传输效率。

PART 03 基于QUIC的服务架构

实际项目在应用QUIC之前,首先要对整体服务架构做一些宏观上的思考,对下面的问题进行一定的思考后,再去考虑项目本身的细节,可以规避一些技术弯路。

哪些链路需要提升传输效率

TCP的性能瓶颈主要体现在具有数据丢包的网络,由于TCP的AIMD(加性增、乘性减)的拥塞避免策略,网络上出现少量丢包,TCP拥塞控制算法会指数级降低传输速率,导致其无法有效利用带宽。对于一些比较理想的网络,比如局域网内,TCP与QUIC的传输能力相当,传输速率受限于实际带宽,引入QUIC反而增加了复杂度。

如何兼容老的客户端

新的架构不能影响老的客户端,因此需要同时支持TCP和QUIC。

如何实现连接迁移

用户在4G和WIFI之间切换,如何实现连接迁移,保证业务层不中断?

QUIC是否会带来一些弊端,如何解决?

新事物产生往往会伴随新的问题,QUIC实现在内核之上的应用层,用UDP替代TCP传输,也带来了一些问题:

(1)国内运营商针对UDP做QOS限速和丢包,一些企业的局域网防火墙有时候会禁用 UDP 协议,导致网络UDP传输低效不可用。

(2)QUIC的协议栈运行在用户态,同时因为协议的复杂度,对CPU的消耗会比TCP高不少,实际实现时如何尽可能的减少QUIC对服务器性能的影响?

(3)UDP的报文长度受限于MTU,对于大块数据,QUIC在应用层切成大量的小包,收发会造成大量的系统调用sendmsg/recvmsg,因此QUIC的网络吞吐相比TCP有很大劣势。Linux系统提供了多种优化手段:1)支持批量发送函数sendmmsg,多个UDP报文,通过一次系统调用完成发送;2)开启内核GRO/GSO,在网卡驱动完成拆包和组包;3)网卡支持硬件UDP GSO offload。

考虑到以上问题之后,一般QUIC服务可以类似按照下图的架构设计。

加速链路

对以下两段链路使用QUIC加速:1)最后一公里:因受wifi设备性能、蜂窝网络信号覆盖范围强弱等因素影响,用户终端的最后一公里网络能力参差不齐,是比较容易出现弱网的一段链路。2)数据中心间级联:数据中心之间的数据一般会走骨干网,但在一些流量高峰时段,可能会出现网络拥塞,比较容易出现数据丢包,延时加剧。

双链路备份

客户端一般会同时支持TCP和QUIC两种传输通道,互为备份,根据两条链路的实际状况(RTT、丢包等)智能选择最优传输通道。

连接迁移的实现

如前文所述,QUIC socket采用UDP收发数据,一个连接用一个ConnectionID唯一标识,无论用户在蜂窝网络与WLAN之间如何切换,只要数据包中的ConnectionID不变,服务端可以将不同的四元组关联到同一个连接上下文,从而避免出现断网重连。但是实现无缝的连接迁移困难并不小,为了实现高并发,服务端一般都会采用多线程,多进程的架构,负载均衡根据四元组将连接ConnectionID关联到特定的运行环境(线程或进程),连接迁移大概率会导致缓存的连接上下文失效。以下图多线程的设计举例,设想CID1连接迁移发生时,用户源IP和端口由A变成C,socket绑定的线程由1迁移到2,因线程2查找不到CID1连接的上下文,导致连接迁移失败。

上图只是多线程的架构,我们可以想办法把新的socket重新bind回线程1。如果是多进程架构,负载均衡会寻址到不同的服务器上,如何将连接重新寻址到原始服务器?业内一般的解决思路借鉴了雪花算法,在建连完成就给Server的destination ConnectionId打上初始服务器的地址标记,根据这些标记信息(集群ID+机器ID+线程ID),让新的服务器寻址到初始的服务器,后续数据再透明转发给初始服务器,整个过程仅增加了一次转发动作,对用户没有任何感知。

PART 04 传输时延测试

建连时延

上图可以看到建连有将近50%的提升,QUIC节省了2-RTT时间,对于一些RTT高网络,效果更显著。

丢包时延

为了对比TCP和QUIC在丢包网络下的表现,分别对5%、15%、30%的丢包率场景做了对比测试。每一种场景,进行1000次测试,每次测试发送10KB数据,统计最终落在指定时延以下的概率。最终的结果参考下图,横坐标表示时延,纵坐标用百分比表示指定时延下的样本数量,曲线收敛速度越快,落在较低时延范围的样本数量越多,所以时延表现越好。

5%丢包下,200ms内传输完成的测试样本,QUIC占95%,TCP占78%,QUIC比TCP提升了17%左右。

15%丢包下,200ms内传输完成的测试样本,QUIC占90%,TCP占50%,QUIC比TCP提升了90%左右。

30%丢包下,200ms内传输完成的测试样本,QUIC占62%,TCP占22%,QUIC比TCP提升了300%左右。

总结起来,QUIC相比TCP的弱网丢包下的延时提升比较比较明显,丢包率越高,提升越明显。

PART 05 总结

本文对QUIC实践中遇到的主要问题和相应解决思路做了一些分享,实际项目应用时,由于需求的多样性、现有服务架构的差异,需要因地制宜,将QUIC的一些好的特性以比较优雅地姿势应用。

关注拍乐云Pano,了解更多音视频相关技术、产品实践!

阅读 2.4k

拍乐云Pano
我们是一家由顶级音视频团队构建的实时通信Paas云服务公司,红杉资本投资,思科WebEx背景。我们通过提供...

我们是专注于RTC实时通信的拍乐云Pano,红杉资本投资,思科WebEx背景。我们通过提供极简、稳定和安全的S...

26 声望
6 粉丝
0 条评论

我们是专注于RTC实时通信的拍乐云Pano,红杉资本投资,思科WebEx背景。我们通过提供极简、稳定和安全的S...

26 声望
6 粉丝
文章目录
宣传栏