Flask在Windows环境下的部署

背景

由于目前在用的Flask项目涉及到一部分依赖Windows的处理,还无法迁移到linux平台,那么在windows环境下,要怎么部署呢?

思路

根据Flask官网介绍,由于Flask内置的服务器性能不佳,推荐的主要的部署方式有如下几种:

上述这些部署方式,仅Tornado是支持在windows情况下部署的,配合上Nginx可以达到比较好的效果。可已参考Nginx与tornado框架的并发评测

但是在实际使用中发现,tornado 的稳定性虽然很高,但是在tornado上部署Flask,并不会有异步的效果。实际上还是单进程阻塞运行的,即使在Flask中配置了threaded = True也无法实现多线程使用。

Flask多线程情况

配置启用多线程:

# manage.py
from flask_script import Server

server = Server(host="0.0.0.0", threaded=True)

Flask中配置两条测试路由

import time
@main.route('/test')
def maintest():
    return 'hello world'
    
@main.route('/sleep')
def mainsleep():
    time.sleep(60)
    return 'wake up'

先用浏览器访问\sleep

图片描述

随即立刻访问\test:

图片描述

可见两次访问是不同的线程处理的,不会出现堵塞的情况。

tornado + Flask多线程情况

使用tornado托管:

from tornado.wsgi import WSGIContainer
from tornado.httpserver import HTTPServer
from tornado.ioloop import IOLoop
from yourapplication import app

http_server = HTTPServer(WSGIContainer(app))
http_server.listen(5000)
IOLoop.instance().start()

先用浏览器访问\sleep

图片描述

随即立刻访问\test:

图片描述

可以发现,虽然tornado框架是支持异步的,但是由于实际上后台的处理是同步的,从而无法实现异步的处理的效果。如果想后台的处理也异步,则需要直接使用tornado来开发。

那么为什么使用tornado来托管flask呢?

Tornado 是一个开源的可伸缩的、非阻塞式的 web 服务器和工具集,它驱动了FriendFeed 。因为它使用了 epoll 模型且是非阻塞的,它可以处理数以千计的并发固定连接,这意味着它对实时 web 服务是理想的。把 Flask 集成这个服务是直截了当的

根据官网描述,其实也是为了弥足flask自带服务器不稳定的问题。

Flask高并发下的表现

使用tsung进行压测,压力500:

Name highest 10sec mean lowest 10sec mean Highest Rate Mean Rate Mean Count
connect 34.30 msec 31.91 msec 506 / sec 356.60 / sec 33.19 msec 103908
page 0.42 sec 0.29 sec 505 / sec 356.32 / sec 0.39 sec 103782
request 0.42 sec 0.29 sec 505 / sec 356.32 / sec 0.39 sec 103782
session 1mn 24sec 10.64 sec 11.4 / sec 1.21 / sec 14.24 sec 362
Code Highest Rate Mean Rate Total number
200 505 / sec 356.32 / sec 104792
Name Highest Rate Total number
error_abort 0.5 / sec 1
error_abort_max_conn_retries 11.7 / sec 362
error_connect_econnrefused 58.6 / sec 1667

可见,在500的并发下,效果不佳,有很多的链接拒绝。

Flask + Nginx在高并发下的表现

  • 使用tsung进行压测,压力500:
Name highest 10sec mean lowest 10sec mean Highest Rate Mean Rate Mean Count
connect 0.20 sec 30.95 msec 1810.5 / sec 626.43 / sec 0.11 sec 189853
page 0.68 sec 0.17 sec 1810.1 / sec 625.72 / sec 0.40 sec 189581
request 0.68 sec 0.17 sec 1810.1 / sec 625.72 / sec 0.40 sec 189581
Code Highest Rate Mean Rate Total number
200 906.4 / sec 196.08 / sec 60689
502 1443.9 / sec 430.02 / sec 129006
Name Highest Rate Total number
error_abort 0.5 / sec 1

情况差不多,Flask服务器表现还算稳定,那么尝试增加后台Flask服务器数量(通过多端口实现):

python manage.py runserver --port=8001
python manage.py runserver --port=8002
python manage.py runserver --port=8003
python manage.py runserver --port=8004
  • 使用tsung进行压测,压力500,4个Flask服务器:
Name highest 10sec mean lowest 10sec mean Highest Rate Mean Rate Mean Count
connect 0.18 sec 32.57 msec 3510.1 / sec 639.92 / sec 0.11 sec 195154
page 0.49 sec 85.30 msec 3512.1 / sec 639.07 / sec 0.35 sec 194856
request 0.49 sec 85.30 msec 3512.1 / sec 639.07 / sec 0.35 sec 194856
Code Highest Rate Mean Rate Total number
200 3510.1 / sec 639.50 / sec 194986
Name Highest Rate Total number
error_abort 0.333333333333333 / sec 1

这个效果妥妥的。

  • 使用tsung进行压测,压力1000,4个Flask服务器:
Name highest 10sec mean lowest 10sec mean Highest Rate Mean Rate Mean Count
connect 0.20 sec 32.63 msec 2983.8 / sec 492.94 / sec 98.56 msec 150793
page 0.57 sec 90.00 msec 2976.4 / sec 491.31 / sec 0.40 sec 150275
request 0.57 sec 90.00 msec 2976.4 / sec 491.31 / sec 0.40 sec 150275
Code Highest Rate Mean Rate Total number
200 2981.4 / sec 488.92 / sec 149556
502 92.5 / sec 4.02 / sec 925
Name Highest Rate Total number
error_abort 0.333333333333333 / sec 1

开始有一些502的超时错误了。

  • 使用tsung进行压测,压力1000,4个tornado服务器:
Name highest 10sec mean lowest 10sec mean Highest Rate Mean Rate Mean Count
connect 0.18 sec 86.24 msec 2052.1 / sec 693.82 / sec 0.14 sec 208786
page 0.52 sec 0.24 sec 2060.7 / sec 693.34 / sec 0.45 sec 208606
request 0.52 sec 0.24 sec 2060.7 / sec 693.34 / sec 0.45 sec 208606
Code Highest Rate Mean Rate Total number
200 2056.6 / sec 693.67 / sec 208703

在并发1000的情况下,是否使用tornado托管Flask效果差不多。

结论

根据上述测试,直接使用Flask服务器的话,由于并发处理较弱,会有各种超时或者连接拒绝的错误。通过搭配Nginx来进行缓冲,通过增加后端服务器数来提供并发处理量。

所以最终选择了Nginx+后台4个Flask服务器的方式。由于目前Flask项目全体用户只有几千,目前并发情况很低,该方式完全满足使用。

如果在更大型项目中,并发上万,建议还是考虑想办法迁移至Liunx环境,通过官方建议的方式部署。


代码乱炖
知识总是要一点点积累的
124 声望
7 粉丝
0 条评论
推荐阅读
通过SortableJS实现elementUItable拖动效果
目前elmenetUI的表格是不支持拖动的,但表格行拖动要求往往比较常见。通过引入sortableJS可以方便的让elementUI组件中的table支持拖动效果。

keejo阅读 4.5k评论 1

python里打印list的四种方法
原文链接标题:Print lists in Python (4 Different Ways)用for循环来打印 {代码...} 结果1 2 3 4 5用 * 星号来打印 {代码...} 结果 {代码...} 把list转换为str来打印 {代码...} 结果 {代码...} 用map把数组里非...

chiiinnn阅读 10.3k

封面图
Ubuntu20.04 从源代码编译安装 python3.10
Ubuntu 22.04 Release DateUbuntu 22.04 Jammy Jellyfish is scheduled for release on April 21, 2022If you’re ready to use Ubuntu 22.04 Jammy Jellyfish, you can either upgrade your current Ubuntu syste...

ponponon1阅读 4k评论 1

把 Go 放到 Nginx C module 之中
最近一段时间,我在做一件有趣的事情,让一个 Nginx C module 通过 Go 代码来访问 gRPC 服务。不得不感慨 Go 真的很流行,让人无法拒绝。之前我做 wasm-nginx-module 时就试图把 tinygo 跑在 Nginx 里面,这次则...

spacewander2阅读 2.1k评论 2

日常Python 代码片段整理
1、简单的 HTTP Web 服务器 {代码...} 2、单行循环List {代码...} 3、更新字典 {代码...} 4、拆分多行字符串 {代码...} 5、跟踪列表中元素的频率 {代码...} 6、不使用 Pandas 读取 CSV 文件 {代码...} 7、将列表...

墨城2阅读 316

Unicode 正则表达式(qbit)
前言本文根据《精通正则表达式》和 Unicode Regular Expressions 整理。本文的示例默认以 Python3 为实现语言,用到 Python3 的 re 模块或 regex 库。基本的 Unicode 属性分类 {代码...} 基本的 Unicode 子属性Le...

qbit阅读 4.4k

Python + Sqlalchemy 对数据库的批量插入或更新(Upsert)
由于不同数据库对这种 upsert 的实现机制不同,Sqlalchemy 也就不再试图做一致性的封装了,而是提供了各自的方言 API,具体到 Mysql,就是给 insert statement ,增加了 on_duplicate_key_update 方法。

songofhawk1阅读 2k评论 4

封面图
124 声望
7 粉丝
宣传栏