V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Flourite
V2EX  ›  Python

请教 Python 大神关于 flask 压测 rps 掉到 0

  •  
  •   Flourite · 7 天前 · 1968 次点击
    from flask import Flask
    
    app = Flask(__name__)
    
    @app.route("/")
    def hello_world():
        return "Hello, World!"
    

    以上代码使用 wrk 压测(wrk -t2 -c100 -d10s http://localhost:5000/ ),第三次 rps 就会掉到 0 ,是什么原因导致的?是 GIL 锁导致的吗?

    26 条回复    2025-01-14 12:03:49 +08:00
    Abbeyok
        1
    Abbeyok  
       7 天前
    flask 性能很差,试试异步框架
    ho121
        2
    ho121  
       7 天前 via Android
    5000 端口是直接 flask run 起来的服务吗?官方说明 flask run 只用于开发用途,生产用途需要用 gunicorn 直接的框架。https://flask.palletsprojects.com/en/stable/deploying/
    zhangchunjiiw
        3
    zhangchunjiiw  
       7 天前
    2 楼正解
    Flourite
        4
    Flourite  
    OP
       7 天前 via iPhone
    @ho121 加了,一样的结果,chatgpt 也问不出什么才过来问的
    cz5424
        5
    cz5424  
       7 天前 via iPhone
    gunicorn 没用好,调一下 worker 数和 worker class
    lambdaq
        6
    lambdaq  
       7 天前
    @Flourite 怎么加的,贴配置。还有环境。
    Flourite
        7
    Flourite  
    OP
       7 天前
    @lambdaq `gunicorn -w 4 -b 127.0.0.1:5000 hello:app`
    Flourite
        8
    Flourite  
    OP
       7 天前
    之所以提这个问题,是看了一篇文章:[Python Concurrency: Threads, Processes, and asyncio Explained]( https://newvick.com/python-concurrency/),他与我之前测试 python 的结果一样,随着压测 rps 降到 0
    ctrlaltdeletel
        9
    ctrlaltdeletel  
       7 天前
    查看一下是否是有太多 time-wait 状态的连接?如果是的话设置下 tcp_tw_reuse 啥的试试?
    Flourite
        10
    Flourite  
    OP
       7 天前
    看起来是 flask 框架的问题,django 则是正常
    julyclyde
        11
    julyclyde  
       7 天前
    @Flourite 虽然你这个推理很有道理……但是 flask 能有啥问题呢?
    yingxiangyu
        12
    yingxiangyu  
       7 天前   ❤️ 1
    from gevent.pywsgi import WSGIServer
    http_server = WSGIServer((host, port), app)
    http_server.serve_forever()
    用这个启动
    r6cb
        13
    r6cb  
       7 天前
    def 前面加 async 试试看
    Kauruus
        14
    Kauruus  
       7 天前   ❤️ 1
    Mac 下能重现,rps 降到 3 ,甚至出现 unable to connect to localhost:5000 Can't assign requested address 。

    netstat 看到 1.6 万个 TIME_WAIT 。
    awanabe
        15
    awanabe  
       7 天前
    换个 linux 试下呢
    Kauruus
        16
    Kauruus  
       7 天前
    Linux 也试了一下,没有完全降到 0 ,只有几个 timeout 应该也是 TIME_WAIT 的影响。
    Kauruus
        17
    Kauruus  
       7 天前
    Linux 下 TIME_WAIT 也在涨,在 1.4 万个左右徘徊。我是开了 tcp_tw_reuse = 2 的,然后这个 wrk 也在本机跑,所以会重用,所以连续跑 rps 基本保持不变。
    julyclyde
        18
    julyclyde  
       7 天前
    @r6cb def 前边能随便加 async 么?调用方式都不同了
    darcyC
        19
    darcyC  
       6 天前
    换一个端口试试呢
    julyclyde
        20
    julyclyde  
       6 天前
    Can't assign requested address
    是不是 REUSE 之类的限制?
    scriptB0y
        21
    scriptB0y  
       5 天前   ❤️ 2
    @ctrlaltdeletel
    @Kauruus
    @ho121

    应该就是 @Kauruus 和 @ctrlaltdeletel 说的 TCP TIME_WAIT 状态的问题。

    我的 Linux (默认就是 tcp_tw_reuse = 2 ) 测试不能复现。

    MAC 因为默认没有开启,所以在两次压测会把客户端发起 TCP 连接的可用端口全部消耗掉,第三次压测就没有端口可以用来建立和 5000 端口的连接了。

    可以这么查看客户端可用的端口

    sysctl net.inet.ip.portrange.first net.inet.ip.portrange.last
    net.inet.ip.portrange.first: 49152
    net.inet.ip.portrange.last: 65535

    可以得到 65535 - 49152 = 16383, 16383 差不多可以用两次压测消耗完。

    参考下这篇,就楼主说的问题一模一样: https://web.archive.org/web/20180129235834/http://danielmendel.github.io/blog/2013/04/07/benchmarkers-beware-the-ephemeral-port-limit/
    Flourite
        22
    Flourite  
    OP
       5 天前
    @scriptB0y 这里还是有问题,那就是我换成 django 或其他语言的 web 框架压力测试却是正常的,至于 linux ,我记得几年前测试也有问题
    scriptB0y
        23
    scriptB0y  
       5 天前
    @Flourite 这个和 Django 没关系。可能是 Django 性能差,用不完所有的客户端连接?

    和 Linux MAC 其实也没关系,就是默认参数一个是开一个是关,可能你用的发行版 tcp_tw_reuse 是 0.
    alex8
        24
    alex8  
       5 天前 via iPhone
    Python 这种胶水语言运行效率本来就很低啊,纯 python 不适合互联网产品
    julyclyde
        25
    julyclyde  
       5 天前
    @alex8 这事跟语言就没啥关系
    fzzff
        26
    fzzff  
       4 天前
    复现了, mark 一下等大佬
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2641 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 05:05 · PVG 13:05 · LAX 21:05 · JFK 00:05
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.