Tornado 与异步

Tornado 6.5 异步服务:写对 await 只是第一步

Tornado 6.5.10 是当前的稳定版本,6.5 系列已对 Python 3.14 提供实验性支持。长连接服务的难点从来不是语法。

约 3 分钟983 字

Tornado 诞生于 FriendFeed,为实时信息服务而生。如今它以稳定的异步网络层和 WebSocket 能力,仍在长连接、推送和代理类服务中占有一席之地。6.5 系列在 2025 年发布,2026 年 9 月已有 6.5.10 维护版本。

把阻塞调用请出 IOLoop

async def proxy(self):
    # 同步 requests 会阻塞整个事件循环
    # resp = requests.get(url)

    resp = await self.http_client.fetch(url, request_timeout=5)
    self.write(resp.body)

只能用同步库时,用 IOLoop.run_in_executor 丢进线程池,并配置合理的最大线程数。默认线程池不是无限资源。

并发上限与超时缺一不可

sem = asyncio.Semaphore(100)

async def call_upstream(url: str) -> bytes:
    async with sem:
        resp = await client.fetch(url, request_timeout=3)
        return resp.body

超时要分连接超时与读取超时,重试要有退避与次数上限。对下游不设防的并发,等于把自己的故障传播给整个调用链。

多进程与优雅退出

Tornado 可以用 HTTPServer.start() 配合 bind_multiple 或前置负载均衡实现多实例。容器环境下务必处理 SIGTERM:先停止接收新连接,等待在途请求完成,再退出进程。

def shutdown(signum, frame):
    server.stop()                 # 停止 accept
    IOLoop.current().add_callback(finalize)

signal.signal(signal.SIGTERM, shutdown)

关于 7.0

社区已规划 Tornado 7.0 对 WSGI 应用的支持方式做重要调整,并清理一批弃用 API。维护中的服务要提前关注发行说明,避免在版本切换时被动升级。