Tornado 与异步

WebSocket 长连接:心跳、背压与优雅关闭

连接建立只是开始。真正决定推送服务能不能活下来的,是断线感知、消息积压和关闭流程。

约 3 分钟1064 字

WebSocket 把「请求—响应」变成长期会话,也把很多问题从短请求里放大:一条连接挂住几小时,中间任何一层的超时、重启、网络抖动都会找上门。

心跳不是可选项

class LiveHandler(websocket.WebSocketHandler):
    async def open(self):
        self.ping_task = asyncio.create_task(self.heartbeat())

    async def heartbeat(self):
        while True:
            await asyncio.sleep(25)
            try:
                self.ping(b"ping")
            except Exception:
                break

心跳间隔要短于代理与负载均衡的空闲超时。客户端也要有对等的超时判断,否则半开连接会悄悄堆积。

背压:慢客户端不能拖垮服务

给每个连接设置有界队列。队列满了就丢弃最旧的消息或断开连接,而不是无限缓存。无界队列是内存泄漏的常见来源。

class Client:
    def __init__(self, handler):
        self.handler = handler
        self.queue: asyncio.Queue = asyncio.Queue(maxsize=100)

    async def send_loop(self):
        while True:
            msg = await self.queue.get()
            try:
                await self.handler.write_message(msg)
            except Exception:
                break

连接状态要可观测

  • 记录当前连接数、消息速率、队列长度和断开原因。
  • 断开原因要区分:客户端主动关闭、心跳超时、服务端推送失败。
  • 发布时逐个节点摘流量,等连接排空再重启,别让所有客户端同时重连。

安全边界

校验 Origin,不要给任意站点提供跨域连接;消息内容一律按不可信输入处理,服务端再次做权限判断。WebSocket 不是绕过认证的通道。