Tornado 与异步
WebSocket 长连接:心跳、背压与优雅关闭
连接建立只是开始。真正决定推送服务能不能活下来的,是断线感知、消息积压和关闭流程。
WebSocket 把「请求—响应」变成长期会话,也把很多问题从短请求里放大:一条连接挂住几小时,中间任何一层的超时、重启、网络抖动都会找上门。
心跳不是可选项
class LiveHandler(websocket.WebSocketHandler):
async def open(self):
self.ping_task = asyncio.create_task(self.heartbeat())
async def heartbeat(self):
while True:
await asyncio.sleep(25)
try:
self.ping(b"ping")
except Exception:
break
心跳间隔要短于代理与负载均衡的空闲超时。客户端也要有对等的超时判断,否则半开连接会悄悄堆积。
背压:慢客户端不能拖垮服务
给每个连接设置有界队列。队列满了就丢弃最旧的消息或断开连接,而不是无限缓存。无界队列是内存泄漏的常见来源。
class Client:
def __init__(self, handler):
self.handler = handler
self.queue: asyncio.Queue = asyncio.Queue(maxsize=100)
async def send_loop(self):
while True:
msg = await self.queue.get()
try:
await self.handler.write_message(msg)
except Exception:
break
连接状态要可观测
- 记录当前连接数、消息速率、队列长度和断开原因。
- 断开原因要区分:客户端主动关闭、心跳超时、服务端推送失败。
- 发布时逐个节点摘流量,等连接排空再重启,别让所有客户端同时重连。
安全边界
校验 Origin,不要给任意站点提供跨域连接;消息内容一律按不可信输入处理,服务端再次做权限判断。WebSocket 不是绕过认证的通道。
