用 Python 写稳定的 LLM API 层
从 Notebook 到线上服务,缺的不是模型调用,而是类型边界、超时重试、流式输出与可观测性。
这里有框架选型的判断依据、生产环境的踩坑记录,也有 Pylons 与 Google Wave 留下的架构思考。技术会过时,但把问题讲清楚的文章不会。
不追热点,只记录能用得上的东西。
Python 3.15、Django 6.1、Tornado 6.5 的升级要点与兼容性检查,少走冤枉路。
ORM 性能、类型注解、并发模型、WebSocket 背压,都是线上真正会遇到的问题。
从 Pylons 到 Pyramid、从 Google Wave 到 MCP,理解技术选择背后的取舍。
LLM API 层、RAG、MCP 工具调用、成本与安全边界,把 Demo 变成能跑的服务。
从 Notebook 到线上服务,缺的不是模型调用,而是类型边界、超时重试、流式输出与可观测性。
Django、Flask、FastAPI、Tornado、Litestar 各自解决不同的问题。用场景、团队和维护周期三把尺子做决定。
3.15.0 于 2026 年 10 月发布,3.10 已在同月停止维护。升级不是改一行版本号,本文给出一份可执行的检查清单。
从 3.15 新版特性到类型系统与并发模型,写更稳、更快、更容易维护的 Python。
Django 6.x 生产实践:ORM 性能、迁移策略、安全配置与后台管理,做完整的企业级 Web 应用。
Flask 3.x 的蓝图拆分、扩展取舍与上线方式,小服务也能保持清晰的结构。
Tornado 6.5 的异步服务、WebSocket 长连接与高并发场景下的背压、心跳和优雅关闭。
从 Pylons、Google Wave 到今天的 FastAPI 与 Litestar,理解框架兴替背后的真实需求。
把大模型接进正经的 Python 服务:稳定的 API 层、RAG、MCP 工具调用、评测与安全边界。