《AI Agent 开发入门》17.2 HTTP 服务化
本节固定 FakeModel 只回答预设加法,验证 /run、/stream 与 OpenAPI 接线,不理解任意问题。HTTP/SDK 都是核心之外的可选环境。StreamingResponse 按帧传输不等于模型增量流;complete 阶段仍等完整响应。原生 EventSource 是 GET,本节 POST 用 fetch。同步线程不因连接断开就被杀死,真实服务需另设计异步调用和取消。
tag
本节固定 FakeModel 只回答预设加法,验证 /run、/stream 与 OpenAPI 接线,不理解任意问题。HTTP/SDK 都是核心之外的可选环境。StreamingResponse 按帧传输不等于模型增量流;complete 阶段仍等完整响应。原生 EventSource 是 GET,本节 POST 用 fetch。同步线程不因连接断开就被杀死,真实服务需另设计异步调用和取消。
把 TaskFlow 真的写出来:SQLAlchemy 2.1.4 模型、scrypt 加 JWT 认证、带缓存的 FastAPI 路由、后台任务队列,并用 pytest 跑出 11 例通过、86% 覆盖率,起 uvicorn 用 httpx 联调、自写压测器压出真实 QPS 与延迟分位。
Python 微服务架构完整指南:单体 vs 微服务决策、服务拆分原则、FastAPI 服务模板、gRPC/HTTP 服务间通信、RabbitMQ/Kafka 消息驱动、服务发现与网关、可观测性、部署与演进式拆分路径。
系统覆盖 ML 模型上线:ONNX 导出跨框架、FastAPI 推理服务、Docker 容器化、批处理 vs 在线推理、A/B 测试、模型版本与回滚、监控告警、MLOps 全流程。
本节为 ResearchCopilot 设计会话与任务 API:把 session、run、message 三类资源钉成 REST 语义,讲清为什么 run 必须独立成资源而不是 session 的一个动作,给出资源关系图与状态字段,并用 FastAPI 0.143.0 真跑一组路由,贴出 TestClient 打出的真实 JSON 响应与 OpenAPI 契约。
用 lifespan 管理应用级资源(连接池、后台任务),在 SIGTERM 下实现优雅关闭让在途请求跑完,并按 Kubernetes 语义设计 liveness 与 readiness 两类健康探针;全部用 uvicorn 0.54.0 真实进程实测。
用中间件把日志、请求 ID、耗时统计等横切关注点从业务里抽出来:对比 BaseHTTPMiddleware 与纯 ASGI 两种写法,用 request.state 与 contextvars 传递请求上下文,并实测中间件的洋葱顺序与并发下的上下文隔离。
用 FastAPI 0.143.0 搭一个分层后端:把 api / service / repository / schema 四层拆开,用 APIRouter 分文件装配,用 Depends 区分请求级与进程级依赖,用 lru_cache 做单例,并用 dependency_overrides 做测试隔离;每一步都给出真实运行结果。
用 FastAPI 写下第一个真实可跑的 API:路径参数、查询参数、Pydantic 请求体、response_model、HTTPException、BackgroundTasks、APIRouter 与 Depends,看它自动生成的 OpenAPI 文档,并用 TestClient 写测试;最后实测 def 与 async def 端点的线程差异。
FastAPI/Flask/Django 三框架选型矩阵、FastAPI 依赖注入/后台任务/中间件/JWT 认证完整实战、SQLModel/SQLAlchemy ORM 集成、异步数据库、部署到生产。附带可运行代码与性能基准数据。
详解数字无极小程序中动物图像识别 API 的完整实现方案,包括特征向量提取、FAISS 相似度搜索、FastAPI 服务设计与主业务 API 对接流程,覆盖从离线图库构建到在线识别的全链路。