tag

Streaming

共 15 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
llm

LLM 流式输出与实时交互工程

人类对“等待”的耐心是有限的:当用户发出一个问题,超过 3 秒没有反馈,流失率就会显著上升。LLM 应用因此把“生成中”的状态转化为体验的一部分——流式输出让模型一个字一个字地“打字”,用户感受到的不是等待,而是思考的进行。但流式不是简单地把 HTTP 响应切成小块。它牵扯协议选型、增量解析、中断语 …

8 分钟阅读
LLM streaming SSE
GraphQL

GraphQL 文件上传与流式传输:multipart 到流式响应

GraphQL 文件上传与流式传输实战:multipart 上传规范(graphql-multipart-request-spec)、Upload 标量与服务端处理(Apollo/yoga)、大文件分片与进度、文件下载与流式响应、@defer/@stream 增量交付、字节流与二进制数据的 schema 建模、存储集成(S3/对象存储)与安全性、上传的授权与配额、以及流式订阅在实时数据上的工程实践。

8 分钟阅读
GraphQL streaming S3