posts

文章归档

PlumePHP 全站文章的归档入口,按时间倒序汇总各专题的技术文章,并提供按主题浏览的专题分类入口。

这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。

全部文章

全部文章 game golang 客户端开发 Minigame Saas rust Python Java cg Typescript
LLMOps

语义缓存与 Prompt 缓存

缓存是少数能同时降成本与降延迟的手段,但它也是最容易「省了钱却丢了用户」的优化。本文区分精确缓存与语义缓存、讲清嵌入相似度阈值的设定与误命中防护,深入 Prompt Caching 与 KV Cache 前缀复用的计费与命中机制,给出缓存键设计、失效策略、多租户隔离与命中率成本测算,附可运行的阈值调参与命中率统计代码。

14 分钟阅读
缓存 KV Cache 成本优化
LLMOps

多智能体编排与工作流引擎

多智能体不是把多个 Agent 拼起来就完事,编排结构决定了系统的可控性、成本与可调试性。本文对比单体 Agent 与多 Agent 的取舍,拆解 ReAct、Plan-Execute、Reflexion 三种范式,深入 LangGraph 的状态、检查点与图式编排,给出子 Agent 委派、共享记忆、失败重试、人机协同与成本控制的工程方案,附可运行的状态图代码。

13 分钟阅读
agent 编排 LangGraph
LLMOps

LLM 护栏与提示注入防护

提示注入是 LLM 应用唯一无法靠模型自身根治的漏洞,因为它攻击的是模型的指令遵循能力本身。本文给出可落地的纵深防御:直接与间接注入的攻击面拆解、输入分隔与检测、系统提示词泄露的 canary 方案、输出审查与 PII 脱敏、工具调用白名单与参数校验、越狱分类器,以及红队测试用例设计与护栏的性能成本核算。

14 分钟阅读
安全 提示注入 PII