tag

内容审核

共 4 篇文章。
全部文章书稿GoJavaTypeScript互联网产品游戏开发独立开发者小游戏游戏服务端架构设计游戏设计Godot性能优化Rust
books

《游戏服务端架构·平台化与架构治理》11.2 智能客服与内容审核

一条高置信度误判暴露的不是模型问题,而是自动处罚规则缺少例外。本文区分智能客服与内容审核的目标和失败代价,给出置信度分流、保护类别、未成年人与重复违规的路由规则,用 Go 实现版本化审核策略与申诉状态机,并讨论异步审核、缓存、灰度与回滚的架构取舍。

8 分钟阅读
书稿 游戏服务端 架构设计
books

《互联网产品的客户端架构·内容、社交与实时互动》11.3 举报链路与证据留存

举报不是把一段文字发给服务端。本节用内存队列和假时钟实现举报负载、离线排队、去重、退避与成功回执,把举报时的内容快照冻结成不可覆盖的证据,给出快照、去重与退避共 8 条测试,并复盘一次作者编辑后证据被悄悄改写、举报被驳回的真实申诉失败事故。

9 分钟阅读
书稿 互联网产品 客户端架构
books

《互联网产品的客户端架构·内容、社交与实时互动》11.2 审核态的内容 UI:占位、隐藏与申诉

审核中的内容最怕先闪正文再被替换。本节用五态状态机描述 draft、pending、review、published、hidden 的可见性与占位,把正文挂载与状态判断绑定,给出 8 条视图投影测试,并复盘一次审核态卡片先渲染正文、随后被占位覆盖的闪烁事故。

9 分钟阅读
书稿 互联网产品 客户端架构
books

《互联网产品的客户端架构·内容、社交与实时互动》11.1 端上预检:能拦什么、不能拦什么

端上预检只能做早反馈,不能替代审核。本节用纯函数实现长度、格式、控制字符与少量高风险词的本地提示,区分硬阻断、可申诉复核与轻提示三类结果,给出带允许短语、零宽归一化和规则版本的 8 条测试,并复盘一次单字黑名单误拦「黄金周」正常游记的事故。

8 分钟阅读
书稿 互联网产品 客户端架构