模型可解释性：SHAP、LIME 与注意力归因
模型给出预测却说不清原因，在风控、医疗、信贷等场景无法落地。本文系统讲解可解释性的全局与局部视角、排列重要性与 SHAP（KernelSHAP/TreeSHAP）、LIME 局部近似、梯度类归因（Integrated Gradients）、注意力归因的陷阱，以及忠实度与稳定性评估和合规落地。
tag
可解释性
共 3 篇文章。
模型可解释性实战：特征重要性、SHAP、LIME 与业务落地
模型可解释性实战：全局与局部解释、特征重要性（内置/置换）、PDP 部分依赖图、SHAP 原理与 TreeSHAP、LIME 局部解释、反事实解释、可解释性与业务落地（风控合规/调试/信任）。
AI Agent 产品设计方法论：从交互范式到产品落地的完整框架
系统拆解 AI Agent 产品设计的完整方法论体系：从工具思维到 Agent 思维的范式迁移、五大核心组件 UX 设计、四种交互模式（Chat/Copilot/Autonomous/Hybrid）、分层记忆系统设计、可靠性工程与容错策略、多智能体编排的 UX 挑战、信任与可解释性设计。 涵盖 ReAct、Plan-and-Solve、Reflexion、DEPS 四大设计模式的适用场景，以及 Devin、AutoGPT、Claude Computer Use 三个经典案例的产品分析。 附 Agent 产品评估矩阵、自主度光谱模型与伦理安全护栏设计框架。