AI安全 on PlumePHPhttps://plumephp.com/tags/ai%E5%AE%89%E5%85%A8/Recent content in AI安全 on PlumePHPHugozh-CNSat, 15 Jun 2024 00:00:00 +0800AI 安全红队测试：构建企业级 LLM 对抗评估体系https://plumephp.com/llm-red-team-testing/Sat, 15 Jun 2024 00:00:00 +0800https://plumephp.com/llm-red-team-testing/系统化构建 AI 红队测试体系：自动化攻击面扫描（PyRIT/Garak）、对抗样本变异引擎、多轮博弈红队模型。含风险评分矩阵、CI/CD 集成方案及合规基线输出，附企业级 Python 测试框架代码。LLM 安全实战：Prompt Injection 攻击分类与防御体系https://plumephp.com/llm-prompt-injection-defense/Sat, 15 Jun 2024 00:00:00 +0800https://plumephp.com/llm-prompt-injection-defense/系统梳理 Prompt Injection 攻击的分类学、OWASP Top 10 风险映射及企业级防御体系。包含输入过滤、提示模板硬化、输出校验、运行时沙箱四层防御，附完整 Python 防御代码与 Prompt Armor 基准测试。