工具滥用

本文面向构建LLM应用的工程师，揭示了LLM安全漏洞的两个核心事实：模型无法区分系统提示和用户输入（视为同一文本流），且一旦赋予工具能力，攻击者可通过外部文本注入操控模型执行危险操作。文章详细介绍了11种攻击向量，包括直接注入、越狱、系统提示泄露、间接注入、RAG投毒、多模态攻击、工具滥用、数据窃取、记忆投毒、多智能体攻击和MCP投毒，并通过EchoLeak案例展示了实际攻击链。作者强调安全的根本在于最小权限原则和人工审核，而非依赖模型自身的过滤能力。