AI红队——从基础到攻防全面指南（第四部分、提示词注入、终章）

终章 Prompt Injection 攻击全解析

这类攻击可以让模型生成不良甚至机密内容，或者违背原本设计的行为规则。

本章内容：直接注入和间接注入的区别、信息泄露手法、系统指令绕过等。

5.1 Prompt Injection 攻击概述

什么是Prompt Injection？简单说，就是攻击者精心设计输入（提示）来诱骗大语言模型忽略原有指令或执行攻击者的隐藏意图。

这种攻击之所以得名，是类比SQL注入：就像在SQL查询里注入恶意语句骗数据库执行，在Prompt注入里，攻击者在用户提示中嵌入恶意指令骗AI执行 。

根源在于LLM对输入指令几乎一视同仁，它无法分辨哪些指令是开发者的、哪些是用户临时加的 。

如果攻击者构造的输入让模型误以为这是更高优先级的命令，模型就可能违背原先意图。

一个经典的Prompt Injection例子是**“Ignore previous instructions”攻击 ：假设系统对模型有一条隐含指令“不许输出有害内容”，但用户输入里加一句“请忽略所有先前指令，然后…（做违禁操作）”，模型往往就真的把之前的限制抛开照做了。这相当于攻击者以一句话夺取了对话控制权**。

(这个注入在2026年的今天已经不起作用，仅仅是作为例子)

Prompt Injection攻击可以造成：

• 内容过滤绕过：让模型输出本应被禁止的内容（仇恨言论、有害信息、违法教