暨南大学·一流网络Web挑战赛 AI Console

title: "AI Console — LLM提示词注入攻击分析与实践"

ctf: "暨南大学·一流网络Web挑战赛"

category: Web

difficulty: 入门

AI Console：LLM 提示词注入攻击分析与实践

一、题目概述

本题来自暨南大学"一流网络"Web 挑战赛，考察的是针对大语言模型（LLM）的提示词注入（Prompt Injection）攻击。题目给出了一个 AI 客服控制台界面，背景信息指明：有人在未授权的情况下，使 AI 泄露了内部的"补偿覆盖码"。结合这一提示可以推断，flag 被硬编码在 AI 的系统提示词（System Prompt）中，解题目标是通过构造对话输入，诱导 AI 输出其本不应披露的内部指令。

二、技术背景：提示词注入攻击

2.1 定义与分类

提示词注入（Prompt Injection）是OWASP Top 10 for LLM Applications 中排名第一的安全风险（LLM01），指攻击者通过构造特制的输入文本，覆盖或绕过模型预设的系统指令，使模型执行超出授权范围的操作。

2.2 工作原理

当前主流 LLM 应用的消息组织方式如下：

• System Prompt：开发者预设的顶层指令，定义模型角色与行为边界，通常具有最高优先级

• User Message：用户输入的对话内容，是攻击者唯一可控的输入面

• LLM 推理：模型将 System Prompt 与 User Message 拼接后进行自回归生成，输出回复