AI 最核心的 15 个概念

总体理解

AI 系统不是只有一个“大模型”。
一个真正能完成任务的 AI 系统，通常由下面几类东西组成：

• 模型：负责理解、推理和生成。
• 上下文：告诉模型当前能看到什么信息。
• 知识增强：让模型可以查外部资料。
• 工具能力：让模型可以执行真实操作。
• 任务系统：让模型围绕目标持续推进。
• 安全边界：限制危险输入、输出和操作。

整体链路可以简单理解为：

用户目标 ↓ Prompt：告诉 AI 要做什么 ↓ LLM：理解、推理、生成 ↓ Context / Memory / RAG：提供当前信息、记忆和外部资料 ↓ Tool / Function Calling / MCP：连接和调用外部能力 ↓ Skill / Workflow：提供方法和流程 ↓ Agent：持续判断、调用工具并完成任务 ↓ Guardrail：控制安全边界

一、模型基础

1. LLM：大语言模型

LLM是整个大模型应用的核心。

它主要负责：

• 理解用户输入；
• 根据上下文进行判断；
• 生成回答；
• 决定是否需要调用工具；
• 在 Agent 系统中决定下一步怎么做。

但 LLM 本身并不是万能的。
它本质上是根据输入内容和已有模式，生成最合适的后续内容。

可以记成：

LLM 负责“想”和“说”，但不一定能亲自“做”。

如果需要查天气、读文件、访问网页、调用数据库，就需要配合Tool。

2. Token：模型处理文字的基本单位

人看到的是汉字、单词、句子。
但模型看到的不是这些，而是被拆分后的Token。

例如一句话：

今天北京天气怎么样？

模型可能会把它拆成若干个 Token，再转换成数字进行计算。

Token 会影响：

• 输入长度；
• 输出长度；
• 上下文容量；
• API 成本；
• 模型处理速度。

可以记成：

Token 是 AI 阅读和生成内容的基本计量单位。

3. Embedding：把语义变成数字

Embedding 可以把文字、句子、文档甚至图片，转换成一组数字。

这些数字不是随便的数字，而是表示“语义位置”。

例如：

“怎么重置密码？” “忘记密码怎么办？”

这两句话字面不一样，但意思接近。
Embedding 后，它们在向量空间里的距离也会比较近。

Embedding 常用于：

• 语义搜索；
• 知识库检索；
• 推荐系统；
• 文档相似度匹配；
• RAG。

可以记成：

Embedding 让 AI 能判断“意思像不像”。

二、输入与上下文

4. Prompt：告诉模型要做什么

Prompt 就是你给模型的任务说明。

它可以很简单：

帮我总结这篇文章。

也可以更具体：

请用三段话总结这篇文章， 重点提取作者观点、核心论据和结论， 语言要通俗，不要超过 500 字。

一个好的 Prompt 往往包括：

• 任务目标；
• 背景信息；
• 限制条件；
• 输出格式；
• 角色要求；
• 示例。

可以记成：

Prompt 是你给 AI 下达的任务单。

5. Context：模型当前能看到的信息

Context 是模型本次回答时能看到的全部信息。

它可能包括：

• 系统提示词；
• 用户当前问题；
• 历史聊天记录；
• 上传文件内容；
• RAG 检索到的资料；
• 可用工具说明；
• 工具返回结果；
• 临时任务状态。

需要注意：

模型并不是天然记住所有聊天。
很多时候，是应用程序把历史信息重新放进 Context，模型才看得到。

可以记成：

Context 是 AI 当前的工作现场。

6. Context Window：上下文容量限制

Context Window 指模型一次最多能处理多少 Token。

例如有的模型支持：

• 几千 Token；
• 几万 Token；
• 十几万 Token；
• 更大的上下文窗口。

但窗口大不代表一定效果更好。
因为塞入太多无关内容，反而可能干扰模型判断。

Context Window 会限制：

• 一次能放多少历史对话；
• 一次能读多长文档；
• 一次能容纳多少工具结果；
• Agent 长任务能保持多少状态。

可以记成：

Context Window 是 AI 当前工作台的大小。

7. Memory：可被之后取回的信息

Memory 和 Context 不完全一样。

Context更像当前这一次模型能看到的信息。
Memory更像被系统保存下来，以后需要时再取回的信息。

Memory 可以保存：

• 用户偏好；
• 长期项目背景；
• 常用工作方式；
• 历史任务结果；
• 个人化设置。

例如：

用户以后希望回答尽量用中文。 用户正在学习 Spring Cloud。 用户喜欢通俗图解式说明。

这些信息如果被保存成 Memory，以后模型可以在合适的时候重新使用。

可以记成：

Memory 是 AI 的长期笔记。

三、知识增强

8. RAG：先查资料，再回答

RAG 的全称是 Retrieval-Augmented Generation，意思是“检索增强生成”。

普通大模型回答问题，主要依赖训练时学到的知识。
但这些知识可能：

• 不够新；
• 不够准确；
• 不包含企业内部资料；
• 不知道你的私有文档。

RAG 的思路是：

用户提问 ↓ 系统先去知识库或文档里搜索相关资料 ↓ 把相关片段放进 Context ↓ LLM 根据这些资料生成回答

RAG 常用于：

• 企业知识库问答；
• PDF 文档问答；
• 客服系统；
• 法律、财务、医疗等专业资料查询；
• 内部规章制度查询。

可以记成：

RAG 是给 AI 配一个资料检索员：先找依据，再回答。

四、执行能力

9. Tool：让 AI 能做真实操作

LLM 自己不能真正打开网页、读取本地文件、查天气或发邮件。
它需要通过外部工具来完成这些操作。

Tool 可以是：

• 搜索工具；
• 文件读取工具；
• 代码执行工具；
• 天气查询工具；
• 数据库查询工具；
• 邮件工具；
• 日历工具；
• 第三方 API。

过程通常是：

LLM 判断：我需要查天气 ↓ 请求调用天气工具 ↓ 工具真正执行查询 ↓ 结果返回给 LLM ↓ LLM 根据结果回答用户

可以记成：

Tool 是 AI 的手脚。

10. Function Calling：模型调用工具的格式

Function Calling 是让模型用结构化方式请求调用工具。

比如模型不是随口说：

我想查北京天气。

而是输出类似：

{"tool":"get_weather","arguments":{"city":"北京"}}

然后外部程序看到这个结构化请求，真正去调用对应工具。

Function Calling 的价值是：

• 让工具调用更稳定；
• 让参数更清楚；
• 让程序更容易解析；
• 让 AI 从“聊天”变成“可执行系统”。

可以记成：

Function Calling 是 AI 调用工具时说的标准格式。

11. MCP：统一连接外部系统

MCP 是 Model Context Protocol，模型上下文协议。

它的作用是让 AI 应用和外部工具之间有一种统一连接方式。

没有统一协议时，可能会出现：

每个 AI 应用都要单独适配每个工具； 每个工具都要为不同平台写不同接口； 接入成本高，维护复杂。

MCP 想解决的是：

AI 应用 ↓ 统一协议 MCP ↓ 文件系统、数据库、代码仓库、设计工具、企业系统

MCP 可以暴露：

• Tools：可执行工具；
• Resources：可读取资源；
• Prompts：可复用提示模板。

可以记成：

MCP 是 AI 连接外部世界的标准插口。

12. Skill：完成某类任务的方法包

Skill 不是单个工具，也不是单纯代码。

它更像是写给 Agent 的“任务说明书”或“工作手册”。

一个 Skill 里可能包含：

• 这个技能适合什么任务；
• 执行步骤；
• 判断规则；
• 输出格式；
• 示例；
• 模板；
• 可调用脚本或资源。

例如一个“写报告 Skill”可能规定：

1. 先确认报告主题 2. 再收集资料 3. 按背景、数据、分析、结论组织内容 4. 最后输出 Markdown 格式

Skill 的作用是让 Agent 做同类任务时更稳定、更可复用。

可以记成：

Skill 是教 Agent 怎么做事的说明书。

13. Workflow：预先设计好的流程

Workflow 是提前定义好的执行步骤。

例如一个固定流程：

收到用户问题 ↓ 判断问题类型 ↓ 检索知识库 ↓ 调用模型总结 ↓ 检查答案格式 ↓ 返回用户

Workflow 和 Agent 有区别：

• Workflow 更固定；
• Agent 更灵活；
• Workflow 稳定性更好；
• Agent 适合开放性任务。

实际系统中经常两者结合：

关键流程用 Workflow 固定住； 复杂判断交给 Agent 动态处理。

可以记成：

Workflow 是提前铺好的任务路线。

五、系统与安全

14. Agent：会持续完成任务的 AI 系统

Agent 不只是回答一句话。
它会围绕一个目标持续推进任务。

普通聊天：

用户问一句 AI 答一句

Agent：

用户给目标 ↓ AI 分析目标 ↓ 制定步骤 ↓ 调用工具 ↓ 观察结果 ↓ 判断下一步 ↓ 继续执行 ↓ 直到完成任务

Agent 通常由这些部分组成：

• LLM；
• Context 管理；
• Tool 调用；
• Memory；
• Skill；
• Workflow；
• Guardrail；
• 任务状态管理。

可以记成：

Agent 是把 LLM、工具、知识和流程串起来的执行系统。

15. Guardrail：安全护栏

Guardrail 是 AI 系统的安全约束。

它可以限制：

• 不该回答的内容；
• 不安全的操作；
• 隐私泄露；
• 错误工具调用；
• 删除、发送、付款等高风险动作；
• 被恶意 Prompt 诱导的行为。

例如：

用户要求 AI 删除全部文件 ↓ Guardrail 要求先确认，或者直接禁止

Guardrail 可以出现在：

• 输入前；
• 模型生成时；
• 输出前；
• 工具调用前；
• 工具调用后；
• 人工确认环节。

可以记成：

Guardrail 是 AI 系统的刹车和边界线。

15 个概念一句话速记表

最终串联图

用户目标 │ ▼ Prompt 告诉 AI 要做什么 │ ▼ ┌────────────────────────┐ │ LLM │ │ 理解、推理、生成、判断 │ └────────────────────────┘ ▲ ▲ ▲ │ │ │ Context Memory RAG 当前信息 长期记忆 外部资料 │ │ │ └──────────┴──────────┘ │ ▼ Function Calling 用结构化格式请求调用工具 │ ▼ Tool 执行搜索、读文件、查数据 │ ▼ MCP 统一连接外部系统和资源 │ ▼ Skill / Workflow 提供方法、规则和流程 │ ▼ Agent 持续判断、行动、观察，直到完成目标 │ ▼ Guardrail 控制安全边界和高风险操作

记忆口诀

模型看上下文，按 Prompt 理解任务；
需要知识用 RAG，需要动作用 Tool；
MCP 负责连接，Skill 和 Workflow 负责方法；
Agent 负责整体执行，Guardrail 负责安全边界。

最简单的层级关系

基础能力： LLM + Token + Embedding 输入信息： Prompt + Context + Context Window + Memory 知识补充： RAG 执行外部动作： Tool + Function Calling + MCP 任务方法： Skill + Workflow 完整系统： Agent 安全控制： Guardrail

读完后应该形成的理解

如果只记一句话：

LLM 是核心模型，Prompt 给任务，Context 给信息，RAG 给资料，Tool 给行动，MCP 负责连接，Skill 和 Workflow 给方法，Agent 负责执行，Guardrail 负责安全。

这就是当前大模型应用和 Agent 系统的基本骨架。