AI 概念全解析

#引言：为什么需要一张概念地图

面对 AI 领域层出不穷的术语（AI、ML、DL、LLM、Agent、RAG、Fine-tuning、MCP、MoE、VLM……），很多初学者感到无从下手。本文用一张递进式的地图，把这些概念放到它们该在的位置上，形成一张完整的 AI 知识图谱。

#1. 最大的圈：AI（Artificial Intelligence，人工智能）

AI 是所有智能行为的统称，目标是让机器具备类似人类的感知、推理、学习、决策能力。

AI 可以分成两大流派：

2012 年之前主流是符号主义；2012 年之后，深度学习（连接主义）成为绝对主流。

#2. AI 的子集：ML（Machine Learning，机器学习）

ML = 不用手写规则，让算法从数据中自动学习规律。

三种基本范式：

• 监督学习（Supervised Learning） — 有标签数据训练 例：垃圾邮件分类、房价预测、图像识别
• 无监督学习（Unsupervised Learning） — 无标签数据找结构 例：用户分群、降维（PCA、t-SNE）、异常检测
• 强化学习（Reinforcement Learning） — 通过与环境交互获得奖励来学习 例：AlphaGo、自动驾驶、机器人控制、RLHF

🧠 记住：AI ⊃ ML，深度学习只是 ML 的一种方法。

#3. ML 的子集：DL（Deep Learning，深度学习）

DL = 用多层神经网络（深度 > 2 层）进行表示学习。

为什么叫"深度"？因为特征不是人工设计的（如 SIFT 特征），而是网络通过逐层变换自动学到的表示（representation）。

里程碑：

DL 里最核心的模型家族：

#4. DL 的子集：LLM（Large Language Model，大语言模型）

LLM = 参数规模极大（通常 ≥ 1B）、基于 Transformer 解码器结构、在海量文本上做"下一个词预测"（next-token prediction）预训练的语言模型。

#4.1 关键性质

1. 涌现能力（Emergence） — 在小模型上不存在、大到一定程度突然具备的能力（推理、指令跟随、少样本学习）
2. Scaling Law — 模型效果随参数量、训练数据量、计算量的增大可预测地提升
3. 预训练-微调范式 — 基座模型（Base Model）+ 对齐（Alignment）→ 可用的对话模型（Chat Model）

#4.2 Tokenization（分词）

LLM 不认识"词"，只认识 Token。Tokenization 就是把文本切成 token 的过程：

• BPE（Byte-Pair Encoding） — GPT 系列使用，从字符级逐步合并
• SentencePiece — LLaMA / Gemini 使用，基于子词
• 分词直接影响：上下文窗口利用率、多语言支持、代码处理

一个汉字 ≈ 1-2 个 token，一个英文单词 ≈ 1-1.5 个 token。Token 是计费单位。

#4.3 Context Window（上下文窗口）

模型单次能处理的最大 token 数，决定了"记忆"容量和单次任务复杂度：

⚠️ 窗口不是越大越好：窗口越长，注意力计算越慢，成本越高。长上下文不等于强推理。

#4.4 MoE（Mixture of Experts，专家混合）

MoE = 模型内有多个"专家"子网络，每个 token 只激活其中少数几个（稀疏激活）。

• 优势：参数量极大（可达万亿级），但计算量和普通模型相当
• 代表：GPT-4o（传闻）、Mixtral 8x7B、Qwen-MoE
• 代价：推理复杂、负载均衡难、训练不稳定

#4.5 基座模型 vs 对话模型

• 基座模型（Base / Pre-trained） — 只学会了"续写"，给一段文本自动补下一个 token，不能直接用于对话
• 对话模型（Chat / Instruction-tuned） — 在基座模型上经过 SFT + RLHF/DPO 等对齐后得到，能遵循指令、聊天气、拒绝有害请求

#4.6 对齐的三步曲

基座模型 ──► SFT（有监督微调）
              │
              ├──► 训练奖励模型（RM）
              │
              └──► RLHF / DPO（人类偏好对齐）
                        │
                        ▼
                  对话 / 指令模型

对齐进阶：

#4.7 多模态 LLM（VLM / MLLM）

VLM = 能同时处理文本+图像/音频/视频的大模型。

📌 多模态的"多"是指输入/输出模态的多样性，不是指多个模型。

#5. LLM 之上：怎么让它"更懂"？

直接用 ChatGPT / Claude 回答有两个问题：知识过时、不懂我的私有数据。业界有三个常用的增强手段：

💡 黄金法则：先 Prompt，再 RAG，最后才 Fine-tuning。越后面越重、越贵。

#6. Prompt Engineering（提示工程）

Prompt = 你给 LLM 的指令和上下文。Prompt Engineering = 设计更好的指令，让模型输出更准。

进阶技巧：

#7. RAG（Retrieval-Augmented Generation，检索增强生成）

一句话：先去知识库查文档，把查出来的片段连同用户问题一起丢给 LLM，让它基于上下文生成答案。

#7.1 标准 RAG 流水线

用户提问 ──► 向量化（Embedding）
              │
              ▼
           向量数据库  ──►  相似度检索 Top-K 片段
              │
              ▼
  把片段 + 原始提问组装成 System Prompt
              │
              ▼
         LLM 生成回答（有据可依，减少幻觉）

关键组件：

• Embedding（文本向量化） — 把一段文本变成高维向量（如 1536 维），语义越接近的文本，向量距离越近
• 向量数据库 — 存向量并做近似最近邻检索（Pinecone、Weaviate、Qdrant、pgvector、Chroma、Milvus）
• Chunking（分块策略） — 文档按合理大小切块，直接影响召回质量
• Reranker — 二次精排 Top-K，提升精准度

#7.2 RAG 进阶变种

#7.3 RAG 评估

工具：RAGAS 是当前主流的 RAG 评估框架。

#8. Embedding（向量嵌入）

Embedding = 把非结构化数据（文本/图像/音频）映射到一个高维向量空间，让"语义相近 ↔ 向量距离近"。

例子：

• cat 和 kitten → 向量距离近
• cat 和 rocket → 向量距离远
• 一段"如何买火车票"的查询 → 最接近购票教程文档的向量

Embedding 不只是 RAG 用：分类、聚类、推荐、语义搜索、异常检测都靠它。

主流 Embedding 模型：

#9. Fine-tuning（微调）

微调 = 拿预训练好的模型，用一个较小的专属数据集继续训练若干步，让模型适配特定任务。

#9.1 三种基础方案

#9.2 微调进阶

微调主要解决的问题：

• 风格迁移：让模型始终用某品牌的口吻输出
• 格式对齐：稳定输出特定 JSON 结构
• 垂直领域指令遵循：医疗、法律、代码等领域的"黑话"

❗ 不要用微调来"灌知识" — 模型会把知识揉进参数里，更新代价高，且容易忘。用 RAG 存知识，微调管风格。

#10. 最高级：AI Agent（智能体）

Agent = LLM + 记忆 + 工具 + 规划/反思的闭环。

#10.1 核心循环（ReAct / Plan-Act-Observe）

      ┌─────────────────────────────┐
      │                             ▼
   思考/规划  ───►  选工具 & 构造参数
      │                    │
      │                    ▼
      │               调用工具执行
      │                    │
      │                    ▼
      ◄────  观察结果（工具返回）
                 │
                 ▼
           判断是否达成目标？
                 │ 是
                 ▼
              输出答案

#10.2 Agent 四要素

1. Planner（规划器） — 把复杂任务拆成步骤（Chain-of-Thought、Tree-of-Thoughts）
2. Tool Use（工具使用） — 搜索引擎、代码执行、数据库、文件系统、日历、API…… LLM 充当"大脑"，工具是"手脚"
3. Memory（记忆） — 短期（会话上下文）+ 长期（向量库、知识库）+ 语义记忆
4. Reflection（反思） — 做完回头看，判断结果是否合理、要不要重来

#10.3 Tool Calling / Function Calling

Tool Calling = LLM 在对话中主动"请求"调用某个外部工具，由程序执行后把结果回传给 LLM。

用户: "北京今天天气怎么样？"
  │
  ▼
LLM 输出: { "tool_call": { "name": "get_weather", "args": { "city": "北京" } } }
  │
  ▼
程序执行 get_weather("北京") → 返回 { "temp": 23, "condition": "晴" }
  │
  ▼
LLM 接收结果，生成自然语言回答: "北京今天晴，23°C"

🔑 Tool Calling 是 Agent 的基石，也是 LLM 与外部世界交互的唯一方式。

#10.4 MCP（Model Context Protocol）

MCP = 连接 LLM 与外部工具/数据源的开放协议，定义了"LLM 怎么找到工具、怎么传参数、怎么接结果"。

类比：如果 Tool Calling 是"函数调用"，MCP 就是"USB 接口" — 统一标准，任何工具都能插上就用。

┌──────────────┐     MCP      ┌──────────────┐
│  LLM (客户端) │ ◄──────────► │  MCP Server  │
│              │   协议通信    │  (工具提供者)  │
└──────────────┘              └──────────────┘
                                    │
                              ┌─────┴─────┐
                              ▼           ▼
                           数据库      文件系统
                              │           │
                              ▼           ▼
                           API 服务    本地文件

MCP 的价值：

• 标准化 — 不用为每个工具写一套 Prompt + 解析逻辑
• 动态发现 — LLM 启动时能看到所有可用工具列表
• 安全隔离 — 工具运行在独立进程/沙箱中

#10.5 Agent 进阶

#10.6 Agent 框架全景

#11. 模型家族

#11.1 闭源 API 模型

#11.2 开源模型

#11.3 本地运行生态

#12. 推理与部署

#12.1 推理加速

#12.2 部署方案

#13. 向量数据库全景

#14. 评估体系

#14.1 通用能力基准

#14.2 应用层评估

#15. 安全与护栏

#16. 数据工程

#17. 一张总览图

把上面所有概念放到一个包含关系里：

AI（人工智能）
 └── ML（机器学习） ──► 监督 / 无监督 / 强化
      └── DL（深度学习）──► CNN / RNN / Transformer / Diffusion / Mamba
           └── LLM（大语言模型）
                ├── Tokenization（BPE / SentencePiece）
                ├── Context Window（8K → 1M+）
                ├── MoE（专家混合）
                ├── VLM（多模态 LLM）
                ├── 基座模型  ─►  SFT ─► RLHF/DPO/Constitutional AI ─► 对话模型
                ├── Prompt Engineering  ─► CoT / ToT / Self-Consistency / Structured Output
                ├── RAG  ──► Embedding + 向量库 + 检索 + 生成
                │   └── 进阶：Graph RAG / Self-RAG / Agentic RAG / Hybrid Search / HyDE
                ├── Fine-tuning  ──► Full / LoRA / QLoRA / DoRA / LongLoRA
                ├── Tool Calling / Function Calling
                ├── MCP（Model Context Protocol）
                └── Agent  ──► Planner + Tools + Memory + Reflection
                    ├── 进阶：多 Agent / 长记忆 / 工作流
                    └── 框架：LangChain / LangGraph / AutoGen / CrewAI / MetaGPT

  支撑层：
  ├── 模型家族（闭源 API + 开源 + 本地）
  ├── 推理加速（KV Cache / PagedAttention / 量化 / Flash Attention）
  ├── 向量数据库（Pinecone / Weaviate / Qdrant / Chroma / pgvector / Milvus）
  ├── 评估体系（MMLU / HumanEval / RAGAS / LLM-as-Judge）
  ├── 安全护栏（输入/输出/数据/对齐）
  └── 数据工程（清洗 / 合成 / 飞轮 / 偏好数据）

#18. 选型速查：我该用哪条路？

#19. 常见误区速览

• ❌ "微调能解决一切" — 微调管风格，知识靠 RAG。别把 RAG 的活让微调干。
• ❌ "Embedding 就是向量化，随便一个模型都行" — 文本检索、跨语种、长上下文等场景对 Embedding 模型选型很敏感。
• ❌ "Agent 比单纯 RAG 好" — 简单问答用纯 RAG 更快更稳。Agent 有循环开销，容易"绕"。
• ❌ "Scaling Law 还能一直涨" — 纯靠堆参数/算力的收益边际递减，现在更多转向数据质量、工具集成、Agent 协同。
• ❌ "上下文窗口越大越好" — 长窗口成本高、速度慢，关键信息不一定能被模型"注意到"。
• ❌ "MCP = 新框架" — MCP 是协议不是框架，它定义了 LLM 与工具通信的标准，类似 HTTP。
• ❌ "MoE 模型更大更强" — MoE 稀疏激活，实际计算量不比稠密模型大，训练和推理更复杂。
• ❌ "VLM 就是 LLM + 图片输入" — 多模态需要跨模态对齐训练，不是简单拼接。

#结语

AI → ML → DL → LLM → Prompt/RAG/Fine-tuning → Agent → MCP 是理解这个领域的"主干道"。掌握这条主干，再看任何新术语（MoE、VLM、Graph RAG、Agentic Workflow……）都能快速把它放到合适的位置。

下一步去哪里？

• 想深入 LLM 内部：看博客"生成式 AI"系列的 Transformer 章节
• 想动手做 RAG：看 AI 工程化专栏的 RAG 入门
• 想做 Agent：claude.haylee.site 的 20 章 Agent 课程，从最简单的 loop 到团队协作
• 想了解 MCP：Model Context Protocol 官方文档和实战案例
• 想部署 开源模型：vLLM 官方文档和 Ollama 入门