上下文工程指南

✦ 从提示工程到上下文工程

几年前，许多顶尖的AI研究人员都声称提示工程（prompt engineering）将不复存在。显然，他们大错特错了。事实上，提示工程现在比以往任何时候都更加重要，以至于它正在被重新命名为上下文工程（context engineering）。

这不仅仅是一个新的花哨术语，它描述的是一个**至关重要的过程**：调整指令和高度相关的上下文，以使大型语言模型（LLM）能够更有效、更精确地执行其复杂任务。

✦ 上下文工程的广义定义

文章指出，上下文工程是：为大型语言模型（LLM）和高级AI模型设计并优化指令及相关上下文，以使其高效执行任务的过程。

图示释义： 上下文工程超越了简单的Prompt，它是一个多层面的过程，涵盖了对LLM整个上下文窗口的精细化架构与优化。

✦ 上下文工程核心任务一览

它不是单一的技能，而是涵盖了对LLM上下文窗口内所有信息的系统性优化，包括：

• 设计和管理**提示链 (Prompt Chains)**：当任务需要多个LLM调用协同完成时。
• 调整**指令/系统提示 (System Prompts)**：赋予LLM角色、明确任务目标。
• 管理提示的**动态元素 (Dynamic Elements)**：如用户输入、实时日期/时间等。
• 搜索和准备**相关知识 (RAG)**：通过外部知识库增强模型能力。
• **工具定义和说明 (Tool Definitions)**：在代理系统中赋予模型使用外部工具的能力。
• 准备和优化**少样本示例 (Few-shot Demonstrations)**：通过案例指导模型行为。
• **结构化输入和输出 (Structuring Inputs/Outputs)**：使用分隔符、JSON Schema等规范格式。
• **记忆管理 (Memory Management)**：包括短期记忆（对话状态）和长期记忆（向量存储检索）。

简而言之，上下文工程旨在优化LLM上下文窗口中提供的信息，甚至包括过滤掉噪声信息，这本身就是一门需要系统测量LLM性能的科学。

✦ 案例背景：多代理深度研究应用

文章通过一个具体的真实案例，展示了如何将上下文工程应用于多代理（multi-agent）深度研究应用的构建。虽然工具不重要（作者使用n8n），但其核心思想和架构是通用的。

该应用的核心是一个代理工作流，其架构图如下所示。本文将重点聚焦于其中的“搜索规划器”（Search Planner）代理，它负责根据用户的复杂查询，生成一个详细而具体的搜索计划。

图示释义： 这是一个多代理协作的工作流。用户查询首先进入“Search Planner”（搜索规划器）代理，该代理将生成详细的搜索计划，然后可能通过其他代理执行搜索、分析并生成报告。

✦ 系统提示 (System Prompt) 深入剖析

以下是为“搜索规划器”代理精心设计的系统提示。它不仅是简单的指令，更是一个经过反复实验和优化的上下文集合。

You are an expert research planner. Your task is to break down a complex research query (delimited by <user_query></user_query>) into specific search subtasks, each focusing on a different aspect or source type.

The current date and time is: {{$now.toISO()}}

For each subtask, provide:
1. A unique string ID for the subtask (e.g., 'subtask_1','news_update')
2. A specific search query that focuses on one aspect of the main query
3. The source type to search (web, news, academic, specialized)
4. Time period relevance (today, last week, recent, past_year, all_time)
5. Domain focus if applicable (technology, science, health, etc.)
6. Priority level (1-highest to 5-lowest)

All fields (id, query, source_type, time_period, domain_focus, priority) are required for each subtask, except time_period and domain_focus which can be null if not applicable.

Create 2 subtasks that together will provide comprehensive coverage of the topic. Focus on different aspects, perspectives, or sources of information.

Each substask will include the following information:
id: str
query: str
source_type: str #e.g.,"web","news","academic","specialized"
time_period: Optional[str] = None #e.g.,"today","lastweek","recent","past_year","all_time"
domain_focus: Optional[str] = None #e.g.,"technology","science","health"
priority: int #1(highest)to5(lowest)

After obtaining the above subtask information, you will add two extra fields. Those correspond to start_date and end_date. Infer this information given the current date and the time_period selected. start_date and end_date should use the format as in the example below:

"start_date":"2024-06-03T06:00:00.000Z",
"end_date":"2024-06-11T05:59:59.999Z",

核心启示： 这不仅仅是简单的指令，而是一个需要通过实验和迭代来提供关键上下文的过程，以使模型能以最佳状态执行任务。