上下文工程崛起：AI智能体成败的关键因素

当下，在AI领域，上下文工程正取代提示词工程成为新的热门。AI大神Karpathy与ShoPify CEO TobiasLütke均对其表示认可。这一现象的背后，与AI智能体的兴起密切相关。

• 上下文工程的定义与内涵

上下文工程是一门设计和构建动态系统的学科，其目的是在合适的时机、以合适的格式，为大模型提供完成任务所需的信息和工具。它所涵盖的上下文，并非单一提示，而是模型生成响应前看到的所有内容，包括指令/系统提示、用户提示、状态/历史、长期记忆、检索信息、可用工具和结构化输出等。与提示词工程相比，其范畴更为广泛。

• 上下文工程的特点

上下文工程具有多个显著特点。它是一个系统，而非静态的提示词模板；具有动态性，能根据当前任务即时生成；强调在恰当时机提供恰当信息与工具，避免关键细节的遗漏；同时注重信息的呈现格式。

• 科学与艺术的结合

上下文工程既是一门科学，也是一门艺术。作为科学，它需要综合运用多种技术，平衡信息的数量和关联性，以确保大模型的性能和成本。作为艺术，它依赖开发者对大模型的直觉把握和引导。在构建LLM应用时，除了上下文工程本身，还需要处理好问题拆解、上下文填充、LLM调用、生成- 验证流程等多个方面。

• 对AI智能体的影响

AI智能体的成败，关键在于上下文的质量。通过一个邮件安排会议的例子可以看出，丰富的上下文能让智能体提供更优质的回复，而贫乏的上下文则会导致智能体表现不佳。因此，构建强大可靠的AI智能体，需要摆脱对万能提示词和模型更新的依赖，注重上下文的工程化构建。