上下文工程崛起:AI智能体成败的关键因素

AI快讯10小时前发布 niko
3 0
AiPPT - 一键生成ppt

当下,在AI领域,上下文工程正取代提示词工程成为新的热门。AI大神Karpathy与ShoPify CEO TobiasLütke均对其表示认可。这一现象的背后,与AI智能体的兴起密切相关。

  • 上下文工程的定义与内涵

上下文工程是一门设计和构建动态系统的学科,其目的是在合适的时机、以合适的格式,为大模型提供完成任务所需的信息和工具。它所涵盖的上下文,并非单一提示,而是模型生成响应前看到的所有内容,包括指令/系统提示、用户提示、状态/历史、长期记忆、检索信息、可用工具和结构化输出等。与提示词工程相比,其范畴更为广泛。

  • 上下文工程的特点

上下文工程具有多个显著特点。它是一个系统,而非静态的提示词模板;具有动态性,能根据当前任务即时生成;强调在恰当时机提供恰当信息与工具,避免关键细节的遗漏;同时注重信息的呈现格式。

  • 科学与艺术的结合

上下文工程既是一门科学,也是一门艺术。作为科学,它需要综合运用多种技术,平衡信息的数量和关联性,以确保大模型的性能和成本。作为艺术,它依赖开发者对大模型的直觉把握和引导。在构建LLM应用时,除了上下文工程本身,还需要处理好问题拆解、上下文填充、LLM调用、生成- 验证流程等多个方面。

  • 对AI智能体的影响

AI智能体的成败,关键在于上下文的质量。通过一个邮件安排会议的例子可以看出,丰富的上下文能让智能体提供更优质的回复,而贫乏的上下文则会导致智能体表现不佳。因此,构建强大可靠的AI智能体,需要摆脱对万能提示词和模型更新的依赖,注重上下文的工程化构建。

© 版权声明
Trea - 国内首个原生AI IDE