LLM
在《思考,快与慢》这本书里面有一个概念,认为大脑中有两个系统,即系统1和系统2。系统 1 的运行是无意识且快速的,不怎么费脑力,没有感觉,完全处于自主控制状态;系统 2 将注意力转移到需要费脑力的大脑活动上,例如复杂的运算,其运行通常与行为、选择和专注等主观体验相关,目前的智能体(AI Agent
例如,人类大脑的幻觉也很严重,记忆很多时候不准确,但人类会在输出之前,先在脑子里反思一遍答案到底靠不靠谱,这就是一个慢思考的过程。思维链和“逐步思考”之所以能大幅提高模型的准确率,也是因为给了模型足够的时间(更多token)来思考。这些思考过程事实上也类似慢思考的过程,对于人类而言是在内部进行的,并没有说出来或者写下来,但自己是可以感知到的。
智能体
智能体(Agent)其根源可以追溯到亚里士多德和休谟等思想家,它描述了一种拥有欲望、信念、意图以及采取行动能力的实体。而在人工智能(AI)领域,称为AI智能体(AI Agent),这个智能体被赋予了一层新的含义,它的重要特性包括自主性、反应性、积极性和社交能力。自主性指的是Agent能够独立地进行决策和行动,而不需要人类的干预。反应性指的是Agent能够快速对环境中的变化作出反应。积极性指的是Agent能够主动制订目标导向的行动计划,并采取相应的行动。社交能力指的是Agent能够与其他Agent和人类进行交互和合作。这些特性使得AI Agent能够展现出类似于人类的智能行为,并具备广泛的应用场景和潜力。
AI智能体能够感知其环境,通过自己的决策和行动来改变环境,并通过学习和适应来提高其性能。这种智能体同时使用短期记忆(上下文学习)和长期记忆(从外部向量存储中检索信息),有能力通过逐步“思考”来计划、将目标分解为更小的任务,并反思自己的表现。AI智能体通常包含了多种技术,如机器学习、自然语言处理、计算机视觉、规划和推理等,这些技术使智能体能够自主地处理信息并做出决策。
如图9.29所示,有研究人员将基于大规模语言模型的AI Agent的工作流程分为感知、思考和行动三个模块。首先,感知模块将外部环境的信息转换成可理解的表示,并将其传递给思考模块。在思考模块中,主要由LLM组成,LLM进行信息处理、推理和决策等活动,并根据当前环境和目标制订相应的行动计划。最后,行动模块根据思考模块的输出进行具体的行动执行,并与环境进行互动和反馈。通过不断重复这个过程,AI Agent能够与环境进行持续的交互和学习,不断提升自身的能力。
图 9.29 AI Agent 的工作流程分为感知、思考和行动三个模块
在大规模语言模型的加持之下,AI Agent也逐步衍生出了自主智能体(Autonomous Agent)和生成智能体(Generative Agent
1. 自主智能体
自主智能体是由人工智能驱动,能够理解以自然语言描述的需求,并自动执行一系列任务以实现目标。在必要的时候,可以接受人为引导,具有服务于人类的工具属性,例如AutoGPT
有研究者对基于LLM的自主智能体做了系统综述,如图9.30所示,系统将智能体定义为大语言模型(LLM)、记忆模块(Memory)、任务规划(Planning Skills
图 9.30 基于LLM 的自主智能体系统概览图
2. 生成智能体
一种具有数字原生意义的智能体,其行为并非直接服务于人的需求,例如斯坦福大学的“虚拟小镇”项目。生成智能体的结构主要包括观察、规划和反思三个组件,这些组件协同工作,使生成智能体能够生成符合其个性、偏好、技能和目标的现实且一致的行为。每个智能体都具有记忆系统,并通过计划制定,行动响应与自我反思等机制实现自主活动,从而能够模拟真实社群的运作。
在“斯坦福小镇”中,生成智能体的架构如图9.31所示,智能体可以感知环境,所有感知都存储于一个称为记忆流的模块中,该模块记录了智能体的完整经历。系统会根据智能体当前感知,检索相关的记忆并据此决定行动。同时,这些检索到的记忆也用于形成长期规划与高层级反馈,并重新写回记忆流中,从而实现行为的持续演化。
图 9.31 基于LLM 的生成智能体系统概览图
但是,目前智能体模拟运行的时长也有限,比较难确保长时间的运行下Agent的记忆、行为模式的演化,社群整体目标的探索与推进等方面的效果。而且,从应用角度来看,目前也主要集中在社会活动模拟、游戏应用等,是否能拓展到任务处理、知识探索等更广阔的领域,还有待进一步探索。
全文引自《开启智能对话新纪元:大规模语言模型的探索与实践》