Language Agents: Foundations, Prospects, and Risks

论文笔记：Language-Agents

一句话总结

• 系统综述基于大语言模型的智能体（Language Agent）的基础框架、关键能力（规划、工具使用、记忆、多 Agent 协作）以及安全风险。

核心贡献

• 统一框架：提出 Language Agent 的统一概念框架，将其分解为感知（Perception）、推理（Reasoning）、行动（Action）、记忆（Memory）四个核心模块
• 关键能力梳理：系统归纳规划（ReAct、Tree of Thoughts）、工具使用（Toolformer、API-Bank）、长期记忆（向量数据库、摘要压缩）、多智能体协作等能力的最新进展
• 应用全景：涵盖代码生成（SWE-Agent）、科学研究（ChemCrow）、Web 交互（WebGPT）、游戏（Voyager）等代表性应用场景
• 安全与风险分析：讨论 Agent 的安全隐患——幻觉传播、权限失控、社会工程攻击、多 Agent 博弈中的欺骗行为等，呼吁建立 Agent 安全评估标准

相关概念

• LLM Agent
• ReAct
• 工具使用
• 多智能体系统
• Chain-of-Thought
• Agent安全