基于大型语言模型的代理的兴起和潜力：一项调查

核心观点

• LLM 作为代理大脑的合适基础： 研究表明，大型语言模型（LLM）在知识获取、教学理解、泛化、计划和推理方面表现出强大的功能，同时显示与人类有效的自然语言交互，使其成为构建通用 AI 代理的理想选择。
• 基于 LLM 的代理框架： 研究提出了一个包含大脑、感知和动作三个主要组件的通用框架，用于构建基于 LLM 的代理。大脑模块主要由 LLM 组成，负责信息处理、决策、推理和规划；感知模块扩展了代理的感知空间，使其能够处理多模态信息，包括文本、视觉和听觉输入；动作模块则赋予代理文本输出、工具使用和具体行动的能力，使其能够更好地响应环境变化并影响环境。
• 基于 LLM 的代理的应用： 研究探讨了基于 LLM 的代理在单代理场景、多代理场景和人-代理合作中的广泛应用。单代理可以用于执行日常任务、推动创新和展示类似人类的生存技能；多代理系统则可以通过合作或竞争来处理更复杂的任务，并观察到新兴的社会现象；人-代理合作则可以通过指导者-执行者范式和平等伙伴关系范式来实现，以提高任务效率和满足人类需求。
• 代理人社会： 研究深入探讨了基于 LLM 的代理的行为和个性，以及它们在模拟社会环境中的相互作用。研究表明，这些代理人可以表现出类似人的行为和人格，并形成复杂的社会现象，为人类社会提供宝贵的见解。
• 关键主题和开放问题： 研究讨论了 LLM 研究与代理研究之间的互惠互利，以及基于 LLM 的代理的评估、安全性、可信度和其他潜在风险。此外，研究还探讨了扩大代理数量、代理即服务以及基于 LLM 的代理是否代表 AGI 的潜在途径等开放问题。

关键数据和研究结论

• LLM 的发展： 研究指出，LLM 已经取得了重大进展，并在知识获取、教学理解、泛化、计划和推理方面表现出强大的功能。
• 代理社会现象： 研究发现，基于 LLM 的代理在模拟社会中可以表现出合作、竞争、从众和对抗等社会现象。
• 评估方法： 研究提出了基于 LLM 的代理的评估方法，包括效用、社交性、价值和不断发展的能力等方面。
• 潜在风险： 研究讨论了基于 LLM 的代理的潜在风险，包括对抗性鲁棒性、可信度、滥用、失业和对人类福祉的威胁等。
• 未来方向： 研究认为，基于 LLM 的代理是一个充满潜力的研究领域，未来需要进一步研究如何提高代理的智能水平、安全性和可信度，以及如何将代理应用于更广泛的领域。