【翻译后 - 中文译文】
ReAct：协同推理与行动的语言模型

================================================================================
1 摘要
================================================================================
大型语言模型（LLMs）在语言理解和交互式决策等任务上展现出卓越的性能，但其推理能力（如思维链提示）和行动能力（如行动计划生成）主要作为独立主题进行研究。本文探索利用大型语言模型以交错方式生成推理轨迹和任务特定行动，使两者之间产生更大协同效应：推理轨迹帮助模型诱导、跟踪和更新行动计划以及处理异常情况，而行动则使其能够与外部来源（如知识库或环境）进行交互并收集额外信息。

================================================================================
2 引言
================================================================================
人类智能的一个独特特征是能够无缝地将面向任务的行动与语言推理（或内心独白）相结合，这种能力已被理论化为在人类认知中发挥重要作用，能够实现自我调节或策略制定，并维持工作记忆。以厨房烹饪菜肴为例，在任意两个步骤之间，可能会有多种选择：根据冰箱中的内容调整食谱，阅读菜谱描述以了解下一步该做什么，并确保菜肴有新鲜原料和适当调料。这种在推理与行动之间进行决策的能力对于人类完成复杂任务至关重要。

最近的研究表明，在自主系统中结合语言推理与交互式决策是可能的。一方面，经过适当提示的大型语言模型展现出解决复杂任务（如数学问题和符号推理）的推理能力。另一方面，基于LLM的自主代理的最新研究已经实现了在交互式环境（如网络和具身环境）中的决策。本文提出了ReAct，一种将推理和行动与语言模型相结合以解决各种语言推理和决策任务的通用范式。

================================================================================
3 方法
================================================================================
ReAct提示方法的核心思想是将推理和行动交错进行。在知识密集型任务（如HotpotQA和Fever）中，我们从训练集中随机选择少量示例，并手动编写ReAct格式的轨迹作为少样本提示的示例。与思维链类似，ReAct是一种协调推理和行动以解决任务的提示方法。关键区别在于ReAct轨迹包含显式的思考，这些思考不仅计划和分解目标，还结合对当前状态的推理、应用常识并跟踪进度。

格式如下：思考1 -> 行动1 -> 观察1 -> ... -> 思考N -> 行动N。每个思考对当前情况和下一步要采取的行动进行推理，而每个行动可以是以下类型之一：（1）搜索实体，从相应的维基百科实体页面返回前k个句子；（2）查找字符串，返回当前段落中包含该字符串的下一句，模拟浏览器中的Ctrl+F命令。

================================================================================
4 相关工作
================================================================================
大型语言模型用于推理的工作中最著名的是思维链（Chain-of-Thought，CoT），它揭示了LLMs通过少样本提示制定推理步骤的能力。后续工作包括自一致性，用于在多个推理路径中进行多数投票，以及思维树，用于探索基于树搜索的推理模式。

在语言模型用于行动方面，WebGPT使用LLMs通过搜索和浏览来导航网页。SayCan和PaLM-SayCan使用LLMs进行机器人行动计划。Inner Monologue在具身环境中使用"内心独白"，但结合了预定义高级行动原语中的硬编码语言。相比之下，ReAct以通用方式交错自由形式的语言推理和行动。

================================================================================
5 结论
================================================================================
本文提出了ReAct，一种将推理和行动协同应用于大型语言模型的简单而有效的方法。通过一系列不同的任务，我们证明了ReAct可以产生可解释的、高性能的任务解决轨迹，优于纯行动和纯推理的基线方法。交错的推理轨迹允许模型动态地计划、跟踪和更新行动计划，同时结合对外部环境的推理。

我们相信ReAct为构建更强大和可信的LLM代理提供了一个有前途的方向。未来的工作包括：在更多样化的任务上探索ReAct，研究使用交错推理和行动来提示和微调LLM的最佳方式，以及将ReAct应用于文本之外的其他模态。
