ToRA

ToRA 项目介绍

项目概述

ToRA（Tool-Integrated Reasoning Agent）是一系列设计用于解决复杂数学推理问题的智能代理，这些代理通过与工具（例如计算库和符号求解器）的交互来实现这一目标。ToRA 系列模型无缝地将自然语言推理与外部工具的使用相结合，实现了语言的分析能力和工具的计算效率的有机融合。

项目背景

现代数学问题求解往往需要处理极其复杂的数据和算法。ToRA 的出现就是为了应对此类挑战性任务而设计的。通过整合工具和自然语言处理技术，ToRA 能够在处理数学推理问题时表现出色。

模型表现

ToRA 项目中的多种模型，依据其参数规模（如 7B、13B 等）在多个数学任务中展示了卓越的表现。例如，ToRA-70B 在 GSM8k 数据集上取得了 84.3 的优异成绩，并且在平均十个数学任务中（AVG@10 math tasks）也表现优异。特别值得一提的是，ToRA-Code-34B 是首个在 MATH 数据集上实现超过 50% 精确度（pass@1）的开源模型，显著超越了 GPT-4 的链式思维（CoT）结果。

特点与优势

1. 工具整合推理：ToRA 能够在单回合工具交互中将理性分析与基于程序的工具使用交织在一起，从而提高推理效率。

2. 开源与协作：ToRA 的模型和代码经过开源，社区可以自由使用和改进，为更多的技术突破提供了可能性。

3. 创新的训练流程：ToRA 的训练包括模仿学习和输出空间整形，保证了高效的知识吸收和应用。

使用指南

环境配置

建议使用 Conda 来管理环境，ToRA 利用 vLLM 加速推理过程。用户可以通过克隆 ToRA 的 GitHub 仓库并安装所需的 Python 包来开始使用。

推理与评估

ToRA 提供了一整套推理和评估脚本，用户可以通过简单的配置来进行模型推理和答案评估，确保模型输出的正确性。

模型训练

目前正在进行关于 ToRA-Corpus-16k 的开源审查，但已提供了完整的训练脚本，用户可以根据需要构建自己的数据集进行训练。

致谢与贡献

如果 ToRA 项目对您的研究或工作有帮助，建议引用相关论文。此外，项目欢迎社区贡献和建议，有关详细信息可查阅 Microsoft 开源行为准则。

ToRA 项目以其创新能力和开放性为数学问题解决领域带来了新的可能，是研究人员和开发者们探索数学推理领域不容错过的工具。