优秀工具学习资源

收集了工具学习领域的优秀论文和应用。

📜 目录

• 📚 论文
  • 📑 综述
  • 🏋️‍♂️ 通过微调实现工具使用
  • 📖 通过上下文学习实现工具使用
  • 🧪 评估
• 📱 应用
• 🎉 贡献者

📚 论文

📑 综述

• 增强语言模型：一项综述，预印本 2023.02 <br /> Grégoire Mialon, Roberto Dessì, Maria Lomeli, Christoforos Nalmpantis, Ram Pasunuru, Roberta Raileanu, Baptiste Rozière, Timo Schick, Jane Dwivedi-Yu, Asli Celikyilmaz, Edouard Grave, Yann LeCun, Thomas Scialom [pdf]

• 基础模型的工具学习，预印本 2023.04 <br /> Yujia Qin, Shengding Hu, Yankai Lin, Weize Chen, Ning Ding, Ganqu Cui, Zheni Zeng, Yufei Huang, Chaojun Xiao, Chi Han, Yi Ren Fung, Yusheng Su, Huadong Wang, Cheng Qian, Runchu Tian, Kunlun Zhu, Shihao Liang, Xingyu Shen, Bokai Xu, Zhen Zhang, Yining Ye, Bowen Li, Ziwei Tang, Jing Yi, Yuzhang Zhu, Zhenning Dai, Lan Yan, Xin Cong, Yaxi Lu, Weilin Zhao, Yuxiang Huang, Junxi Yan, Xu Han, Xian Sun, Dahai Li, Jason Phang, Cheng Yang, Tongshuang Wu, Heng Ji, Zhiyuan Liu, Maosong Sun [pdf]

• 基于大型语言模型的自主代理综述，预印本 2023.08 <br /> Lei Wang, Chen Ma, Xueyang Feng, Zeyu Zhang, Hao Yang, Jingsen Zhang, Zhiyuan Chen, Jiakai Tang, Xu Chen, Yankai Lin, Wayne Xin Zhao, Zhewei Wei, Ji-Rong Wen [pdf]

🏋️‍♂️ 通过微调实现工具使用

• WebGPT：基于人类反馈的浏览器辅助问答 预印本 2021.12 <br /> Reiichiro Nakano, Jacob Hilton, Suchir Balaji, Jeff Wu, Long Ouyang, Christina Kim, Christopher Hesse, Shantanu Jain, Vineet Kosaraju, William Saunders, Xu Jiang, Karl Cobbe, Tyna Eloundou, Gretchen Krueger, Kevin Button, Matthew Knight, Benjamin Chess, John Schulman [pdf]

• TALM：工具增强语言模型 预印本 2022.05 <br /> Aaron Parisi, Yao Zhao, Noah Fiedel [pdf]

• WebShop：面向可扩展真实网络交互的基于语言的代理 NeurIPS 2022.07 <br /> Shunyu Yao, Howard Chen, John Yang, Karthik Narasimhan [pdf] [github]

• Toolformer：语言模型可以自学使用工具 预印本 2023.02 <br /> Timo Schick, Jane Dwivedi-Yu, Roberto Dessì, Roberta Raileanu, Maria Lomeli, Luke Zettlemoyer, Nicola Cancedda, Thomas Scialom [pdf]

• ToolCoder：教导代码生成模型使用API搜索工具 预印本 2023.05 <br /> Kechi Zhang, Huangzhao Zhang, Ge Li, Jia Li, Zhuo Li, Zhi Jin [pdf]

• WebCPM：用于中文长篇问答的交互式网络搜索 ACL 2023.05 <br /> Yujia Qin, Zihan Cai, Dian Jin, Lan Yan, Shihao Liang, Kunlun Zhu, Yankai Lin, Xu Han, Ning Ding, Huadong Wang, Ruobing Xie, Fanchao Qi, Zhiyuan Liu, Maosong Sun, Jie Zhou [pdf]

• ToolkenGPT：通过工具嵌入增强冻结语言模型的海量工具 预印本 2023.05 <br /> Shibo Hao, Tianyang Liu, Zhen Wang, Zhiting Hu [pdf][github]

• 通过执行反馈使语言模型成为更好的工具学习者 预印本 2023.05 <br /> Shuofei Qiao, Honghao Gui, Huajun Chen, Ningyu Zhang [pdf]

• Gorilla：连接海量API的大型语言模型 预印本 2023.05 <br /> Shishir G. Patil, Tianjun Zhang, Xin Wang, Joseph E. Gonzalez [pdf]

• GPT4Tools：通过自我指导教大型语言模型使用工具 预印本 2023.05 <br /> Rui Yang, Lin Song, Yanwei Li, Sijie Zhao, Yixiao Ge, Xiu Li, Ying Shan [pdf] [github]

• ToolAlpaca:通过3000个模拟案例实现语言模型的通用工具学习 预印本 2023.06 <br /> 唐巧宇, 邓子良, 林鸿宇, 韩先培, 梁桥, 孙乐 [pdf]

• WebGLM:面向具有人类偏好的高效网络增强问答系统 KDD 2023.06 <br /> 刘晓, 赖涵宇, 于浩, 徐一凡, 曾奥涵, 杜正晓, 张鹏, 董宇晓, 唐杰 [pdf]

📖 通过上下文学习使用工具

• PAL:程序辅助语言模型 预印本 2022.11 <br /> 高路宇, Aman Madaan, 周书言, Uri Alon, 刘鹏飞, 杨益明, Jamie Callan, Graham Neubig [pdf] [github]

• 思维程序提示:解耦数值推理任务中的计算和推理 预印本 2022.11 <br /> 陈文虎, 马学光, 王欣怡, William W. Cohen [pdf]

• ART:大型语言模型的自动多步推理和工具使用 预印本 2023.03 <br /> Bhargavi Paranjape, Scott Lundberg, Sameer Singh, Hannaneh Hajishirzi, Luke Zettlemoyer, Marco Tulio Ribeiro [pdf]

• TaskMatrix.AI:通过连接基础模型与数百万API完成任务 预印本 2023.03 <br /> 梁耀博, 吴晨飞, 宋婷, 吴文山, 夏岩, 刘宇, 欧阳, 陆帅, 季磊, 毛少光, 王云, 寿林军, 龚明, 段楠 [pdf]

• HuggingGPT:利用ChatGPT及其在Hugging Face中的朋友解决AI任务 预印本 2023.03 <br /> 沈永亮, 宋凯涛, 谭旭, 李东升, 卢伟明, 庄越挺 [pdf]

• OpenAGI:当大语言模型遇上领域专家 预印本 2023.04 <br /> 葛英强, 华文悦, 梅凯, 季建超, 谭俊涛, 徐书源, 李泽龙, 张永锋 [pdf]

• ChemCrow:用化学工具增强大型语言模型 预印本 2023.04 <br /> Andres M Bran, Sam Cox, Andrew D White, Philippe Schwaller [pdf]

• GeneGPT:用领域工具增强大型语言模型以改善生物医学信息获取 预印本 2023.04 <br /> 金桥, 杨一帆, 陈庆宇, 吕志勇 [pdf]

• 变色龙:大型语言模型的即插即用组合推理 预印本 2023.04 <br /> 卢攀, 彭宝琳, 程浩, Michel Galley, 张开伟, 吴映念, 朱松纯, 高峰 [pdf] [github]

• ChatCoT:基于聊天的大型语言模型上的工具增强思维链推理 预印本 2023.05 <br /> 陈志鹏, 周坤, 张北辰, 龚铮, 赵鑫, 文继荣 [pdf]

• CREATOR:通过工具创建分离大型语言模型的抽象和具体推理 预印本 2023.05 <br /> 钱程, 韩驰, Yi R. Fung, 秦宇嘉, 刘知远, 季婧 [pdf]

• 作为工具制造者的大型语言模型 预印本 2023.05 <br /> 蔡天乐, 王雪芝, 马腾宇, 陈鑫云, 周丹尼 [pdf] [github]

• MultiTool-CoT:GPT-3可以通过思维链提示使用多个外部工具 ACL 2023.05 <br /> 稻叶达郎, 清丸弘一郎, 程飞, 黑桥节夫 [pdf] [project]

• RestGPT:通过RESTful API将大型语言模型与现实世界应用连接 预印本 2023.06 <br /> 宋一凡, 熊伟民, 朱大伟, 李成, 王可, 田野, 李斯江 [pdf]

• AssistGPT:可以规划、执行、检查和学习的通用多模态助手 预印本 2023.06 <br /> 高迪飞, 季磊, 周罗威, 林庆宏, 陈乔雅, 樊子涵, 寿正宗 [pdf] [project]

• GEAR:用通用高效工具解析增强语言模型 预印本 2023.07 <br /> 陆一宁, 于浩平, Daniel Khashabi [pdf]

• 上下文技能提示:解锁大型语言模型的组合性 预印本 2023.08 <br /> 陈嘉傲, 潘小曼, 于典, 宋凯强, 王晓阳, 俞栋, 陈建树 [pdf]

• 工具文档使大型语言模型能够零样本使用工具 预印本 2023.08 <br /> 谢承佑, 陈思安, 李春亮, 藤井康久, Alexander Ratner, 李臣宇, Ranjay Krishna, Tomas Pfister [pdf]

• TPTU：基于大型语言模型的AI代理任务规划和工具使用 预印本 2023.08 <br /> 阮景晴、陈一虹、张斌、徐志伟、包天鹏、杜国庆、施世伟、毛航宇、曾星宇、赵睿 [pdf]

🧪 评估

• tool_use_benchmark [github] <br /> 一个大规模的工具使用基准测试，包括四个英语工具使用数据集和一个中文工具使用数据集。

• API-Bank：一个用于工具增强型大语言模型的基准测试 预印本 2023.04 <br /> 李明浩、宋飞帆、于博文、于海洋、李舟军、黄飞、李永彬 [pdf]

• 开源大型语言模型的工具操作能力研究 预印本 2023.05 <br /> 徐乾彤、洪枫璐、李博、胡长然、陈政宇、张剑 [pdf]

• 评估和改进工具增强的计算密集型数学推理 预印本 2023.06 <br /> 张北辰、周坤、魏希林、赵鑫、沙静、王仕进、温季融 [pdf]

• ToolQA：一个用于大语言模型使用外部工具进行问答的数据集 预印本 2023.06 <br /> 庄宇辰、余悦、王宽、孙浩天、张超 [pdf]

• ToolLLM：促进大语言模型掌握16000多个真实世界的API 预印本 2023.07 <br /> 秦禹嘉、梁世豪、叶一宁、朱坤伦、闫岚、卢雅茜、林衍凯、丛鑫、唐祥如、钱比尔、赵思涵、田润初、谢若冰、周杰、Mark Gerstein、李大海、刘知远、孙茂松 [pdf]

• AgentBench：评估大语言模型作为代理的能力 预印本 2023.08 <br /> 刘啸、于浩、张涵辰、徐一凡、雷轩宇、赖汉宇、顾宇、丁航亮、门凯文、杨可娟、张舒丹、邓翔、曾奥涵、杜正晓、张晨晖、沈圣、张天骏、苏宇、孙欢、黄民烈、董旭阳、唐杰 [pdf]

• ToolTalk：在对话环境中评估工具使用 预印本 2023.11 <br /> Nicholas Farn、Richard Shin [pdf]

• TaskBench：大型语言模型任务自动化基准测试 预印本 2023.11 <br /> 沈永良、宋凯涛等 [pdf]

• T-Eval：逐步评估工具利用能力 预印本 2023.12 <br /> 陈泽辉、赵峰等 [pdf]

📱 应用

• Auto-GPT：一个实验性的开源项目，旨在使GPT-4完全自主。

• LangChain：通过组合性构建大语言模型应用。

• DB-GPT：利用私有大语言模型技术革新数据库交互。

🎉 贡献者

<a href="https://github.com/luban-agi/Awesome-Tool-Learning/graphs/contributors"> <img src="https://contrib.rocks/image?repo=luban-agi/Awesome-Tool-Learning"/> </a>