LLM优化器论文

<img src="https://yellow-cdn.veclightyear.com/ab5030c0/17aac0a6-0293-4ac5-9b49-5ef9b6d19221.svg"/>

必读论文:大语言模型(LLM)作为优化器和自动优化LLM提示

🏷️ 新闻

• 2023-10-06 我们创建了这个关于LLM作为优化器和自动优化LLM提示的论文列表。

🗞️ 论文

1. RLPrompt: 使用强化学习优化离散文本提示

   Mingkai Deng, Jianyu Wang, Cheng-Ping Hsieh, Yihan Wang, Han Guo, Tianmin Shu, Meng Song, Eric P. Xing, Zhiting Hu. [abs]. EMNLP 2022.

2. 大语言模型是人类水平的提示工程师

   Yongchao Zhou, Andrei Ioan Muresanu, Ziwen Han, Keiran Paster, Silviu Pitis, Harris Chan, Jimmy Ba. [abs]. ICLR 2023.

3. GrIPS:大语言模型提示优化的无梯度编辑式搜索

   Archiki Prasad, Peter Hase, Xiang Zhou, Mohit Bansal. [abs]. EACL 2023.

4. 使用"梯度下降"和束搜索的自动提示优化

   Reid Pryzant, Dan Iter, Jerry Li, Yin Tat Lee, Chenguang Zhu, Michael Zeng. [abs]. Preprint 2023.05.

5. InstructZero:面向黑盒大语言模型的高效指令优化

   Lichang Chen, Jiuhai Chen, Tom Goldstein, Heng Huang, Tianyi Zhou. [abs]. Preprint 2023.06.

6. Retroformer:带有策略梯度优化的回溯性大语言代理

   Weiran Yao, Shelby Heinecke, Juan Carlos Niebles, Zhiwei Liu, Yihao Feng, Le Xue, Rithesh Murthy, Zeyuan Chen, Jianguo Zhang, Devansh Arpit, Ran Xu, Phil Mui, Huan Wang, Caiming Xiong, Silvio Savarese. [abs]. Preprint 2023.08.

7. 忘记演示,专注于从文本指令中学习

   Renze Lou, Wenpeng Yin. [abs]. Preprint 2023.08.

8. 大语言模型作为优化器

   Chengrun Yang, Xuezhi Wang, Yifeng Lu, Hanxiao Liu, Quoc V. Le, Denny Zhou, Xinyun Chen. [abs]. Preprint 2023.09.

9. Promptbreeder:通过提示演化的自引用自改进

   Chrisantha Fernando, Dylan Banarse, Henryk Michalewski, Simon Osindero, Tim Rocktäschel. [abs]. Preprint 2023.09.

10. 将大语言模型与进化算法相结合可以产生强大的提示优化器

    Qingyan Guo, Rui Wang, Junliang Guo, Bei Li, Kaitao Song, Xu Tan, Guoqing Liu, Jiang Bian, Yujiu Yang. [abs]. Preprint 2023.09.

11. 自学习优化器(STOP):递归自改进的代码生成

    Eric Zelikman, Eliana Lorch, Lester Mackey, Adam Tauman Kalai. [abs]. Preprint 2023.10.

12. DSPy:将声明式语言模型调用编译为自改进管道

    Omar Khattab, Arnav Singhvi, Paridhi Maheshwari, Zhiyuan Zhang, Keshav Santhanam, Sri Vardhamanan, Saiful Haq, Ashutosh Sharma, Thomas T. Joshi, Hanna Moazam, Heather Miller, Matei Zaharia, Christopher Potts. [abs]. Preprint 2023.10.

13. Eureka:通过编码大语言模型实现人类级别的奖励设计

    Yecheng Jason Ma, William Liang, Guanzhi Wang, De-An Huang, Osbert Bastani, Dinesh Jayaraman, Yuke Zhu, Linxi Fan, Anima Anandkumar. [abs]. Preprint 2023.10.

14. PromptAgent:使用语言模型进行战略规划可实现专家级提示优化 王新媛, 李晨曦, 王振, 白帆, 罗昊天, 张嘉友, Nebojsa Jojic, Eric P. Xing, 胡致亭. [abs], 2023年10月预印本。

15. OptiMUS: 使用MIP求解器和大型语言模型的优化建模

    Ali AhmadiTeshnizi, Wenzhi Gao, Madeleine Udell. [abs], 2023年10月预印本。

16. 面向商业优化的AI协作助手: 生产调度框架及案例研究

    Pivithuru Thejan Amarasinghe, Su Nguyen, Yuan Sun, Damminda Alahakoon. [abs], 2023年10月预印本。

17. 利用大型语言模型增强遗传改进变异

    Alexander E.I. Brownlee, James Callan, Karine Even-Mendoza, Alina Geiger, Carol Hanna, Justyna Petke, Federica Sarro, Dominik Sobania. [abs], 2023年10月预印本。

18. 语言模型解码作为直接指标优化

    Haozhe Ji, Pei Ke, Hongning Wang, Minlie Huang. [abs], 2023年10月预印本。

19. 利用大型语言模型增强贝叶斯优化

    ICLR 2024会议投稿8133位作者. [openreview], 2023年10月ICLR投稿。

20. 大型语言模型作为进化优化器

    刘圣才, 陈彩順, 曲兴华, 唐科, 王耀新. [abs], 2023年11月预印本。

21. 大型语言模型可实现策略迭代

    Ethan Brooks, Logan Walls, Richard L. Lewis, Satinder Singh. [abs], NeurIPS 2023。

22. 大型语言模型用于自动数据科学: 引入CAAFE进行上下文感知自动特征工程

    Noah Hollmann, Samuel Müller, Frank Hutter. [abs], NeurIPS 2023。

23. Plum: 基于元启发式的提示学习

    Rui Pan, Shuo Xing, Shizhe Diao, Xiang Liu, Kashun Shum, Jipeng Zhang, Tong Zhang. [abs], 2023年11月预印本。

24. ReEvo: 大型语言模型作为具有反思性进化的超启发式

    叶浩然, 王嘉睿, 曹志光, 宋国杰. [abs], [code], 2024年2月预印本。

25. 在不修改语言模型的情况下训练语言模型代理

    张绍坤, 张洁宇, 刘家乐, 宋林鑫, 王池, Ranjay Krishna, 吴庆云. [abs], 2024年2月预印本。

26. LLaMoCo: 面向优化代码生成的大型语言模型指令调优

    马泽源, 郭红书, 陈佳程, 彭国均, 曹志光, 马玉宁, 龚月娇. [abs], 2024年3月预印本。

27. 语言代理作为可优化的图

    庄明宸, 王文懿, Louis Kirsch, Francesco Faccio, Dmitrii Khizbullin, Jürgen Schmidhuber. [abs], [code], [page], 2024年3月预印本。