用于数据标注的大型语言模型：综述

• 这是一个精选的关于大型语言模型用于标注的论文列表

  由Zhen Tan (ztan36@asu.edu)和Alimohammad Beigi (abeigi@asu.edu)维护。

• 如果你想添加新条目，请以相同格式提交PR。

• 这个列表作为以下综述的补充。

[用于数据标注的大型语言模型：综述]

<div align=center><img src="https://yellow-cdn.veclightyear.com/835a84d5/e15d7179-bf14-4740-bd86-01f51bdd08b1.png" width="500" /></div>

如果您觉得这个仓库有帮助，我们将非常感谢您引用我们的综述。

@misc{tan2024large,
      title={Large Language Models for Data Annotation: A Survey}, 
      author={Zhen Tan and Alimohammad Beigi and Song Wang and Ruocheng Guo and Amrita Bhattacharjee and Bohan Jiang and Mansooreh Karami and Jundong Li and Lu Cheng and Huan Liu},
      year={2024},
      eprint={2402.13446},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

基于大型语言模型的数据标注

手动设计的提示

• [EACL 2024] GPT是多语言序列生成任务的标注者。[pdf] [代码]

• [arXiv 2023] AnnoLLM：让大型语言模型成为更好的众包标注者。[pdf]

• [arXiv 2023] RAFT：使用奖励排序的微调方法对生成式基础模型进行对齐。[pdf]

• [arXiv 2023] 小模型作为大型语言模型的有价值插件。[pdf] [代码]

• [arXiv 2022] 循环中的语言模型：将提示融入弱监督。[pdf]

• [EMNLP 2022] ZeroGen：通过数据集生成实现高效零样本学习。[pdf] [代码]

• [NAACL-HLT 2022] 学习检索用于上下文学习的提示。[pdf] [代码]

• [EMNLP 2021] 受约束的语言模型产生少样本语义解析器。[pdf] [代码]

通过成对反馈进行对齐

• [ACL 2023] 为什么GPT能进行上下文学习？语言模型秘密地作为元优化器执行梯度下降。[pdf] [代码]

• [arXiv 2023] 直接偏好优化：你的语言模型秘密地是一个奖励模型。[pdf]

• [NeurIPS 2022] 微调语言模型以在具有不同偏好的人群中找到一致性。[pdf]

• [arXiv 2022] 通过有针对性的人类判断改善对话代理的对齐。[pdf]

• [arXiv 2022] 教导语言模型用经验证的引用支持答案。[pdf] [数据]

• [NeurIPS 2020] 从人类反馈中学习总结。[pdf] [代码]

• [arXiv 2019] 从人类偏好中微调语言模型。[pdf] [代码]

评估大型语言模型生成的标注

评估大型语言模型生成的标注

• [EACL 2024] GPT是多语言序列生成任务的标注者。[pdf] [代码]

• [arXiv 2023] AnnoLLM：让大型语言模型成为更好的众包标注者。[pdf]

• [arXiv 2023] 开源大型语言模型在文本标注任务中表现优于众包工人并接近ChatGPT。[pdf]

• [NAACL 2022] LMTurk：将少样本学习器作为语言模型即服务框架中的众包工人。[pdf] [代码]

• [EMNLP 2022] 大型语言模型是少样本临床信息提取器。[pdf] [数据]

• [arXiv 2022] 非自然指令：几乎无需人工劳动即可调整语言模型。[pdf] [代码]

• [arXiv 2020] 图灵测试：语言模型能理解指令吗？[pdf]

通过主动学习进行数据选择

• [EMNLP 2023] FreeAL：在大型语言模型时代实现无人主动学习。[pdf] [代码]

• [EMNLP 2023] 大型语言模型上下文学习的主动学习原则。[pdf]

• [IUI 2023] ScatterShot：用于文本转换的交互式上下文示例筛选。[pdf] [代码]

• [ICML 2023] 偏好分类：通过辅助偏好学习改进文本分类器。[pdf] [代码]

• [arXiv 2023] 大型语言模型作为标注者：以最小成本提高NLP模型的泛化能力。[pdf]

• [arXiv 2022] 主动学习帮助预训练模型学习预期任务。[pdf] [代码]

• [EACL 2021] 使用深度预训练模型和贝叶斯不确定性估计进行序列标注的主动学习。[pdf]

使用大型语言模型生成的标注进行学习

目标领域推理：直接利用标注

• [ECIR 2024] 大型语言模型是推荐系统的零样本排序器。[pdf] [代码]

• [arXiv 2023] 因果推理和大型语言模型：为因果关系开辟新领域。[pdf]

• [ACL 2022] 一种无需真实标签的信息论提示工程方法。[pdf] [代码]

• [TMLR 2022] 大型语言模型的涌现能力。[pdf]

• [NeurIPS 2022] 大型语言模型是零样本推理器。[pdf]

• [arXiv 2022] 通过大型语言模型的描述进行视觉分类。[pdf]

• [PMLR 2021] 从自然语言监督中学习可迁移的视觉模型。[pdf] [代码]

• [EMNLP 2019] 语言模型作为知识库？[pdf] [代码]

知识蒸馏：连接大型语言模型和特定任务模型

• [EACL 2024] GPT模型是多语言序列生成任务的标注器。[pdf] [代码]

• [EMNLP 2023] ChatGPT在搜索中表现如何？调查大型语言模型作为重排序代理。[pdf] [代码]

• [ACL 2023] 逐步蒸馏！用更少的训练数据和更小的模型规模超越更大的语言模型。[pdf] [代码]

• [ACL 2023] GPT4All：通过从GPT-3.5-Turbo大规模数据蒸馏训练助手型聊天机器人。[pdf] [代码]

• [ACL 2023] GKD：一个用于大规模预训练语言模型的通用知识蒸馏框架。[pdf] [代码]

• [EMNLP 2023] Lion：专有大型语言模型的对抗性蒸馏。[pdf] [代码]

• [arXiv 2023] 将较小的语言模型专门化用于多步推理。[pdf]

• [arXiv 2023] 大型语言模型的知识蒸馏。[pdf] [代码]

• [arXiv 2023] 为生物医学知识提取蒸馏大型语言模型：以不良药物事件为例。[pdf]

• [arXiv 2023] 通过大型语言模型的知识蒸馏进行网页内容过滤。[pdf]

• [ICLR 2022] 大型语言模型的知识蒸馏。[pdf] [代码]

• [arXiv 2022] 教小型语言模型进行推理。[pdf]

利用大型语言模型标注进行微调和提示

上下文学习（ICL）

• [EMNLP 2023] 大型语言模型上下文学习的主动学习原则。[pdf]

• [ACL 2023] 合成提示：为大型语言模型生成思维链演示。[pdf]

• [ICLR 2022] 微调的语言模型是零样本学习器。[pdf] [代码]

• [ICLR 2022] 选择性标注使语言模型成为更好的少样本学习器。[pdf] [代码]

• [NAACL 2022] 通过自监督训练改进上下文少样本学习。[pdf]

• [arXiv 2022] 指令归纳：从少量示例到自然语言任务描述。[pdf] [代码]

• [NeurIPS 2020] 语言模型是少样本学习器。[pdf]

思维链提示（CoT）

• [ICLR 2023] 大型语言模型中的自动思维链提示。[pdf] [代码]

• [ACL 2023] SCOTT：自一致思维链蒸馏。[pdf]

• [arXiv 2023] 将较小的语言模型专门化用于多步推理。[pdf]

• [NeurIPS 2022] 思维链提示引发大型语言模型的推理能力。[pdf]

• [NeurIPS 2022] 大型语言模型是零样本推理器。[pdf]

• [arXiv 2022] 语言模型中的理由增强集成。[pdf]

• [ACL 2020] 用于评估和开发英语数学应用题求解器的多样化语料库。[pdf] [代码]

• [NAACL 2019] CommonsenseQA：针对常识知识的问答挑战。[pdf] [代码]

指令微调（IT）

• [ACL 2023] 通过多任务微调实现跨语言泛化。[pdf] [代码]

• [ACL 2023] SELF-INSTRUCT：通过自生成指令对齐语言模型。[pdf] [代码]

• [ACL 2023] 大型语言模型能否替代人工评估？[pdf]

• [arXiv 2023] LLaMA：开放高效的基础语言模型。[pdf][代码]

• [arXiv 2022] 教语言模型用经验证的引用支持答案。[pdf] [数据]

• [arXiv 2022] 扩展指令微调的语言模型。[pdf] [代码]

• [EMNLP 2022] 超自然指令：通过1600多个NLP任务的声明性指令实现泛化。[pdf] [代码]

• [NeurIPS 2020] 语言模型是少样本学习器。[pdf]

• Stanford alpaca：一个遵循指令的llama模型。[HTML] [代码]

对齐微调（AT）

• [PMLR 2023] 利用人类偏好预训练语言模型。[pdf][代码]

• [ICLR 2023] 使用隐式语言Q学习进行自然语言生成的离线强化学习。[pdf] [代码]

• [arXiv 2023] 后见之明链使语言模型与反馈保持一致。[pdf][代码]

• [arXiv 2023] GPT-4技术报告。[pdf]

• [arXiv 2023] Llama 2：开放基础和微调聊天模型。[pdf] [代码]

• [arXiv 2023] RLAIF：利用AI反馈扩展人类反馈的强化学习。[pdf]

• [NeurIPS 2022] 通过人类反馈训练语言模型遵循指令。[pdf]

• [arXiv 2022] 教导语言模型使用经验证的引用来支持答案。[pdf] [数据]

• [arXiv 2019] 基于人类偏好的语言模型微调。[pdf][代码]

• [arXiv 2019] CTRL：用于可控生成的条件转换器语言模型。[pdf][代码]

• [NeurIPS 2017] 基于人类偏好的深度强化学习。[pdf]

综述

• [ACM 2023] 预训练、提示和预测：自然语言处理中提示方法的系统综述。[pdf]

• [arXiv 2023] 视觉-语言基础模型提示工程的系统综述。[pdf] [仓库]

• [arXiv 2022] 大型语言模型综述。[pdf] [仓库]

• [arXiv 2022] 上下文学习综述。[pdf]

• [arXiv 2022] 指令跟随的全面综述。[pdf] [仓库]

工具包

• LangChain: [HTML] [代码]

• Stack AI: [HTML]

• UBIAI: [HTML]

• Prodigy: [HTML]

• Alfred: [pdf] [代码]