TEXTOIR文本开放意图识别系统

TEXTOIR是首个高质量的文本开放意图识别平台。该代码库提供了一个便捷的工具包,具有可扩展的接口,集成了两个任务(开放意图检测和开放意图发现)的一系列最先进算法。我们还在TEXTOIR-DEMO代码库中发布了流程框架和可视化平台。

简介

TEXTOIR旨在为研究人员提供一个便利的工具包,以复现相关的文本开放分类和聚类方法。它包含两个任务,定义为开放意图检测和开放意图发现。开放意图检测旨在识别n类已知意图,并检测一类开放意图。开放意图发现旨在利用有限的已知意图先验知识来发现细粒度的已知和开放意图聚类。相关论文和代码收集在我们之前发布的阅读列表中。

开放意图识别:

更新 🔥 🔥 🔥

日期	公告
2023年12月	🎆 🎆 开放意图发现的新论文和最先进方法。代码请参考USNID目录。阅读论文 -- 面向无监督和半监督新意图发现的聚类框架(发表于IEEE TKDE 2023)。
2023年4月	🎆 🎆 开放意图检测的新论文和最先进方法。代码请参考DA-ADB目录。阅读论文 -- 学习开放意图检测的判别表示和决策边界(发表于IEEE/ACM TASLP 2023)。
2021年9月	🎆 🎆 首个集成和可视化的文本开放意图识别平台TEXTOIR已发布。演示代码请参考TEXTOIR-DEMO目录。阅读我们的论文TEXTOIR:文本开放意图识别的集成和可视化平台(发表于ACL 2021)。
2021年5月	开放意图发现的新论文和基线DeepAligned已发布。阅读我们的论文使用深度对齐聚类发现新意图(发表于AAAI 2021)。
2021年5月	开放意图检测的新论文和基线ADB已发布。阅读我们的论文具有自适应决策边界的深度开放意图分类(发表于AAAI 2021)。
2020年5月	开放意图发现的新论文和基线CDAC+已发布。阅读我们的论文通过约束深度自适应聚类和聚类细化发现新意图(发表于AAAI 2020)。
2019年7月	开放意图检测的新论文和基线DeepUNK已发布。阅读我们的论文基于边际损失的深度未知意图检测(发表于ACL 2019)。

我们强烈建议您使用我们的TEXTOIR工具包,它具有标准和统一的接口(特别是数据设置),可以在基准意图数据集上获得公平和可说服的结果!

基准数据集

数据集	来源
[BANKING](https://github.com/thuiar/TEXTOIR/blob/main/./data/banking	论文
[OOS](https://github.com/thuiar/TEXTOIR/blob/main/./data/oos / [CLINC150](https://github.com/thuiar/TEXTOIR/blob/main/./data/clinc	论文
[StackOverflow](https://github.com/thuiar/TEXTOIR/blob/main/./data/stackoverflow	论文

集成模型

开放意图检测

模型名称	来源	发表时间
[OpenMax*](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_OpenMax.sh	论文代码	CVPR 2016
[MSP](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_MSP.sh	论文代码	ICLR 2017
[DOC](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_DOC.sh	论文代码	EMNLP 2017
[DeepUnk](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_DeepUnk.sh	论文代码	ACL 2019
[SEG](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_SEG.sh	论文代码	ACL 2020
[ADB](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_ADB.sh	论文代码	AAAI 2021
[(K+1)-way](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_K+1-way.sh	论文代码	ACL 2021
[MDF](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_MDF.sh	论文代码	ACL 2021
[ARPL*](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_ARPL.sh	论文代码	IEEE TPAMI 2022
[KNNCL](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_KNNCL.sh	论文代码	ACL 2022
[DA-ADB](https://github.com/thuiar/TEXTOIR/blob/main/./open_intent_detection/examples/run_DA-ADB.sh	论文代码	IEEE/ACM TASLP 2023

新意图发现

设置	模型名称	来源	发表时间
无监督	[KM](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_KM.sh	论文	BSMSP 1967
无监督	[AG](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_AG.sh	论文	PR 1978
无监督	[SAE-KM](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_SAE.sh	论文	JMLR 2010
无监督	[DEC](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_DEC.sh	论文代码	ICML 2016
无监督	[DCN](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_DCN.sh	论文代码	ICML 2017
无监督	[CC](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_CC.sh	论文代码	AAAI 2021
无监督	[SCCL](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_SCCL.sh	论文代码	NAACL 2021
无监督	[USNID](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_unsup_usnid	论文代码	IEEE TKDE 2023
半监督	[KCL*](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_KCL.sh	论文代码	ICLR 2018
半监督	[MCL*](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_MCL.sh	论文代码	ICLR 2019
半监督	[DTC*](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_DTC.sh	论文代码	ICCV 2019
半监督	[CDAC+](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_CDACPlus.sh	论文代码	AAAI 2020
半监督	[DeepAligned](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_DeepAligned.sh	论文代码	AAAI 2021
半监督	[GCD](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_GCD.sh	论文代码	CVPR 2022
半监督	[MTP-CLNN](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_MTP_CLNN.sh	论文代码	ACL 2022
半监督	[USNID](https://github.com/thuiar/TEXTOIR/blob/main/./examples/run_semi_usnid.sh	论文代码	IEEE TKDE 2023

(* 表示将CV模型替换为BERT主干网络)

快速开始

使用anaconda创建Python（版本 >= 3.6）环境

conda create --name textoir python=3.6
conda activate textoir

安装PyTorch（Cuda版本11.2）

conda install pytorch torchvision torchaudio cudatoolkit=11.0 -c pytorch -c conda-forge

克隆TEXTOIR仓库，并选择任务（以开放意图检测为例）。

git clone git@github.com:thuiar/TEXTOIR.git
cd TEXTOIR
cd open_intent_detection

安装相关环境依赖

pip install -r requirements.txt

运行示例（以ADB为例）

sh examples/run_ADB.sh

请注意，如果您无法直接从HuggingFace transformers下载预训练模型，则需要自行下载。我们在以下链接中提供了预训练的bert模型：
百度网盘提取码: v8tk

可扩展性

该工具包具有可扩展性，支持方便地添加新方法、数据集、配置、主干网络、数据加载器和损失函数。更详细的信息可以在open_intent_detection和open_intent_discovery目录的教程中查看。

引用

如果这项工作对您有帮助，或者您想使用本仓库中的代码和结果，请引用以下论文：

@inproceedings{zhang-etal-2021-textoir,
    title = "{TEXTOIR}：用于文本开放意图识别的集成可视化平台",
    author = "张汉磊 and 李晓腾 and 徐华 and 张盼盼 and 赵康 and 高凯",
    booktitle = "第59届计算语言学协会年会暨第11届自然语言处理国际联合会议论文集：系统演示",
    pages = "167--174",
    year = "2021",
    url = "https://aclanthology.org/2021.acl-demo.20",
    doi = "10.18653/v1/2021.acl-demo.20",
}

@article{DA-ADB, 
    title = {学习开放意图检测的判别性表示和决策边界},  
    author = {张汉磊 and 徐华 and 赵少杰 and 周倩睿}, 
    journal = {IEEE/ACM音频、语音与语言处理汇刊},  
    volume = {31},
    pages = {1611-1623},
    year = {2023}, 
    doi = {10.1109/TASLP.2023.3265203} 
}

@ARTICLE{USNID,
  author={张汉磊 and 徐华 and 王鑫 and 龙飞 and 高凯},
  journal={IEEE知识与数据工程汇刊}, 
  title={用于无监督和半监督新意图发现的聚类框架}, 
  year={2023},
  doi={10.1109/TKDE.2023.3340732}
}