contextualized-topic-models

项目介绍：Contextualized Topic Models

简介

Contextualized Topic Models（CTM）是一种结合预训练语言表示（例如 BERT）的主题模型家族，旨在支持更为精准的主题建模。 CTM 提供了丰富的语言支持，并主要包含两种版本：CombinedTM 和 ZeroShotTM。

主要特性

1. 支持多语言

CTM 依托于 HuggingFace 的模型，具备处理多种语言文本的能力。CombinedTM 将上下文嵌入与传统的词袋模型结合，提供更为连贯的主题呈现。ZeroShotTM 则适合处理需要跨语言主题建模的场景，甚至能够在测试数据中缺少特定词汇时正常工作。

2. 多种嵌入自由选择

CTM 的设计允许用户选择不同的嵌入方法，这意味着当新的嵌入方法出现时，用户可以直接在代码中替换以提升建模效果。

3. Kitty 模块

CTM 包含一个名为 Kitty 的子模块，该模块能够帮助用户快速实现人机协作的文档分类和命名群集。

实用指南

安装

要使用 CTM，推荐通过 pip 包管理器进行安装：

pip install -U contextualized_topic_models

建议用户根据自己的系统安装匹配的 CUDA 版本以获得最佳性能。

模型选择

用户可以根据需要选择合适的主题模型：

• CombinedTM：结合上下文嵌入和词袋的模型。
• ZeroShotTM：专用于零样本跨语言主题建模的模型。

CTM 还支持监督学习 (SuperCTM)，用户可查阅相关文档以获取更多信息。

使用方法

快速开始

• 获取主题：通过模型的 get_topics() 方法，用户可以轻松获取建模得到的主题。
• 预测新文档的主题：使用 transform 方法处理测试数据，并通过 get_doc_topic_distribution() 方法获取文档在各主题下的分布。

单语言与跨语言主题建模

对于单语言建模，用户需提供预处理后的词袋文本；而对于跨语言建模，用户只需提交待测文本，ZeroShotTM 将处理不同语言的文档。

高级功能

CTM 提供一个简单的预处理管道以及对自定义嵌入的支持。用户可以利用这些功能来优化文档处理与建模效果。

开发团队与许可

CTM 由 Federico Bianchi、Silvia Terragni 和 Dirk Hovy 等人开发，并基于 MIT 许可协议发布。

总结

Contextualized Topic Models 是一个强大的研究工具，能够通过结合现代上下文嵌入技术为用户提供先进的主题建模解决方案。无论是在多语言支持还是模型灵活性上，CTM 都展现了其独特优势。无论是研究人员还是数据科学家，借助 CTM，用户可以更有效地探索文本数据中的深层主题结构。