roberta-large-ner-english

roberta-large-ner-english 项目介绍

项目概述

roberta-large-ner-english 是一个专门用于英语命名实体识别(NER)任务的模型。该模型是在 roberta-large 基础上，使用 conll2003 数据集进行微调得到的。这个模型在电子邮件和聊天数据上的表现尤为出色，特别是在识别不以大写字母开头的实体方面表现更佳。

训练数据

模型的训练数据使用了以下分类标签:

• O: 非命名实体
• MISC: 杂项实体
• PER: 人名
• ORG: 组织
• LOC: 地点

为了简化，原始 conll2003 数据集中的 B- 和 I- 前缀被移除。训练集包含 17494 个样本，验证集包含 3250 个样本。

使用方法

用户可以通过 HuggingFace 库轻松使用这个模型。首先需要加载模型和其子词分词器:

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/roberta-large-ner-english")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/roberta-large-ner-english")

然后可以使用 pipeline 进行命名实体识别:

from transformers import pipeline

nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
result = nlp("Apple was founded in 1976 by Steve Jobs, Steve Wozniak and Ronald Wayne to develop and sell Wozniak's Apple I personal computer")

模型性能

在 conll2003 验证数据集上，该模型展现出优秀的性能。例如，对于人名(PER)实体，精确率达到 0.9914，召回率为 0.9927，F1 分数为 0.9920。整体而言，模型的 F1 分数达到 0.9753。

在私有数据集(包括电子邮件、聊天和非正式讨论)上，该模型在人名识别方面的 F1 分数为 0.8967，优于 Spacy 模型(en_core_web_trf-3.2.0)的 0.8695。

应用案例

作者还分享了一个有趣的应用案例，他利用这个模型的结果来训练了一个用于电子邮件签名检测的 LSTM 模型。感兴趣的读者可以通过作者提供的链接了解更多详情。

总的来说，roberta-large-ner-english 是一个强大的命名实体识别模型，特别适合处理非正式文本数据，如电子邮件和聊天记录。它的使用非常简单，性能优异，为自然语言处理任务提供了有力的支持。