roberta-es-clinical-trials-ner

roberta-es-clinical-trials-ner：医学命名实体识别的新突破

roberta-es-clinical-trials-ner是一个专门用于西班牙语临床试验文本的医学命名实体识别模型。这个模型能够识别出4种来自统一医学语言系统(UMLS)的语义组:

• ANAT：身体部位和解剖结构(如"喉咙")
• CHEM：化学实体和药理学物质(如"阿司匹林")
• DISO：病理状况(如"疼痛")
• PROC：诊断和治疗程序、实验室分析和医学研究活动(如"手术")

模型性能

该模型在评估集上取得了令人印象深刻的结果:

• 损失：0.1580
• 精确率：0.8495
• 召回率：0.8806
• F1值：0.8647
• 准确率：0.9583

这些数据表明,该模型在医学实体识别任务上表现出色,具有很高的准确性和全面性。

模型架构与训练

roberta-es-clinical-trials-ner是在预训练模型bsc-bio-ehr-es的基础上进行微调的。它使用了CT-EBM-SP语料库进行训练,该语料库包含1200篇关于临床试验研究和公告的文本。

训练过程采用了以下超参数:

• 学习率: 2e-05
• 训练批次大小: 16
• 评估批次大小: 16
• 随机种子: 42
• 优化器: Adam
• 学习率调度: 线性
• 训练轮次: 4

应用与限制

该模型旨在用于通用目的,但用户应当注意,它可能存在偏见或其他不良影响。目前该模型仍在开发中,需要进一步改进,不应在没有人工协助和监督的情况下用于医疗决策。

使用该模型的第三方需要遵守相关法规,包括人工智能使用方面的规定。模型的所有者或创建者(CSIC)不对第三方使用该模型所产生的任何结果负责。

环境影响

模型的训练过程产生了约0.01kg的二氧化碳当量排放。这一数据是基于使用1块24GB的RTX 3090 GPU,在西班牙地区运行4分钟估算得出的。

总结

roberta-es-clinical-trials-ner为西班牙语临床试验文本的医学实体识别提供了一个强大的工具。尽管仍有改进空间,但其出色的性能和广泛的应用前景使其成为医疗信息处理领域的一个重要进展。研究人员和开发者可以在遵守相关规定的前提下,探索该模型在各种医学文本分析任务中的应用。

</SOURCE_TEXT>