hebert-finetuned-hebrew-metaphor

hebert-finetuned-hebrew-metaphor

heBERT微调模型实现希伯来语隐喻检测 准确率达95.10%

该项目为基于avichr/heBERT的希伯来语隐喻检测微调模型。模型在HebrewMetaphors数据集上训练,可识别20个希伯来语动词的隐喻用法。经过Adam优化器和线性学习率调度器的训练,模型在验证集上达到95.10%的准确率。这是以色列理工学院电气工程与计算机科学学院研究团队的成果。

heBERT开源项目希伯来语模型Github自然语言处理Huggingface模型训练隐喻识别

项目概述

该项目是一个希伯来语隐喻识别模型,主要用于判断句子中的动词是以隐喻方式还是字面方式使用。这是在以色列理工学院(Technion)电气工程与计算机科学学院开展的一个研究项目。

技术实现

该模型是基于avichr/heBERT模型在HebrewMetaphors数据集上进行微调得到的。模型支持20个希伯来语动词的隐喻识别,包括"做梦"、"切割"、"飞行"等常用动词。在评估集上取得了较好的成果,准确率高达95.10%。

训练细节

模型采用了以下主要训练参数:

  • 学习率设定为2e-05
  • 训练批次大小为16
  • 评估批次大小为16
  • 随机种子为42
  • 优化器采用Adam
  • 学习率调度器类型为线性
  • 训练轮数为15轮

训练过程中,模型的性能逐步提升:

  • 第1轮准确率就达到93.79%
  • 到第11轮时达到最高准确率95.48%
  • 最终稳定在95.10%的准确率

技术框架

项目使用了多个主流深度学习框架:

  • Transformers 4.30.2
  • PyTorch 2.0.1
  • Datasets 2.13.1
  • Tokenizers 0.13.3

项目团队

这是一个学术研究项目,由以下成员完成:

  • Doron Ben-chorin
  • Matan Ben-chorin
  • Tomer Tzipori 在Dr. Oren Mishali的指导下进行。该团队欢迎相关领域的合作与交流。

应用价值

这个模型在自然语言处理领域具有重要价值,可以帮助计算机更好地理解人类语言中的隐喻用法,对于提升机器翻译、文本理解等任务的性能具有积极意义。项目的高准确率也证明了这种方法在处理希伯来语隐喻识别任务上的有效性。

编辑推荐精选

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌,基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构,帮助企业扫清合规障碍,筑牢风控防线,成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案,助力品牌曝光

稳定高效的流量提升解决方案,助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用,一键生成无水印视频

最新版Sora2模型免费使用,一键生成无水印视频

Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
TRAE编程

TRAE编程

AI辅助编程,代码自动修复

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
商汤小浣熊

商汤小浣熊

最强AI数据分析助手

小浣熊家族Raccoon,您的AI智能助手,致力于通过先进的人工智能技术,为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答,小浣熊都能以快速、准确的响应满足您的需求,让您的生活更加智能便捷。

imini AI

imini AI

像人一样思考的AI智能体

imini 是一款超级AI智能体,能根据人类指令,自主思考、自主完成、并且交付结果的AI智能体。

Keevx

Keevx

AI数字人视频创作平台

Keevx 一款开箱即用的AI数字人视频创作平台,广泛适用于电商广告、企业培训与社媒宣传,让全球企业与个人创作者无需拍摄剪辑,就能快速生成多语言、高质量的专业视频。

即梦AI

即梦AI

一站式AI创作平台

提供 AI 驱动的图片、视频生成及数字人等功能,助力创意创作

下拉加载更多