wink-nlp-utils

wink-nlp-utils

轻量级自然语言处理工具集 简化文本预处理和分析

wink-nlp-utils是一个轻量级自然语言处理工具集,提供36多个实用函数。支持姓名提取、语料库生成、句子分割、分词和停用词移除等功能。适用于语义搜索和文本分类等任务的预处理,为开发人员提供简洁API。该项目是wink开源家族的一员,专注于文本预处理和分析,在npm上可用,具有完整的文档和测试覆盖率。支持Node.js环境。

NLP文本处理分词句子边界检测停用词Github开源项目

wink-nlp-utils

NLP 函数用于放大否定、管理省略、创建 n-gram、词干、语音编码到标记等。

构建状态 覆盖状态 Gitter

<img align="right" src="https://yellow-cdn.veclightyear.com/ab5030c0/93625f14-553a-4d0c-b0bd-67880ad264d6.png" width="100px" >

使用 wink-nlp-utils 为自然语言处理(NLP)准备原始文本。它提供了一套 API 来处理字符串,如名称、句子、段落和以字符串/单词数组表示的标记。它们为许多机器学习任务执行必要的预处理,如语义搜索分类

<table><tr><td><h3>👉🏽</h3></td><td> 我们<b>建议使用 <a href="https://github.com/winkjs/wink-nlp?tab=readme-ov-file#readme">winkNLP</a></b> 进行核心自然语言处理任务。<br/><br/>它以<a href="https://observablehq.com/@winkjs/how-to-measure-winknlps-speed-on-browsers">极快的速度</a><a href="https://winkjs.org/wink-nlp/document.html">执行</a>分词、句子边界检测和命名实体识别。它支持您从情感分析、词性标注、词形还原、词干提取、停用词去除、否定处理、二元组到频率表创建等所有<a href="https://winkjs.org/wink-nlp/leveraging-out.html">文本处理需求</a>。<br/><br/><b><a href="https://github.com/winkjs/wink-nlp?tab=readme-ov-file#readme">WinkNLP</a></b> 具有用户友好的声明式 API,用于<a href="https://winkjs.org/wink-nlp/each.html">迭代</a>、<a href="https://winkjs.org/wink-nlp/filter.html">过滤</a>和<a href="https://winkjs.org/wink-nlp/visualizing-markup.html">文本可视化</a>,并可在<a href="https://winkjs.org/wink-nlp/wink-nlp-in-browsers.html">网络浏览器上运行</a>。 </td></tr></table>

安装

使用 npm 安装:

npm install wink-nlp-utils --save

入门

wink-nlp-utils 提供了超过 36 个实用函数用于自然语言处理任务。一些代表性的例子包括从字符串中提取人名、组合聊天机器人的训练语料库、句子边界检测、分词和停用词去除:

// 加载 wink-nlp-utils var nlp = require( 'wink-nlp-utils' ); // 从字符串中提取人名: var name = nlp.string.extractPersonsName( 'Dr. Sarah Connor M. Tech., PhD. - AI' ); console.log( name ); // -> 'Sarah Connor' // 从字符串中组合所有可能的句子: var str = '[I] [am having|have] [a] [problem|question]'; console.log( nlp.string.composeCorpus( str ) ); // -> [ 'I am having a problem', // -> 'I am having a question', // -> 'I have a problem', // -> 'I have a question' ] // 句子边界检测。 var para = 'AI Inc. is focussing on AI. I work for AI Inc. My mail is r2d2@yahoo.com'; console.log( nlp.string.sentences( para ) ); // -> [ 'AI Inc. is focussing on AI.', // 'I work for AI Inc.', // 'My mail is r2d2@yahoo.com' ] // 对句子进行分词。 var s = 'For details on wink, check out http://winkjs.org/ URL!'; console.log( nlp.string.tokenize( s, true ) ); // -> [ { value: 'For', tag: 'word' }, // { value: 'details', tag: 'word' }, // { value: 'on', tag: 'word' }, // { value: 'wink', tag: 'word' }, // { value: ',', tag: 'punctuation' }, // { value: 'check', tag: 'word' }, // { value: 'out', tag: 'word' }, // { value: 'http://winkjs.org/', tag: 'url' }, // { value: 'URL', tag: 'word' }, // { value: '!', tag: 'punctuation' } ] // 去除停用词: var t = nlp.tokens.removeWords( [ 'mary', 'had', 'a', 'little', 'lamb' ] ); console.log( t ); // -> [ 'mary', 'little', 'lamb' ]

尝试在浏览器中使用 Runkit 试验这些示例

文档

查看 wink NLP 实用工具 API 文档以了解更多信息。

需要帮助?

如果您发现了一个尚未报告的 bug,请提出一个新的问题,或考虑修复它并发送拉取请求。

关于 wink

Wink 是一系列用于 NodeJS 中统计分析自然语言处理机器学习的开源包。代码经过全面文档化,便于人类理解,并且具有约 100% 的测试覆盖率,可靠地构建生产级解决方案。

版权和许可

wink-nlp-utils 的版权归 2017-22 GRAYPE Systems Private Limited 所有。

它根据 MIT 许可证的条款获得许可。

编辑推荐精选

扣子-AI办公

扣子-AI办公

职场AI,就用扣子

AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!

堆友

堆友

多风格AI绘画神器

堆友平台由阿里巴巴设计团队创建,作为一款AI驱动的设计工具,专为设计师提供一站式增长服务。功能覆盖海量3D素材、AI绘画、实时渲染以及专业抠图,显著提升设计品质和效率。平台不仅提供工具,还是一个促进创意交流和个人发展的空间,界面友好,适合所有级别的设计师和创意工作者。

图像生成热门AI工具AI图像AI反应堆AI工具箱AI绘画GOAI艺术字堆友相机
码上飞

码上飞

零代码AI应用开发平台

零代码AI应用开发平台,用户只需一句话简单描述需求,AI能自动生成小程序、APP或H5网页应用,无需编写代码。

Vora

Vora

免费创建高清无水印Sora视频

Vora是一个免费创建高清无水印Sora视频的AI工具

Refly.AI

Refly.AI

最适合小白的AI自动化工作流平台

无需编码,轻松生成可复用、可变现的AI自动化工作流

酷表ChatExcel

酷表ChatExcel

大模型驱动的Excel数据处理工具

基于大模型交互的表格处理系统,允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令,自动执行排序、公式计算和数据透视等操作,支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内,支持超过100万行数据的即时分析。

AI工具使用教程AI营销产品酷表ChatExcelAI智能客服
TRAE编程

TRAE编程

AI辅助编程,代码自动修复

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

热门AI工具生产力协作转型TraeAI IDE
AIWritePaper论文写作

AIWritePaper论文写作

AI论文写作指导平台

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

数据安全AI助手热门AI工具AI辅助写作AI论文工具论文写作智能生成大纲
博思AIPPT

博思AIPPT

AI一键生成PPT,就用博思AIPPT!

博思AIPPT,新一代的AI生成PPT平台,支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等,内置海量精美PPT模板,涵盖商务、教育、科技等不同风格,同时针对每个页面提供多种版式,一键自适应切换,完美适配各种办公场景。

热门AI工具AI办公办公工具智能排版AI生成PPT博思AIPPT海量精品模板AI创作
潮际好麦

潮际好麦

AI赋能电商视觉革命,一站式智能商拍平台

潮际好麦深耕服装行业,是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌,以及国内10万+淘宝、天猫、京东等主流平台的品牌商家,为卖家节省将近85%的出图成本,提升约3倍出图效率,让品牌能够快速上架。

下拉加载更多