liqe

liqe

轻量高效的类Lucene查询语言解析和搜索工具

Liqe是一个轻量高效的类Lucene查询语言(LQL)工具,提供了强大的解析、序列化和搜索功能。它支持复杂查询语法,包括关键词匹配、数值比较、范围搜索、通配符匹配和布尔运算。Liqe能够解析查询、序列化结果,并对JSON文档执行搜索。作为JavaScript生态中较为完整的类Lucene实现,Liqe为命令行和Web应用提供了灵活的高级搜索能力。

Liqe搜索引擎查询语言JSON文档解析器Github开源项目

liqe

Travis 构建状态 Coveralls NPM 版本 规范代码风格 Twitter 关注

轻量级且高性能的类 Lucene 解析器、序列化器和搜索引擎。

动机

最初开发 Liqe 是为了通过 cli 实现 Roarr 日志过滤。此后,我一直将这个项目作为业余爱好和智力练习来打磨。我看到它被各种需要高级搜索功能的 CLI 和 Web 应用程序采用。据我所知,它目前是 JavaScript 中最完整的类 Lucene 语法解析器和序列化器,同时也是一个兼容的内存搜索引擎。

Liqe 的用例包括:

  • 解析搜索查询
  • 序列化解析后的查询
  • 使用 Liqe 查询语言 (LQL) 搜索 JSON 文档

请注意,Liqe AST 被视为公共 API,即可以实现自己的搜索机制来使用 Liqe 查询语言 (LQL)。

使用方法

import { filter, highlight, parse, test, } from 'liqe'; const persons = [ { height: 180, name: 'John Morton', }, { height: 175, name: 'David Barker', }, { height: 170, name: 'Thomas Castro', }, ];

过滤集合:

filter(parse('height:>170'), persons); // [ // { // height: 180, // name: 'John Morton', // }, // { // height: 175, // name: 'David Barker', // }, // ]

测试单个对象:

test(parse('name:John'), persons[0]); // true test(parse('name:David'), persons[0]); // false

高亮匹配的字段和子字符串:

highlight(parse('name:john'), persons[0]); // [ // { // path: 'name', // query: /(John)/, // } // ] highlight(parse('height:180'), persons[0]); // [ // { // path: 'height', // } // ]

查询语法

Liqe 使用 Liqe 查询语言 (LQL),这种语言深受 Lucene 的启发,但在多个方面进行了扩展,以提供更强大的搜索体验。

Liqe 语法速查表

# 在文档中任何位置搜索 "foo" 这个词(不区分大小写) foo # 在文档中任何位置搜索 "foo" 这个词(区分大小写) 'foo' "foo" # 在 `name` 字段中搜索 "foo" 这个词 name:foo # 在 `full name` 字段中搜索 "foo" 这个词 'full name':foo "full name":foo # 在 `name` 的成员 `first` 字段中搜索 "foo" 这个词,即 # 匹配 {name: {first: 'foo'}} name.first:foo # 使用正则表达式搜索 name:/foo/ name:/foo/o # 使用通配符搜索 name:foo*bar name:foo?bar # 布尔值搜索 member:true member:false # null 值搜索 member:null # 搜索年龄 =, >, >=, <, <= height:=100 height:>100 height:>=100 height:<100 height:<=100 # 搜索身高范围(包含边界、不包含边界) height:[100 TO 200] height:{100 TO 200} # 布尔运算符 name:foo AND height:=100 name:foo OR name:bar # 一元运算符 NOT foo -foo NOT foo:bar -foo:bar name:foo AND NOT (bio:bar OR bio:baz) # 隐式 AND 布尔运算符 name:foo height:=100 # 分组 name:foo AND (bio:bar OR bio:baz)

关键词匹配

在任何字段中搜索单词 "foo"(不区分大小写)。

foo

name 字段中搜索单词 "foo"。

name:foo

搜索 name 字段值匹配 /foo/i 正则表达式。

name:/foo/i

搜索 name 字段值匹配 f*o 通配符模式。

name:f*o

搜索 name 字段值匹配 f?o 通配符模式。

name:f?o

name 字段中搜索短语 "foo bar"(区分大小写)。

name:"foo bar"

数字匹配

height 字段中搜索等于 100 的值。

height:=100

height 字段中搜索大于 100 的值。

height:>100

height 字段中搜索大于或等于 100 的值。

height:>=100

范围匹配

height 字段中搜索大于或等于 100 且小于或等于 200 的值。

height:[100 TO 200]

height 字段中搜索大于 100 且小于 200 的值。

height:{100 TO 200}

通配符匹配

name 字段中搜索以 "foo" 开头的任何单词。

name:foo*

name 字段中搜索以 "foo" 开头并以 "bar" 结尾的任何单词。

name:foo*bar

name 字段中搜索以 "foo" 开头,后跟一个任意字符的任何单词。

name:foo?

name 字段中搜索以 "foo" 开头,后跟一个任意字符,然后立即以 "bar" 结尾的任何单词。

name:foo?bar

布尔运算符

name 字段中搜索短语 "foo bar" 并且在 bio 字段中搜索短语 "quick fox"。

name:"foo bar" AND bio:"quick fox"

name 字段中搜索短语 "foo bar" 并且在 bio 字段中搜索短语 "quick fox",或者在 name 字段中搜索单词 "fox"。

(name:"foo bar" AND bio:"quick fox") OR name:fox

序列化器

序列化器允许将 Liqe 标记转换回原始搜索查询。

import { parse, serialize, } from 'liqe'; const tokens = parse('foo:bar'); // { // expression: { // location: { // start: 4, // }, // quoted: false, // type: 'LiteralExpression', // value: 'bar', // }, // field: { // location: { // start: 0, // }, // name: 'foo', // path: ['foo'], // quoted: false, // type: 'Field', // }, // location: { // start: 0, // }, // operator: { // location: { // start: 3, // }, // operator: ':', // type: 'ComparisonOperator', // }, // type: 'Tag', // } serialize(tokens); // 'foo:bar'

AST

import { type BooleanOperatorToken, type ComparisonOperatorToken, type EmptyExpression, type FieldToken, type ImplicitBooleanOperatorToken, type ImplicitFieldToken, type LiteralExpressionToken, type LogicalExpressionToken, type RangeExpressionToken, type RegexExpressionToken, type TagToken, type UnaryOperatorToken, } from 'liqe';

有 11 种 AST 标记用于描述已解析的 Liqe 查询。

如果你正在构建序列化器,那么你必须实现所有这些标记,以全面覆盖所有可能的查询输入。请参考 内置序列化器 作为示例。

实用工具

import { isSafeUnquotedExpression, } from 'liqe'; /** * 判断表达式是否需要引号。 * 如果你需要在使用序列化器将查询转换回文本之前 * 以编程方式操作 AST,请使用此函数。 */ isSafeUnquotedExpression(expression: string): boolean;

与 Lucene 的兼容性

不支持以下 Lucene 功能:

使用示例

处理语法错误

如果出现语法错误,Liqe 会抛出 SyntaxError

import { parse, SyntaxError, } from 'liqe'; try { parse('foo bar'); } catch (error) { if (error instanceof SyntaxError) { console.error({ // 第 1 行第 5 列出现语法错误 message: error.message, // 4 offset: error.offset, // 1 line: error.line, // 5 column: error.column, }); } else { throw error; } }

高亮匹配项

考虑使用 highlight-words 包来高亮 Liqe 匹配项。

开发

编译解析器

如果你要修改解析器,请使用 npm run watch 在监视模式下运行编译器。

对更改进行基准测试

在进行任何更改之前,使用 npm run benchmark 在你的机器上捕获当前的基准测试结果。进行更改后再次运行基准测试。在提交更改之前,确保性能没有受到负面影响。

教程

编辑推荐精选

讯飞智文

讯飞智文

一键生成PPT和Word,让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级,全面对标OpenAI o1

科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。

Trae

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
咔片PPT

咔片PPT

AI助力,做PPT更简单!

咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
材料星

材料星

专业的AI公文写作平台,公文写作神器

AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。

openai-agents-python

openai-agents-python

OpenAI Agents SDK,助力开发者便捷使用 OpenAI 相关功能。

openai-agents-python 是 OpenAI 推出的一款强大 Python SDK,它为开发者提供了与 OpenAI 模型交互的高效工具,支持工具调用、结果处理、追踪等功能,涵盖多种应用场景,如研究助手、财务研究等,能显著提升开发效率,让开发者更轻松地利用 OpenAI 的技术优势。

Hunyuan3D-2

Hunyuan3D-2

高分辨率纹理 3D 资产生成

Hunyuan3D-2 是腾讯开发的用于 3D 资产生成的强大工具,支持从文本描述、单张图片或多视角图片生成 3D 模型,具备快速形状生成能力,可生成带纹理的高质量 3D 模型,适用于多个领域,为 3D 创作提供了高效解决方案。

3FS

3FS

一个具备存储、管理和客户端操作等多种功能的分布式文件系统相关项目。

3FS 是一个功能强大的分布式文件系统项目,涵盖了存储引擎、元数据管理、客户端工具等多个模块。它支持多种文件操作,如创建文件和目录、设置布局等,同时具备高效的事件循环、节点选择和协程池管理等特性。适用于需要大规模数据存储和管理的场景,能够提高系统的性能和可靠性,是分布式存储领域的优质解决方案。

下拉加载更多