text-embeddings-inference

text-embeddings-inference

快速上手Ai理论及应用实战

Text Embeddings Inference 为文本嵌入模型提供高效的推理服务,支持多种模型配置,适合AI及深度学习需求。快速部署和卓越的服务器级性能使其成为企业和研究机构面对大规模文本处理和复杂查询时的理想选择,支持包括 [BERT](https://link-to-bert) 和 [RoBERTa](https://link-to-roberta) 在内的多种模型,并兼容 Docker 和完备的 API 文档。

text-embeddings-inferenceBERTDocker模型部署API文档Github开源项目

项目介绍:Text Embeddings Inference

Text Embeddings Inference(简称TEI)是一个用于部署和服务开源文本嵌入及序列分类模型的工具包。它能够高效地提取流行模型,如FlagEmbedding、Ember、GTE和E5的嵌入,实现了快速推断等多项功能。

项目特点

  • 无需模型图编译:此工具包无需进行模型图编译,简化了使用步骤。
  • 本地执行支持:支持在Mac设备上通过Metal进行本地执行。
  • 轻量级Docker镜像:启动速度快,适合真正意义上的无服务器环境。
  • 基于Token的动态批处理:采用动态批处理,优化计算效率。
  • 优化推断代码:通过Flash Attention、Candle和cuBLASLt对Transformers进行推断优化。
  • Safetensors权重加载:利用Safetensors进行权重加载,提升安全性和效率。
  • 工业级准备:支持Open Telemetry分布式追踪与Prometheus指标,满足生产环境需要。

支持的模型

文本嵌入模型

TEI目前支持包括Nomic、BERT、CamemBERT、XLM-RoBERTa等多种模型。这些模型在不同体量和类型中表现优异,例如:

  • Mistral(Salesforce/SFR-Embedding-2_R)
  • Qwen2(Alibaba-NLP/gte-Qwen2-7B-instruct)
  • Bert(WhereIsAI/UAE-Large-V1)
  • XLM-RoBERTa(intfloat/multilingual-e5-large-instruct)

更多关于最佳文本嵌入模型的详细信息可以参阅MTEB排行榜

序列分类与再排序模型

TEI还支持CamemBERT和XLM-RoBERTa的序列分类模型,包括用于情感分析和再排序任务的模型,例如:

  • 再排序:XLM-RoBERTa(BAAI/bge-reranker-large)
  • 情感分析:RoBERTa(SamLowe/roberta-base-go_emotions)

使用指南

Docker使用

用户可以通过Docker轻松部署模型。以下是一个简单的使用实例:

model=BAAI/bge-large-en-v1.5 volume=$PWD/data docker run --gpus all -p 8080:80 -v $volume:/data --pull always ghcr.io/huggingface/text-embeddings-inference:1.5 --model-id $model

注意:要使用GPU,需要安装NVIDIA Container Toolkit,并确保NVIDIA驱动程序与CUDA 12.2版本或更高版本兼容。

本地安装

用户也可以选择在本地安装TEI:

  1. 安装Rust:
    curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
  2. 根据机器架构安装TEI:
    • 在x86上:
      cargo install --path router -F mkl
    • 在M1或M2上:
      cargo install --path router -F metal

API文档

详细的API文档可以通过/docs路径访问,或者在线查看Swagger UI

示例与更多信息

TEI提供了一系列示例来帮助用户更好地理解和应用此工具包,例如:

  • 如何通过TEI设置推断端点
  • 如何在RAG容器中使用TEI

Text Embeddings Inference通过其高效的部署能力和多种支持功能,为用户提供了一个强大且灵活的文本处理解决方案。无论是在科研环境还是生产应用中,TEI都能以其出色的性能和易用性,成为文本嵌入和分类任务的理想选择。

编辑推荐精选

Vora

Vora

免费创建高清无水印Sora视频

Vora是一个免费创建高清无水印Sora视频的AI工具

Refly.AI

Refly.AI

最适合小白的AI自动化工作流平台

无需编码,轻松生成可复用、可变现的AI自动化工作流

酷表ChatExcel

酷表ChatExcel

大模型驱动的Excel数据处理工具

基于大模型交互的表格处理系统,允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令,自动执行排序、公式计算和数据透视等操作,支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内,支持超过100万行数据的即时分析。

AI工具酷表ChatExcelAI智能客服AI营销产品使用教程
TRAE编程

TRAE编程

AI辅助编程,代码自动修复

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
AIWritePaper论文写作

AIWritePaper论文写作

AI论文写作指导平台

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

AI辅助写作AI工具AI论文工具论文写作智能生成大纲数据安全AI助手热门
博思AIPPT

博思AIPPT

AI一键生成PPT,就用博思AIPPT!

博思AIPPT,新一代的AI生成PPT平台,支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等,内置海量精美PPT模板,涵盖商务、教育、科技等不同风格,同时针对每个页面提供多种版式,一键自适应切换,完美适配各种办公场景。

AI办公办公工具AI工具博思AIPPTAI生成PPT智能排版海量精品模板AI创作热门
潮际好麦

潮际好麦

AI赋能电商视觉革命,一站式智能商拍平台

潮际好麦深耕服装行业,是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌,以及国内10万+淘宝、天猫、京东等主流平台的品牌商家,为卖家节省将近85%的出图成本,提升约3倍出图效率,让品牌能够快速上架。

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌,基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构,帮助企业扫清合规障碍,筑牢风控防线,成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案,助力品牌曝光

稳定高效的流量提升解决方案,助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用,一键生成无水印视频

最新版Sora2模型免费使用,一键生成无水印视频

下拉加载更多