最佳Github AI工具与开源项目集锦

TokenCost: 轻松估算400多种大语言模型的token价格

TokenCost: 轻松估算400多种大语言模型的token价格

TokenCost是一个开源工具,可以帮助开发者轻松估算400多种大语言模型的token使用成本,支持OpenAI、Anthropic、Google等主流AI公司的模型,是AI应用开发中不可或缺的成本控制工具。

TokenCost大型语言模型API成本计算代币计数集成Github开源项目
LangChain-Serve: 轻松部署LangChain应用到生产环境

LangChain-Serve: 轻松部署LangChain应用到生产环境

LangChain-Serve是一个强大的工具,可以帮助开发者快速将LangChain应用部署到生产环境中,提供了REST API、WebSocket、Slack机器人等多种部署方式,并支持Jina AI Cloud和自托管等灵活的部署选项。

langchain-serveJina AI CloudAI应用部署LLMAPI授权Github开源项目
LISA: 基于大语言模型的推理分割助手

LISA: 基于大语言模型的推理分割助手

LISA是一个创新的图像分割模型,它结合了多模态大语言模型的语言生成能力和图像分割能力,可以处理复杂推理、世界知识、解释性回答和多轮对话等任务。本文详细介绍了LISA的原理、特点、训练方法和应用场景。

LISA分割掩码大语言模型推理分割多模态Github开源项目
Awesome-LLM-Inference: 大型语言模型推理技术的最新进展

Awesome-LLM-Inference: 大型语言模型推理技术的最新进展

本文介绍了GitHub上的Awesome-LLM-Inference项目,该项目汇集了大型语言模型(LLM)推理技术的最新进展,包括量化压缩、注意力机制优化、KV缓存调度等多个方面,为研究人员和工程师提供了宝贵的参考资源。

Awesome-LLM-Inference模型训练模型推理算法优化量化压缩Github开源项目
TigerBot: 开源多语言大规模语言模型的新星

TigerBot: 开源多语言大规模语言模型的新星

TigerBot是一个由虎博科技开发的开源多语言大规模语言模型,具有强大的中英文能力。本文详细介绍了TigerBot的发展历程、主要特点、模型系列以及应用场景,展现了其在开源AI领域的重要地位。

TigerBot大模型中文能力技术报告模型更新Github开源项目
LLMDataHub: 大型语言模型训练数据集的综合指南

LLMDataHub: 大型语言模型训练数据集的综合指南

本文全面介绍了LLMDataHub项目,这是一个收集和整理用于训练大型语言模型的高质量数据集的开源项目。文章详细阐述了项目的目标、主要数据集类型、重要数据集的特点,以及如何利用这些资源来改进语言模型的能力。

LLMDataHub数据集大语言模型开源社区聊天机器人Github开源项目
llama2-webui: 本地部署Llama 2模型的开源UI工具

llama2-webui: 本地部署Llama 2模型的开源UI工具

llama2-webui是一个开源项目,可以让用户在本地GPU或CPU上轻松部署和使用Llama 2大语言模型。它提供了友好的Web界面,支持多种Llama 2模型和后端,是一个功能强大而灵活的Llama 2本地部署工具。

Llama-2模型llama2-wrapperGPU加速生成文本API兼容性Github开源项目
Data-Juicer: 为大模型提供更高质量、更丰富、更易"消化"的数据

Data-Juicer: 为大模型提供更高质量、更丰富、更易"消化"的数据

Data-Juicer是一个一站式数据处理系统,旨在为大语言模型和多模态模型提供更高质量、更丰富、更易"消化"的训练数据。本文将详细介绍Data-Juicer的功能特性、使用方法及其在AI模型训练中的重要作用。

Data-Juicer多模态数据处理大规模语言模型数据模型协同开发数据处理Github开源项目
LangServe: 部署LangChain应用的最佳方式

LangServe: 部署LangChain应用的最佳方式

LangServe是一个强大的工具,可以帮助开发者轻松地将LangChain应用部署为REST API。本文将详细介绍LangServe的特性、使用方法以及最佳实践。

LangServeFastAPIPythonAPILangChainGithub开源项目
InternLM-XComposer: 突破视觉语言大模型的新境界

InternLM-XComposer: 突破视觉语言大模型的新境界

InternLM-XComposer是一个创新的视觉语言大模型,在文本-图像理解和生成方面展现出卓越能力。本文将深入介绍InternLM-XComposer的核心特性、技术创新和广泛应用场景。

InternLM-XComposer-2.5多模态大语言模型高分辨率图像理解多回合多图对话网页制作Github开源项目
Sparrow:创新的数据处理解决方案 - 结合机器学习和大语言模型的开源项目

Sparrow:创新的数据处理解决方案 - 结合机器学习和大语言模型的开源项目

Sparrow是一个开源项目,旨在通过机器学习和大语言模型技术高效地从各种文档和图像中提取和处理数据。它具有模块化架构,提供独立的服务和管道,并支持可插拔的数据提取管道,为用户提供灵活、强大的数据处理解决方案。

Sparrow数据提取LLMOCRRAG管道Github开源项目
X-AnyLabeling: 革新数据标注的智能工具

X-AnyLabeling: 革新数据标注的智能工具

X-AnyLabeling是一款集成了先进AI引擎的强大标注工具,为计算机视觉工程师提供工业级解决方案,大幅提升数据标注效率。

X-AnyLabeling人工智能标注模型支持图像识别视频处理Github开源项目
LongLoRA: 高效微调长上下文大语言模型

LongLoRA: 高效微调长上下文大语言模型

LongLoRA是一种创新的微调方法,可以高效地扩展预训练大语言模型的上下文长度,同时保持较低的计算成本。本文详细介绍了LongLoRA的工作原理、主要特点以及在各种任务上的出色表现。

LongAlpaca长上下文语言模型LLaMA2LoRA深度学习Github开源项目
DecryptPrompt: 探索人工智能的前沿 - Prompt工程与大语言模型的综合指南

DecryptPrompt: 探索人工智能的前沿 - Prompt工程与大语言模型的综合指南

深入解析DecryptPrompt项目,全面介绍Prompt工程、大语言模型论文、开源数据与模型,以及AIGC应用,为AI爱好者和研究者提供宝贵的学习资源。

解密Prompt系列LLM指令微调大模型AI应用Github开源项目
PowerInfer: 消费级GPU上的高速大语言模型推理引擎

PowerInfer: 消费级GPU上的高速大语言模型推理引擎

PowerInfer是一个创新的大语言模型推理引擎,能够在配备单个消费级GPU的个人电脑上实现高速推理。它通过利用LLM推理中的高局部性,设计了GPU-CPU混合推理引擎,显著提高了推理速度,同时保持了模型精度。

PowerInfer大语言模型GPU加速混合CPU/GPU使用局部性设计Github开源项目
NExT-GPT: 开创多模态人工智能新纪元的任意模态转换系统

NExT-GPT: 开创多模态人工智能新纪元的任意模态转换系统

NExT-GPT是一个突破性的多模态大语言模型,能够实现任意模态之间的转换,包括文本、图像、视频和音频。它通过创新的架构设计和训练方法,实现了低成本、高效能的多模态交互,为人工智能向更加通用和人性化的方向发展开辟了新的道路。

NExT-GPT多模态LLM多模态编码语言模型端到端学习Github开源项目
生成式AI的发展历程与未来展望

生成式AI的发展历程与未来展望

本文梳理了生成式AI的发展历程,探讨了当前面临的挑战与机遇,并对未来发展趋势进行了展望。

Generative AI人工智能大型语言模型在线教程技术文章Github开源项目
Mistral.rs: 高性能LLM推理平台的革新之作

Mistral.rs: 高性能LLM推理平台的革新之作

Mistral.rs是一个快速、灵活的大语言模型推理平台,支持多种设备、量化和易用的API,为AI应用开发提供了强大的工具。

mistral.rsLLM推理模型量化Python APIHTTP服务器Github开源项目
OpenAgents: 开放式语言智能体平台的革新之作

OpenAgents: 开放式语言智能体平台的革新之作

OpenAgents是一个开放的语言智能体平台,旨在将语言智能体技术应用于日常生活场景。它包含三个核心智能体:数据分析智能体、插件智能体和网页浏览智能体,为用户提供了强大的数据处理、任务执行和网页交互能力。

OpenAgentsWeb AgentPlugins AgentData Agent语言智能代理Github开源项目
AgentScope:一个强大而灵活的多智能体应用开发平台

AgentScope:一个强大而灵活的多智能体应用开发平台

AgentScope是一个创新的多智能体平台,旨在帮助开发者更轻松地构建基于大规模语言模型的多智能体应用。它具有易用性、高鲁棒性和分布式能力三大特点,为开发者提供了全面的工具和框架来构建复杂的多智能体系统。

AgentScope多智能体应用大规模模型分布式APIGithub开源项目