最佳Github AI工具与开源项目集锦

model.nvim: 强大的Neovim AI模型交互插件

model.nvim: 强大的Neovim AI模型交互插件

model.nvim是一个功能丰富的Neovim插件,允许用户与各种AI模型进行交互,实现代码补全、对话等功能。它支持多种AI提供商,可自定义提示,并提供流式响应等特性,是Neovim用户增强编辑体验的理想选择。

model.nvimOpenAI ChatGPTNeovimluacompletionGithub开源项目
ChatLLM.cpp: 高效的CPU大语言模型推理框架

ChatLLM.cpp: 高效的CPU大语言模型推理框架

ChatLLM.cpp是一个纯C++实现的大语言模型推理框架,支持多种模型在CPU上进行实时对话,具有内存效率高、支持量化推理等特点。

ChatLLM.cppggmlGPT模型量化模型CPU推理Github开源项目
LLM规划能力研究进展与应用前景

LLM规划能力研究进展与应用前景

本文全面综述了大型语言模型(LLM)在规划能力方面的最新研究进展,探讨了LLM规划的关键技术、典型应用以及未来发展趋势,为研究人员和开发者提供了深入的洞察和参考。

LLM计划能力规划Embodied Agents非监督学习Github开源项目
推荐系统预训练模型论文列表 - 从传统方法到大语言模型的演进

推荐系统预训练模型论文列表 - 从传统方法到大语言模型的演进

本文综述了推荐系统领域预训练模型的发展历程,涵盖了从早期的序列推荐到最新的大语言模型应用,为研究人员提供了全面的文献参考。

Recommend System预训练模型大语言模型数据集用户表示预训练Github开源项目
活字3.0:专为中文设计的高性能通用大模型

活字3.0:专为中文设计的高性能通用大模型

活字3.0是由哈尔滨工业大学社会计算与信息检索研究中心推出的最新中文大语言模型,基于稀疏混合专家结构,具有强大的中英文知识和推理能力,支持32K上下文,在多个评测基准上展现出卓越性能。

活字通用大模型活字3.0HIT-SCIR自然语言处理中文MT-BenchGithub开源项目
EmbedchainJS: 轻松创建基于任意数据集的LLM驱动聊天机器人

EmbedchainJS: 轻松创建基于任意数据集的LLM驱动聊天机器人

EmbedchainJS是一个强大的JavaScript框架,让开发者能够快速构建基于大型语言模型(LLM)的聊天机器人,可以处理任意类型的数据集。本文深入介绍了EmbedchainJS的特性、工作原理及使用方法。

embedchainjsChromaOpenAINaval RavikantChatbotGithub开源项目
Funcchain: 革新Python认知系统开发的利器

Funcchain: 革新Python认知系统开发的利器

Funcchain是一个创新的Python库,它通过结合Pydantic模型和Langchain后端,为开发者提供了一种更加Pythonic的方式来构建认知系统,实现了LLMs与应用程序的无缝集成。

funcchainlangchainpydanticOpenAI FunctionsLlamaCppGithub开源项目
ComfyUI VLM节点:集成视觉语言模型和大型语言模型的强大工具

ComfyUI VLM节点:集成视觉语言模型和大型语言模型的强大工具

ComfyUI VLM节点是一个功能强大的扩展,它将视觉语言模型(VLM)和大型语言模型(LLM)集成到ComfyUI框架中,为AI艺术创作提供了丰富的功能,包括图像描述、提示生成、音乐创作等。

VLM NodesLLaVaImage to MusicChatMusicianInternLM-XComposer2Github开源项目
Instruct2Act: 革命性的多模态指令到机器人动作映射框架

Instruct2Act: 革命性的多模态指令到机器人动作映射框架

Instruct2Act是一个创新的框架,利用大型语言模型将多模态指令映射为机器人的连续动作序列,实现了从高级指令到精确策略代码的转换,为通用机器人操作系统开辟了新的可能性。

Instruct2Act多模态指令机器人操控大型语言模型零样本方法Github开源项目
lmstudio.js: 强大的TypeScript/JavaScript SDK助力本地LLM开发

lmstudio.js: 强大的TypeScript/JavaScript SDK助力本地LLM开发

lmstudio.js是一个开源的TypeScript/JavaScript SDK,为开发者提供了在应用程序中使用本地大语言模型(LLM)的便捷方式。它支持模型加载、文本生成、对话等功能,并提供了丰富的API和示例,助力开发者快速集成和使用本地LLM。

lmstudio.jsNode.jsLLM安装API使用Github开源项目
EdgenAI:本地化的AI服务器,OpenAI的替代方案

EdgenAI:本地化的AI服务器,OpenAI的替代方案

EdgenAI是一个革命性的本地化GenAI平台,为企业和开发者提供私密、可监控的AI代理服务。它不仅是OpenAI API的替代品,还支持多种AI模型和功能,无需GPU即可在本地运行,为生产力驱动的公司带来全新的AI解决方案。

EdgenGenAIOpenAI模型缓存本地运行Github开源项目
Local LLM Function Calling: 让本地大语言模型具备函数调用能力

Local LLM Function Calling: 让本地大语言模型具备函数调用能力

local-llm-function-calling是一个创新的开源项目,它为本地大语言模型赋予了类似OpenAI函数调用的能力,通过JSON Schema约束模型输出,实现精确的数据提取和格式化。本文深入介绍了该项目的特性、使用方法和扩展性,为开发者提供了在本地环境下实现AI函数调用的强大工具。

local-llm-function-callingHugging FaceJSON schematext generationGeneratorGithub开源项目
AIKit: 构建、微调和部署开源大语言模型的强大工具

AIKit: 构建、微调和部署开源大语言模型的强大工具

AIKit是一个全面的平台,可以让用户快速开始托管、部署、构建和微调大型语言模型(LLMs)。它提供了灵活的推理和微调功能,支持多种模型格式,并具有易用的声明式配置、多模态支持、图像生成等强大特性。无论是个人开发者还是企业用户,AIKit都能帮助你轻松驾驭AI技术的力量。

AIKitLocalAIOpenAI APIDockerKubernetesGithub开源项目
Ray 教育资源库:深入学习分布式计算框架

Ray 教育资源库:深入学习分布式计算框架

Ray 教育资源库是一套全面的实践培训材料,旨在帮助开发者学习如何使用 Ray 框架来扩展计算机视觉、自然语言处理和时间序列预测等工作负载。本文将详细介绍这个项目的内容、特点和应用场景。

Python教育材料Github开源项目Ray分布式计算机器学习
AgentLego: 增强大语言模型代理的多功能工具API库

AgentLego: 增强大语言模型代理的多功能工具API库

AgentLego是一个开源库,提供丰富的工具API来扩展和增强基于大型语言模型(LLM)的智能代理。它具有多模态扩展能力、灵活的工具接口、易于集成等特点,为LLM代理提供了强大的工具支持。

AgentLego大语言模型视觉感知图像生成语音处理Github开源项目
SimpleAI:一个易于部署的开源AI API替代方案

SimpleAI:一个易于部署的开源AI API替代方案

SimpleAI是一个自托管的AI API替代方案,专注于复制主要的大语言模型(LLM)端点,允许用户快速轻松地实验不同的AI模型,同时保持与OpenAI客户端的兼容性。

SimpleAIgRPCPython机器学习模型开源Github开源项目
llama-tokenizer-js:为LLaMA模型打造的高效JavaScript tokenizer

llama-tokenizer-js:为LLaMA模型打造的高效JavaScript tokenizer

llama-tokenizer-js是一个专为LLaMA语言模型设计的JavaScript tokenizer,可在浏览器端高效运行,支持准确的token计数,并兼容大多数基于LLaMA的模型。本文将深入介绍这个工具的特性、使用方法及其在NLP领域的重要性。

llama-tokenizer-jsJavaScriptLLaMAnpmtokenizerGithub开源项目
高效向量相似度计算:Fast Vector Similarity Library 深度解析

高效向量相似度计算:Fast Vector Similarity Library 深度解析

Fast Vector Similarity Library 是一个高性能的向量相似度计算库,提供多种相似度度量方法和引导重采样技术,适用于数据分析、机器学习等领域。本文深入介绍该库的特性、实现原理及应用场景。

Fast Vector Similarity Library相似性度量文本嵌入高维数据Python绑定Github开源项目
ps-fuzz:一款强大的生成式AI应用安全测试工具

ps-fuzz:一款强大的生成式AI应用安全测试工具

ps-fuzz是一个由Prompt Security开发的开源工具,用于评估和加强生成式AI应用的系统提示(system prompt)安全性。它能够模拟各种LLM攻击,帮助开发者识别和修复潜在的安全漏洞,从而打造更安全可靠的AI应用。

Prompt FuzzerGenAI安全评估动态测试LLMGithub开源项目
Beta9: 开放式无服务器GPU云平台

Beta9: 开放式无服务器GPU云平台

Beta9是一个革命性的开源项目,旨在为开发者提供易于使用的无服务器GPU云计算平台。它支持在云端GPU上运行Python函数,自动扩展资源,并为AI工作负载提供优化。本文深入介绍了Beta9的特性、工作原理及使用方法。

Beta9服务器无服务平台AI团队云GPUPyhton函数运行Github开源项目