值得探索的AI开源项目：工具、网站与应用合集
Paddler入门指南 - 专为llama.cpp设计的状态感知负载均衡器
Paddler是一款开源的、生产级别的状态感知负载均衡器和反向代理,专门为优化运行llama.cpp的服务器而设计。本文介绍了Paddler的主要特性、安装使用方法以及相关学习资源,帮助读者快速上手这个强大的工具。
Marlin入门学习资料 - 高性能LLM推理内核
Marlin是一个高度优化的FP16xINT4矩阵乘法内核,专为大语言模型(LLM)推理而设计,可在中等批量大小(16-32个token)下实现接近理想的4倍加速。本文汇总了Marlin项目的主要学习资源,帮助读者快速了解和使用这一强大工具。
RecAI学习资料汇总 - 利用大语言模型打造下一代推荐系统
RecAI是一个由微软开发的开源工具包，旨在利用大语言模型(LLMs)的先进能力来增强或革新推荐系统。本文汇总了RecAI项目的相关学习资源，帮助读者快速了解和上手这个创新的推荐系统框架。
LLMUnity入门指南 - 在Unity中集成大型语言模型的开源工具包
LLMUnity是一个开源工具包,可以让开发者轻松地在Unity游戏引擎中集成和使用大型语言模型(LLM)。本文介绍了LLMUnity的主要特性、安装使用方法、示例项目等内容,帮助开发者快速上手这个强大的工具。
Obsidian Copilot入门学习资料汇总 - AI驱动的写作与思考助手
Obsidian Copilot是一款强大的AI插件,旨在辅助Obsidian用户进行写作和思考。本文汇总了Obsidian Copilot的学习资源,帮助用户快速上手这个智能助手。
LLM-Code-Interpreter 学习资料汇总 - 为 ChatGPT 打造的超级代码解释器
LLM-Code-Interpreter 是一个强大的 ChatGPT 插件,可让 LLM 在沙 盒环境中运行任何代码,实现更强大的功能。本文汇总了该项目的相关学习资源,帮助读者快速入门。
LangChain入门指南 - 构建基于大语言模型的智能应用框架
本文全面介绍LangChain框架的学习资源，包括官方文档、GitHub仓库、教程文章等，助您快速入门这个强大的LLM应用开发工具。
instruct-eval入门指南 - 评估指令微调语言模型的系统化工具包
instruct-eval是一个用于评估指令微调语言模型的开源工具包,支持多种模型和任务的系统化评估,帮助研究人员更好地比较不同模型的性能。
ReLLM学习资料汇总 - 使用正则表达式提取LLM结构化输出的Python库
ReLLM是一个用于从语言模型中获取精确结构化输出的Python库。本文汇总了ReLLM的相关学习资料,包括官方文档、代码示例、教程等,帮助开发者快速上手使用ReLLM约束LLM生成结果。
qwen-free-api入门指南 - 阿里通义千问2.5大模型逆向API白嫖测试
本文为您详细介绍qwen-free-api项目，这是一个支持高速流式输出、无水印AI绘图、长文档解读、图像解析和多轮对话的阿里通义千问2.5大模型逆向API。文章包含项目特点、使用方法、相关资源等信息，帮助开发者快速上手并充分利用这一强大工具。
can-ai-code 入门学习资料 - AI编码能力自评测项目
can-ai-code 是一个用于评估 AI 模型编码能力的自评测项目。本文汇总了该项目的相关学习资源,包括项目介绍、核心思想、测试套件、仓库结构等内容,帮助读者快速了解和上手这个有趣的 AI 编码评测工具。
glm-free-api 入门学习资料 - 智谱清言 ChatGLM4 大模型逆向 API 白嫖测试
本文汇总了 glm-free-api 项目的学习资料，包括项目介绍、在线体验、效果示例、接入准备、部署方法、接口列表等，帮助开发者快速上手使用智谱清言 ChatGLM4 大模型的免费 API。
LLM-Shearing:加速大语言模型预训练的结构化剪枝方法 - 学习资料汇总
LLM-Shearing是一种通过结构化剪枝来加速大语言模型 预训练的方法,可以在保持模型性能的同时大幅降低训练成本。本文汇总了该项目的相关学习资料,帮助读者快速了解和使用LLM-Shearing。
Aqueduct学习资料汇总 - 开源MLOps框架
Aqueduct是一个开源MLOps框架,允许你在任何云基础设施上定义和部署机器学习和LLM工作负载。本文汇总了Aqueduct的主要学习资源,帮助读者快速上手这个强大的MLOps工具。
LM-reasoning学习资料汇总 - 大语言模型推理能力研究项目
LM-reasoning是一个收集和整理大语言模型推理能力相关论文和资源的GitHub项目,涵盖了思维链提示、指令微调、多模态推理等多个研究方向。
BAML学习资料汇总 - 专为LLM函数设计的模板语言
本文全面介绍了BAML项目及其学习资源，包括BAML的特性、安装使用方法、相关工具链等，为开发者提供了详细的入门指南。
Code Llama for VS Code入门指南 - 本地运行的AI编码助手
Code Llama for VS Code是一个基于Code Llama模型的VS Code扩展,可作为GitHub Copilot的本地替代方案。它允许开发者在本地机器上运行AI编码助手,无需将代码上传到云端,从而保护代码隐私和安全。
Azure OpenAI demos 学习资料汇总 - 探索Azure人工智能服务的强大功能
本文汇总了Azure OpenAI demos项目的丰富学习资源,包括各种演示、文档和加速器,帮助开发者快速上手和深入了解Azure OpenAI服务。
tensorflow-nlp-tutorial项目介绍 - TensorFlow自然语言处理入门教程
tensorflow-nlp-tutorial是一个使用TensorFlow 2.0+实现的自然语言处理教程项目,涵盖从文本预处理到主题模型、BERT、GPT等最新模型的下游任务。
RLHF-Reward-Modeling 学习资料汇总 - 训练RLHF奖励模型的开源工具包
RLHF-Reward-Modeling是一个用于训练强化学习中人类反馈(RLHF)奖励模型的开源项目。该项目提供了多种奖励模型的实现和训练方法,包括ArmoRM、配对偏好模型和Bradley-Terry模型等。通过使用这些模型和方法,可以更好地捕捉人类偏好,从而改进RLHF的效果。
推荐工具精选
AI云服务特惠
懂AI专属折扣关注微信公众号
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号