大语言模型:精选AI工具、网站与开源项目

大语言模型

OmniQuant入门学习资料-Omnidirectionally Calibrated Quantization for LLMs

OmniQuant入门学习资料-Omnidirectionally Calibrated Quantization for LLMs

OmniQuant是一种针对大语言模型的全方位校准量化技术,本文汇总了OmniQuant项目的相关学习资源,帮助读者快速入门和了解这项技术。

OmniQuant量化大语言模型LLaMA高效QATGithub开源项目
SqueezeLLM学习资料汇总 - 高效压缩大语言模型的开源项目

SqueezeLLM学习资料汇总 - 高效压缩大语言模型的开源项目

SqueezeLLM是一个用于压缩大语言模型的开源项目,通过密集-稀疏量化方法实现高效推理。本文汇总了SqueezeLLM的相关学习资料,帮助读者快速了解和使用这一技术。

SqueezeLLM量化大语言模型内存优化模型压缩Github开源项目
LLMFlows入门学习资料汇总 - 简单透明的LLM应用开发框架

LLMFlows入门学习资料汇总 - 简单透明的LLM应用开发框架

LLMFlows是一个用于构建简单、明确和透明的大语言模型(LLM)应用程序的框架。本文汇总了LLMFlows的各类学习资源,帮助开发者快速入门和深入了解这个强大的LLM应用开发工具。

LLMFlows框架大语言模型应用透明性Github开源项目
ModelCache学习资料汇总 - 大语言模型语义缓存系统

ModelCache学习资料汇总 - 大语言模型语义缓存系统

ModelCache是一个针对大语言模型(LLM)的语义缓存系统,通过缓存预生成的模型结果来减少相似请求的响应时间,提升用户体验。本文汇总了ModelCache项目的各类学习资料,帮助读者快速了解和上手这个开源项目。

Codefuse-ModelCache语义缓存大语言模型多租户嵌入模型Github开源项目
torchchat入门指南 - PyTorch推出的本地LLM运行解决方案

torchchat入门指南 - PyTorch推出的本地LLM运行解决方案

本文介绍了PyTorch最新推出的torchchat项目,这是一个可以在本地服务器、桌面和移动设备上运行大型语言模型的解决方案。文章总结了torchchat的主要功能、安装步骤、使用方法以及支持的模型等关键信息。

torchchatPython大语言模型PyTorch模型部署Github开源项目
PhaseLLM学习资料汇总-大型语言模型评估和工作流框架

PhaseLLM学习资料汇总-大型语言模型评估和工作流框架

PhaseLLM是来自Phase AI的大型语言模型评估和工作流框架,提供了标准化API调用、评估框架和自动化功能,帮助开发者更轻松地构建和测试基于LLM的产品和体验。

PhaseLLM大语言模型性能评估API集成开源Github开源项目
rtp-llm学习资料汇总 - 阿里巴巴高性能LLM推理引擎

rtp-llm学习资料汇总 - 阿里巴巴高性能LLM推理引擎

本文汇总了rtp-llm项目的各类学习资源,包括官方文档、教程、示例代码等,帮助开发者快速上手这个高性能的LLM推理框架。

rtp-llm大语言模型CUDA量化多模态输入Github开源项目
Awesome-LLM-Reasoning学习资料汇总 - 大语言模型推理能力研究资源合集

Awesome-LLM-Reasoning学习资料汇总 - 大语言模型推理能力研究资源合集

本文整理了Awesome-LLM-Reasoning项目中的大量资源,为想要学习和研究大语言模型推理能力的读者提供了一个全面的入门指南。文章涵盖了相关论文、代码实现、数据集等多方面内容,是该领域的重要参考资料。

大语言模型推理能力技术进展Awesome LLM Reasoning多模态推理Github开源项目
Baichuan2学习资料汇总 - 开源大语言模型的新一代佼佼者

Baichuan2学习资料汇总 - 开源大语言模型的新一代佼佼者

Baichuan2是百川智能推出的新一代开源大语言模型,在多个权威中英文基准测试中表现优异。本文汇总了Baichuan2的介绍、评测结果、使用方法等学习资料,帮助读者快速了解和上手这个强大的模型。

Baichuan 2大语言模型开源模型微调推理和部署Github开源项目
lagent入门学习资料 - 轻量级LLM智能体框架

lagent入门学习资料 - 轻量级LLM智能体框架

lagent是一个开源的轻量级LLM智能体框架,本文汇总了lagent的学习资料和相关资源,帮助读者快速入门和使用lagent构建基于大语言模型的智能体。

Lagent大语言模型开源智能代理流式输出Github开源项目
LLMAgentPapers 学习资料汇总 - 大语言模型智能体研究最新进展

LLMAgentPapers 学习资料汇总 - 大语言模型智能体研究最新进展

本文汇总了LLMAgentPapers项目的相关学习资源,包括项目介绍、论文列表、研究方向等,为对大语言模型智能体感兴趣的读者提供了全面的入门指南。

LLM Agents Papers大语言模型知识编辑智能代理Prompt4ReasoningPapersGithub开源项目
LISA学习资源汇总 - 基于大语言模型的推理分割助手

LISA学习资源汇总 - 基于大语言模型的推理分割助手

本文汇总了LISA(Large Language Instructed Segmentation Assistant)项目的各种学习资源,包括项目介绍、论文、代码、数据集、模型等,帮助读者快速了解和上手这个基于大语言模型的图像分割推理系统。

LISA分割掩码大语言模型推理分割多模态Github开源项目
LLMDataHub入门指南 - 大型语言模型训练数据集汇总

LLMDataHub入门指南 - 大型语言模型训练数据集汇总

LLMDataHub是一个收集和整理用于训练大型语言模型的高质量数据集的开源项目。本文对该项目进行了全面介绍,并提供了丰富的学习资源链接,帮助读者快速了解和使用这些数据集。

LLMDataHub数据集大语言模型开源社区聊天机器人Github开源项目
PowerInfer学习资料汇总 - 消费级GPU上的高速大语言模型推理引擎

PowerInfer学习资料汇总 - 消费级GPU上的高速大语言模型推理引擎

PowerInfer是一个在消费级GPU上实现高速大语言模型推理的开源项目。本文汇总了PowerInfer的相关学习资源,包括项目介绍、安装使用、模型下载、性能评估等内容,帮助读者快速了解和上手PowerInfer。

PowerInfer大语言模型GPU加速混合CPU/GPU使用局部性设计Github开源项目
LLM-Agent-Paper-List:大语言模型智能体研究最新进展与学习资源汇总

LLM-Agent-Paper-List:大语言模型智能体研究最新进展与学习资源汇总

本文全面介绍了LLM-Agent-Paper-List项目,汇总了大语言模型智能体领域的最新研究进展和学习资源,为相关研究人员和开发者提供了宝贵的参考。

大语言模型人工智能AgentGymR3GitHub TrendingsGithub开源项目
Awesome-Chinese-LLM 中文大语言模型资源汇总 - 开源小型可私有化部署模型导航

Awesome-Chinese-LLM 中文大语言模型资源汇总 - 开源小型可私有化部署模型导航

本文整理了Awesome-Chinese-LLM项目的相关资源,包括开源中文大语言模型、底座模型、垂直领域微调及应用、数据集与教程等,为读者提供全面的中文LLM学习资料导航。

中文LLM大语言模型开源项目多轮对话可商用Github
GPTCache入门指南 - 高效LLM缓存框架

GPTCache入门指南 - 高效LLM缓存框架

GPTCache是一个开源的语义缓存框架,可以大幅提升LLM应用的性能和效率。本文介绍了GPTCache的基本概念、使用方法和主要特性,帮助开发者快速上手这一强大工具。

GPTCache缓存策略大语言模型API成本节约性能提升Github开源项目
A-Guide-to-Retrieval-Augmented-LLM学习资料汇总-一份全面的检索增强LLM指南

A-Guide-to-Retrieval-Augmented-LLM学习资料汇总-一份全面的检索增强LLM指南

本文为您整理了A-Guide-to-Retrieval-Augmented-LLM项目的学习资源,包括项目概述、关键模块介绍、实现方法等,帮助您快速了解和入门检索增强LLM技术。

检索增强LLM大语言模型信息检索长尾知识私有数据Github开源项目
awesome-azure-openai-llm学习资料汇总 - Azure OpenAI和大语言模型相关资源

awesome-azure-openai-llm学习资料汇总 - Azure OpenAI和大语言模型相关资源

本文汇总了Azure OpenAI Service和大语言模型(LLM)相关的学习资料,包括官方文档、开源项目、研究论文等,旨在帮助读者快速了解和学习这一领域的知识。

Azure OpenAI大语言模型语言模型训练信息检索API集成Github开源项目
Awesome-LLM-Long-Context-Modeling学习资料汇总 - 长文本建模相关资源分享

Awesome-LLM-Long-Context-Modeling学习资料汇总 - 长文本建模相关资源分享

本文汇总了大型语言模型(LLM)长文本建模相关的优质学习资源,包括论文、代码、博客等,帮助读者快速了解该领域的最新进展。

大语言模型长文本处理信息检索Transformer优化自然语言处理Github开源项目