大语言模型:精选AI工具、网站与开源项目

大语言模型

EdgeChains

EdgeChains

EdgeChainsjsonnet

为大型语言模型打造的开源链式思维框架

ML-Bench

ML-Bench

ML-Bench机器学习任务

评测大型语言模型和代理在代码库级机器学习任务上的效果

laser

laser

Layer-Selective Rank ReductionLASER

层选择低秩化技术提升语言模型推理能力

xllm

xllm

X—LLM大语言模型

便捷微调大语言模型,集成最新优化技术

langchain-examples

langchain-examples

LangChain大语言模型

LangChain框架多功能AI应用示例

NeMo-Curator

NeMo-Curator

NeMo CuratorGPU加速

提供GPU加速的大型语言模型数据集优化与管理解决方案

large_language_model_training_playbook

large_language_model_training_playbook

LLM Training Playbook大语言模型

大规模语言模型训练指南与实用技巧

llama-cpp-agent

llama-cpp-agent

llama-cpp-agent大语言模型

简化与大规模语言模型交互的开源工具框架

oatmeal

oatmeal

Oatmeal大语言模型

终端用户界面聊天工具,支持多种大型语言模型

ontogpt

ontogpt

OntoGPT信息提取

基于大语言模型的结构化信息提取Python包

MobiLlama

MobiLlama

MobiLlama大语言模型

为资源受限设备提供高效的小型语言模型

mindnlp

mindnlp

MindNLP自然语言处理

开源自然语言处理与大语言模型框架

SqueezeLLM

SqueezeLLM

SqueezeLLM量化

硬件资源优化下的大语言模型量化服务

OmniQuant

OmniQuant

OmniQuant量化

简便高效的大型语言模型量化技术

llmflows

llmflows

LLMFlows框架

用于构建透明和简化的LLM应用建设的LLMFlows框架

ModelCache

ModelCache

Codefuse-ModelCache语义缓存

优化大型语言模型响应的语义缓存工具

torchchat

torchchat

torchchatPython

使用Python和C/C++运行大型语言模型的轻量化实现

api-for-open-llm

api-for-open-llm

OpenAI ChatGPT API大语言模型

开源大模型的统一后端接口

Gepetto

Gepetto

GepettoIDA Pro

AI大语言模型增强IDA Pro的函数反编译功能的Python插件

phasellm

phasellm

PhaseLLM大语言模型

探索和评估大型语言模型的框架