最佳LLM工具集合:高效AI解决方案推荐

ChatPDF

ChatPDF

ChatPDFLLM

本地LLM驱动的全能文件检索与问答系统

generative-ai-use-cases-jp

generative-ai-use-cases-jp

生成AILLM

探索生成AI如何助力企业业务转型与创新

llm-graph-builder

llm-graph-builder

Knowledge GraphNeo4j

使用大型语言模型从非结构化数据中构建知识图谱

intel-extension-for-transformers

intel-extension-for-transformers

Intel Extension for Transformers量化推理

提升GenAI与LLM模型性能的先进工具包

awesome-llm-apps

awesome-llm-apps

LLMRAG

精选RAG与AI代理的多功能LLM应用

gpu_poor

gpu_poor

GPU memoryLLM

LLM运行所需GPU内存及每秒处理Token数计算工具

bedrock-claude-chat

bedrock-claude-chat

Bedrock Claude ChatAmazon Bedrock

使用Anthropic Claude模型和Amazon Bedrock构建智能聊天机器人

Awesome-LLM-RAG

Awesome-LLM-RAG

Awesome-LLM-RAGRAG

LLM检索增强生成技术最新研究与应用

oss-fuzz-gen

oss-fuzz-gen

OSS-FuzzLLM

使用AI生成并评估C/C++项目的模糊测试目标

lunary

lunary

lunaryLLM

开源LLM应用的可观测性、提示管理和评估工具

autollm

autollm

AutoLLMLLM

统一API的高效LLM应用开发解决方案

fastRAG

fastRAG

fastRAGHaystack

检索增强生成模型的构建与应用探索

garak

garak

garakLLM

生成式AI漏洞检测工具,评估语言模型安全性

ray-llm

ray-llm

Ray ServeRayLLM

简化LLM部署,利用Ray Serve和vLLM实现高效性能

aigc

aigc

LLM软件开发

大语言模型的实际应用与架构设计解析

maxtext

maxtext

MaxTextTPU

高性能与可扩展的开源大模型解决方案,支持TPUs与GPUs

kor

kor

KorLangChain

利用LLM高效提取文本结构化数据

LlamaIndexTS

LlamaIndexTS

LlamaIndexLLM

轻量级TS/JS库,简化自定义数据与大型语言模型的整合

llm_interview_note

llm_interview_note

LLM大语言模型

大模型面试知识与实用资源汇总

magentic

magentic

magenticPython

将大型语言模型集成至Python代码