大语言模型
OmniQuant是一种针对大语言模型的全方位校准量化技术,本文汇总了OmniQuant项目的相关学习资源,帮助读者快速入门和了解这项技术。
SqueezeLLM是一个用于压缩大语言模型的开源项目,通过密集-稀疏量化方法实现高效推理。本文汇总了SqueezeLLM的相关学习资料,帮助读者快速了解和使用这一技术。
LLMFlows是一个用于构建简单、明确和透明的大语言模型(LLM)应用程序的框架。本文汇总了LLMFlows的各类学习资源,帮助开发者快速入门和深入了解这个强大的LLM应用开发工具。
ModelCache是一个针对大语言模型(LLM)的语义缓存系统,通过缓存预生成的模型结果来减少相似请求的响应时间,提升用户体验。本文汇总了ModelCache项目的各类学习资料,帮助读者快速了解和上手这个开源项目。
本文介绍了PyTorch最新推出的torchchat项 目,这是一个可以在本地服务器、桌面和移动设备上运行大型语言模型的解决方案。文章总结了torchchat的主要功能、安装步骤、使用方法以及支持的模型等关键信息。
PhaseLLM是来自Phase AI的大型语言模型评估和工作流框架,提供了标准化API调用、评估框架和自动化功能,帮助开发者更轻松地构建和测试基于LLM的产品和体验。
本文汇总了rtp-llm项目的各类学习资源,包括官方文档、教程、示例代码等,帮助开发者快速上手这个高性能的LLM推理框架。
本文整理了Awesome-LLM-Reasoning项目中的大量资源,为想要学习和研究大语言模型推理能力的读者提供了一个全面的入门指南。文章涵盖了相关论文、代码实现、数据集等多方面内容,是该领域的重要参考资料。
Baichuan2是百川智能推出的新一代开源大语言模型,在多个权威中英文基准测试中表现优异。本文汇总了Baichuan2的介绍、评测结果、使用方法等学习资料,帮助读者快速了解和上手这个强大的模型。
lagent是一个开源的轻量级LLM智能体框架,本文汇总了lagent的学习资料和相关资源,帮助读者快速入门和使用lagent构建基于大语言模型的智能体。
本文汇总了LLMAgentPapers项目的相关学习资源,包括项目介绍、论文列表、研究方向等,为对大语言模型智能体感兴趣的读者提供了全面的入门指南。
本文汇总了LISA(Large Language Instructed Segmentation Assistant)项目的各种学习资源,包括项目介绍、论文、代码、数据集、模型等,帮助读者快速了解和上手这个基于大语言模型的图像分割推理系统。
LLMDataHub是一个收集和整理用于训练大型语言模型的高质量数据集的开源项目。本文对该项目进行了全面介绍,并提供了丰富的学习资源链接,帮助读者快速了解和使用这些数据集。
PowerInfer是一个在消费级GPU上实现高速大语言模型推理的开源项目。本文汇总了PowerInfer的相关学习资源,包括项目介绍、安装使用、模型下载、性能评估等内容,帮助读者快速了解和上手PowerInfer。
本文全面介绍了LLM-Agent-Paper-List项目,汇总了大语言模型智能体领域的最新研究进展和学习资源,为相关研究人员和开发者提供了宝贵的参考。
本文整理了Awesome-Chinese-LLM项目的相关资源,包括开源中文大语言模型、底座模型、垂直领域微调及应用、数据集与教程等,为读者提供全面的中文LLM学习资料导航。
GPTCache是一个开源的语义缓存框架,可以大幅提升LLM应用的性能和效率。本文介绍了GPTCache的基本概念、使用方法和主要特性,帮助开发者快速上手这一强大工具。
本文为您整理了A-Guide-to-Retrieval-Augmented-LLM项目的学习资源,包括项目概述、关键模块介绍、实现方法等,帮助您快速了解和入门检索增强LLM技术。
本文汇总了Azure OpenAI Service和大语言模型(LLM)相关的学习资料,包括官方文档、开源项目、研究论文等,旨在帮助读者快速了解和学习这一领域的知识。
本文汇总了大型语言模型(LLM)长文本建模相关的优质学习资源,包括论文、代码、博客等,帮助读者快速了解该领域的最新进展。
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号