大语言模型：精选AI工具、网站与开源项目
大语言模型
NeumAI: 大规模向量嵌入管理的先进框架
NeumAI是一个创新的数据平台,旨在帮助开发者利用现有数据为大型语言模型提供上下文,实现检索增强生成(RAG)。它提供了全面的RAG解决方案,可以随应用程序规模扩展,并减少集成数据连接器、嵌入模型和向量数据库等服务所需的时间。
LLM Guard: 为大型语言模型交互提供全面安全保护
LLM Guard是一款由Protect AI开发的综合性工具,旨在加强大型语言模型(LLMs)的安全性。通过提供输入净化、有害语言检测、数据泄露防护以及抵御提示注入攻击等功能,LLM Guard确保您与LLMs的交互安全可靠。
HuixiangDou: 基于大语言模型的群聊技术助手
HuixiangDou是一个创新的技术助手项目，旨在利用大语言模型的强大能力来解决群聊场景中的技术问题。它不仅能够提供准确的技术支持，还能有效避免消息泛滥，为开发者和技术爱好者提供了一个智能、高效的交流平台。
Code Review GPT: 利用人工智能提升代码审查效率
Code Review GPT是一款基于大型语言模型的代码审查工具,它可以自动分析代码变更并提供详细的审查意见,帮助开发团队提高代码质量,捕获潜在的bug,并加速代码审查流程。
深入探讨 大语言模型的越狱攻击:挑战、影响与防御策略
本文深入分析了大语言模型(LLM)面临的越狱攻击问题,探讨了这类攻击的原理、影响及防御策略,旨在提高对LLM安全性的认识,推动更安全可靠的AI系统开发。
LLMs相关知识及面试题全面解析
本文全面介绍了大语言模型(LLMs)的相关知识,包括基础概念、模型架构、训练方法等,并整理了常见的LLM面试题目。文章内容丰富详实,是LLM学习和面试的重要参考资料。
PyTorch实用教程(第二版):从入门到工业落地的全面指南
《PyTorch实用教程》(第二版)是一本全面的深度学习实战指南,涵盖了PyTorch基础、计算机视觉、自然语言处理、大语言模型以及推理部署等内容,旨在帮助读者快速掌握PyTorch,并具备独立开发AI应用的能力。
LIDA: 利用大语言模型实现自动化数据可视化与信息图表生成
LIDA是一款创新的自动化数据可视化工具,它利用大语言模型和图像生成模型,为用户提供了一种全新的方式来探索数据、生成可视化图表和信息图表。本文将深入介绍LIDA的核心功能、系统架构以及应用场景,展示其在数据分析和可视化领域的巨大潜力。
AirLLM: 在单个4GB GPU上运行70B大型语言模型
AirLLM是一个创新的解决方案,可以在单个4GB GPU上运行70B大型语言模型,无需量化、蒸馏或剪枝。它通过优化推理内存使用,使得在普通硬件上也能运行最先进的大型语言模型。
本草模型: 基于中文医学知识的大语言模型指令微调
本文介绍了由哈尔滨工业大学社会计算与信息检索研究中心健康智能组开发的本草模型,这是一个基于中文医学知识进行指令微调的大语言模型。本草模型通过医学知识图谱和医学文献构建数据集,对LLaMA等基础模型进行微调,显著提升了模型在医疗领域的问答能力。
MaxKB: 基于大语言模型的开源知识库问答系统
MaxKB是一款基于LLM大语言模型的开源知识库问答系统，具有开箱即用、模型中立、灵活编排和无缝嵌入等特点，广泛应用于企业内部知识库、客户服务、学术研究与教育等场景。
深入解析Hugging Face的Text Generation Inference工具包:为大型语言模型赋能
Text Generation Inference是Hugging Face推出的一款强大工具包,旨在简化大型语言模型的部署和服务过程。本文深入剖析了TGI的核心特性、架构设计和使用方法,为读者提供了全面的TGI使用指南。
FlexGen: 在单个GPU上高效运行大型语言模型
FlexGen是一个创新的高吞吐量生成引擎,可以在有限的GPU资源下运行大型语言模型。它通过灵 活的内存管理和优化技术,实现了在单个商用GPU上高效运行OPT-175B等超大模型,为吞吐量导向的场景提供了新的可能性。
Cody: 革命性的AI编码助手，让开发更高效
Cody是一款由Sourcegraph开发的先进AI编码助手，它利用强大的搜索和代码库上下文能力，帮助开发者更快地理解、编写和修复代码。本文深入探讨Cody的功能特性、使用场景和对开发效率的提升。
AIdea: 全能型AI助手应用，支持多种大语言模型和图像生成
AIdea是一款功能强大的AI助手应用,支持GPT、国产大语言模型以及Stable Diffusion等图像生成功能,为用户提供全方位的AI体验。本文详细介绍了AIdea的主要功能、技术特点和使用方法。
Superagent: 开源AI助手框架与API
Superagent是一个开源的AI助手框架和API,允许开发者为应用添加强大的AI助手功能。它利用大型语言模型、检索增强生成和生成式AI来帮助用户。
AIdea: 一款功能强大的AI聊天与图像生成应用
AIdea是一款集成了主流大语言模型和绘图模型的开源应用，支持多种AI对话和图像生成功能，为用户提供全方位的AI创作体验。
LLocalSearch: 一款完全本地运行的搜索聚合工具
LLocalSearch是一个基于LLM代理的完全本地运行的搜索聚合器。用户可以提出问题,系统将使用一系列LLM来寻找答案。用户可以看到代理的进度和最终答案。无需OpenAI或Google API密钥。
FastGPT：强大的知识库问答系统
FastGPT是一个基于大语言模型的开源知识库问答系统，提供数据处理、模型调用、RAG检索等开箱即用的功能，并支持可视化工作流编排，让用户轻松构建复杂的问答应用。
全球首个开源交互式数字人系统，上传一张图就可以立刻跟她对话
全球首个开源交互式数字人系统， 上传一张图就可以立刻跟她对话
推荐工具精选
AI云服务特惠
懂AI专属折扣关注微信公众号
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号