model.nvim是一个功能丰富的Neovim插件,允许用户与各种AI模型进行交互,实现代码补全、对话等功能。它支持多种AI提供商,可自定义提示,并提供流式响应等特性,是Neovim用户增强编辑体验的理想选择。
ChatLLM.cpp是一个纯C++实现的大语言模型推理框架,支持多种模型在CPU上进行实时对话,具有内存效率高、支持量化推理等特点。
本文全面综述了大型语言模型(LLM)在规划能力方面的最新研究进展,探讨了LLM规划的关键技术、典型应用以及未来发展趋势,为研究人员和开发者提供了深入的洞察和参考。
本文综述了推荐系统领域预训练模型的发展历程,涵盖了从早期的序列推荐到最新的大语言模型应用,为研究人员提供了全面的文献参考。
活字3.0是由哈尔滨工业大学社会计算与信息检索研究中心推出的最新中文大语言模型,基于稀疏混合专家结构,具有强大的中英文知识和推理能力,支持32K上下文,在多个评测基准上展现出卓越性能。
EmbedchainJS是一个强大的JavaScript框架,让开发者能够快速构建基于大型语言模型(LLM)的聊天机器人,可以处理任意类型的数据集。本文深入介绍了EmbedchainJS的特性、工作原理及使用方法。
Funcchain是一个创新的Python库,它通过结合Pydantic模型和Langchain后端,为开发者提供了一种更加Pythonic的方式来构建认知系统,实现了LLMs与应用程序的无缝集成。
ComfyUI VLM节点是一个功能强大的扩展,它将视觉语言模型(VLM)和大型语言模型(LLM)集成到ComfyUI框架中,为AI艺术创作提供了丰富的功能,包括图像描述、提示生成、音乐创作等。
Instruct2Act是一个创新的框架,利用大型语言模型将多模态指令映射为机器人的连续动作序列,实现了从高级指令到精确策略代码的转换,为通用机器人操作系统开辟了新的可能性。
lmstudio.js是一个开源的TypeScript/JavaScript SDK,为开发者提供了在应用程序中使用本地大语言模型(LLM)的便捷方式。它支持模型加载、文本生成、对话等功能,并提供了丰富的API和示例,助力开发者快速集成和使用本地LLM。
EdgenAI是一个革命性的本地化GenAI平台,为企业和开发者提供私密、可监控的AI代理服务。它不仅是OpenAI API的替代品,还支持多种AI模型和功能,无需GPU即可在本地运行, 为生产力驱动的公司带来全新的AI解决方案。
local-llm-function-calling是一个创新的开源项目,它为本地大语言模型赋予了类似OpenAI函数调用的能力,通过JSON Schema约束模型输出,实现精确的数据提取和格式化。本文深入介绍了该项目的特性、使用方法和扩展性,为开发者提供了在本地环境下实现AI函数调用的强大工具。
AIKit是一个全面的平台,可以让用户快速开始托管、部署、构建和微调大型语言模型(LLMs)。它提供了灵活的推理和微调功能,支持多种模型格式,并具有易用的声明式配置、多模态支持、图像生成等强大特性。无论是个人开发者还是企业用户,AIKit都能帮助你轻松驾驭AI技术的力量。
Ray 教育资源库是一套全面的实践培训材料,旨在帮助开发者学习如何使用 Ray 框架来扩展计算机视觉、自然语言处理和时间序列预测等工作负载。本文将详细介绍这个项目的内容、特点和应用场景。
AgentLego是一个开源库,提供丰富的工具API来扩展和增强基于大型语言模型(LLM)的智能代理。它具有多模态扩展能力、灵活的工具接口、易于集成等特点,为LLM代理提供了强大的工具支持。
SimpleAI是一个自托管的AI API替代方案,专注于复制主要的大语言模型(LLM)端点,允许用户快速轻松地实验不同的AI模型,同时保持与OpenAI客户端的兼容性。
llama-tokenizer-js是一个专为LLaMA语言模型设计的JavaScript tokenizer,可在浏览器端高效运行,支持准确的token计数,并兼容大多数基于LLaMA的模型。本文将深入介绍这个工具的特性、使用方法及其在NLP领域的重要性。
Fast Vector Similarity Library 是一个高性能的向量相似度计算库,提供多种相似度度量方法和引导重采样技术,适用于数据分析、机器学习等领域。本文深入介绍该库的特性、实现原理及应用场景。
ps-fuzz是一个由Prompt Security开发的开源工具,用于评估和加强生成式AI应用的系统提示(system prompt) 安全性。它能够模拟各种LLM攻击,帮助开发者识别和修复潜在的安全漏洞,从而打造更安全可靠的AI应用。
Beta9是一个革命性的开源项目,旨在为开发者提供易于使用的无服务器GPU云计算平台。它支持在云端GPU上运行Python函数,自动扩展资源,并为AI工作负载提供优化。本文深入介绍了Beta9的特性、工作原理及使用方法。
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号