jan

Jan 项目介绍

项目概述

Jan 是一个本地化 AI 助手，能够在设备上完全离线运行，提供 ChatGPT 的替代方案。项目旨在让普通用户能够轻松下载、运行大型语言模型（LLM），并以完全控制和隐私的方式使用人工智能。尽管 Jan 目前仍在开发阶段，用户应预期可能会有中断和错误。

技术支持

Jan 是由 Cortex 提供支持的，它是一个可嵌入的本地 AI 引擎，可以在各种硬件上运行。从个人电脑到多 GPU 集群，Jan 及其引擎 Cortex 支持广泛的硬件架构，包括：

• NVIDIA GPU（性能优异）
• 苹果 M 系列（性能优异）
• 苹果 Intel
• Linux Debian
• Windows x64

功能特点

• 模型库：支持多种流行的 LLMs，如 Llama、Gemma、Mistral 和 Qwen。
• 连接远程 AI API：如 Groq 和 OpenRouter 等。
• 本地 API 服务器：与 OpenAI 相当的 API。
• 扩展支持：允许用户自定义 Jan 的功能。

下载

用户可以根据操作系统下载对应版本的 Jan：

• Windows: 提供稳定版、Beta 版和夜间构建版。
• MacOS: 支持 Intel 和 M 系列处理器。
• Linux: 提供 .deb 和 AppImage 格式。

最新版本可在 Jan 的官网下载，也可通过 GitHub 发布下载历史版本。

演示和链接

Jan 提供了一个在 Mac M2 上的实时演示视频，展示其在 16GB Sonoma 14.2 环境下的运行效果。此外，还有相关链接如 Jan 的官方网站、GitHub 页面、文档及博客等供用户参阅。

项目要求

运行 Jan 需要满足以下系统要求：

• MacOS: 版本 13 或以上
• Windows: Windows 10 或更高版本，Nvidia GPU 需安装 CUDA Toolkit 11.7 或更高版本
• Linux: glibc 2.27 或更高版本，需满足特定的编译器要求（gcc、g++ 和 cpp 需为 11 或更高版本）

故障排查

由于 Jan 仍在开发中，用户可能会遇到一些常见问题。项目提供了详尽的故障排查指南以帮助解决这些问题，并鼓励用户在遇到困难时通过 Discord 社区寻求帮助。

贡献方式

项目欢迎贡献者参与开发，要求包括 Node.js、Yarn 和 Make 的特定版本。详细的贡献步骤和说明可以在项目的贡献文件中找到。

参考与联系

Jan 的开发基于多个开源项目，如 llama.cpp、LangChain、TensorRT 等。用户可以通过 GitHub 提交问题单、加入 Discord 讨论或通过邮件直接联系项目团队。同时，项目强调信任与安全，明确表示产品完全免费，不存在任何代币或 ICO。

授权协议

Jan 是一个免费开源的软件，采用 AGPLv3 许可协议。