Farfalle - 开源AI搜索引擎入门指南与项目介绍

Farfalle - 开源AI搜索引擎入门指南与项目介绍

Farfalle是一个令人兴奋的开源AI搜索引擎项目,它允许用户自托管并使用本地或云端的大语言模型(LLMs)。本文将为您详细介绍Farfalle项目,包括其主要功能、技术栈、部署方法以及使用指南。

项目概述

Farfalle是一个类似Perplexity的AI驱动搜索引擎。它支持运行本地LLM模型(如llama3、gemma、mistral、phi3等),也可以通过LiteLLM使用自定义LLM,或者使用云端模型(如Groq/Llama3、OpenAI/gpt4等)。

主要特性

• 支持多种搜索提供商(Tavily、Searxng、Serper、Bing)
• 可使用云端模型(OpenAI/gpt4、OpenAI/gpt3.5-turbo、Groq/Llama3)回答问题
• 支持本地模型(llama3、mistral、gemma、phi3)
• 通过LiteLLM支持自定义LLM
• 使用智能代理规划和执行搜索,以获得更好的结果

技术栈

Farfalle采用了现代化的技术栈:

• 前端:Next.js
• 后端:FastAPI
• 搜索API:SearXNG, Tavily, Serper, Bing
• 日志:Logfire
• 限流:Redis
• UI组件:shadcn/ui

快速开始

要在本地运行Farfalle,您需要:

1. 安装Docker
2. 安装Ollama(如果运行本地模型)
3. 获取所需的API密钥(Tavily, Serper, OpenAI, Bing, Groq等)

然后按以下步骤操作:

git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env
# 修改.env文件,添加API密钥
docker-compose -f docker-compose.dev.yaml up -d

完成后访问http://localhost:3000即可使用Farfalle。

部署

Farfalle提供了便捷的部署选项:

• 后端:可一键部署到Render
• 前端:可一键部署到Vercel

详细的部署说明请参考项目README。

将Farfalle设为默认搜索引擎

要将Farfalle设置为浏览器的默认搜索引擎,请按以下步骤操作:

1. 访问浏览器设置
2. 进入"搜索引擎"设置
3. 创建新的搜索引擎,使用URL:http://localhost:3000/?q=%s
4. 添加该搜索引擎

结语

Farfalle为用户提供了一个强大而灵活的AI搜索引擎解决方案。无论您是想要使用本地LLM模型,还是希望利用云端的强大算力,Farfalle都能满足您的需求。我们期待看到更多开发者参与到这个激动人心的项目中来,共同推动AI搜索技术的发展。

如果您对Farfalle项目感兴趣,欢迎访问GitHub仓库了解更多信息,或者直接在farfalle.dev体验在线demo。