产品概述
Farfalle是一个开源的AI驱动答案搜索引擎，专为希望自托管搜索服务的用户设计。它不仅可以部署在你的服务器上，还支持使用本地大语言模型（如llama3、gemma、mistral、phi3）或通过LiteLLM接入自定义模型。同时，它也能连接GPT-4、GPT-3.5、Groq/Llama3等云端模型，并提供像Tavily、Searxng、Serper、Bing等多种搜索提供商。简单说，它就是一个可跑在你电脑或服务器上的Perplexity替代品。
核心优势
- **完全自托管**：数据不走第三方，隐私有保障。你可以用Docker一键部署，或者选择Render、Vercel等平台托管。
- **模型选择灵活**：既可以在本地用小模型省钱省资源，也能接入GPT-4这样的顶级云模型，甚至通过LiteLLM添加任意自定义LLM。
- **多搜索源整合**：支持Tavily、Searxng、Serper、Bing等，你可以根据需要自由切换或组合搜索结果。
- **技术栈现代**：前端基于Next.js，后端用FastAPI，配合Redis做速率限制、Logfire做日志，性能优秀且易于扩展。
适用场景
- 个人或团队搭建私有AI搜索助手，避免敏感信息外泄。
- 开发者测试不同LLM在搜索场景下的效果，快速迭代。
- 教育或研究机构需要定制化答案引擎，控制数据和使用成本。
- 想要学习开源项目架构的技术人员，可以查看GitHub源码上手实践。