Xinference
Xinference 是一个功能强大且功能全面的分布式推理框架，旨在简化大语言模型（LLM）、语音识别、多模态模型等多种AI模型的推理任务。
Farfalle 是一个开源的 AI 驱动搜索引擎项目，允许用户通过本地或云端的大语言模型（LLM）执行搜索与问答任务。该项目在 Perplexity 的理念基础上构建，支持灵活部署方式，既可自托管运行，也可接入主流云服务提供商的模型接口。
Farfalle官网入口网址：https://github.com/rashadphz/farfalle
该平台整合了多种前沿技术组件，前端采用 Next.js 构建，后端基于 FastAPI 开发，并集成了 SearXNG、Tavily、Serper 和 Bing 等多个搜索 API，以增强信息检索能力。系统还引入 Logfire 用于日志追踪，Redis 实现请求限流，确保服务稳定性与可观测性。
核心功能
- 支持本地部署主流开源大模型，包括 Llama3、Gemma、Mistral 和 Phi-3；同时也兼容 OpenAI（如 GPT-4o）及 Groq 提供的云端模型。
- 提供专家模式搜索、对话历史管理、以及基于本地上传文件的上下文问答能力，满足多样化查询需求。
- 通过 Docker Compose 简化部署流程，用户只需克隆代码仓库、配置环境变量即可快速启动服务；亦可选择通过 Vercel 进行云端部署。
Farfalle 适用于开发者、研究团队及教育机构，为需要隐私保护、定制化搜索体验或离线 AI 能力的用户提供了一个可扩展、透明且可控的解决方案。千流导航 收录此项目，便于技术用户发现并评估其在实际场景中的应用潜力。
相关导航
LlamaIndex
一个用于构建 LLM（大型语言模型）应用的数据框架，提供了一套工具和框架，帮助开发者将私有数据与 LLM 结合使用，以增强知识生成和推理能力。
CozeWorkflows
一个开源项目，由风哥（AI 博主）开发并维护，该项目旨在提供200多个Coze工作流，帮助用户高效处理AI任务。
Unstract
Unstract 是一款基于大语言模型（LLM）打造的无代码平台，专注于非结构化数据提取，旨在通过 LLM 能力消除非结构化数据相关的人工流程
EmotiVoice易魔声
EmotiVoice是一个强大的开源TTS引擎，完全免费，支持中英文双语，包含2000多种不同的音色，以及特色的情感合成功能，支持合成包含快乐、兴奋、悲伤、愤怒等广泛情感的语音。
Anthropic Cookbook
Anthropic Cookbook 是由 Anthropic 官方推出的开源项目，旨在为开发者提供基于 Claude 大模型的最佳实践、代码示例和集成案例
PocketFlow
PocketFlow 是一个极简主义的 LLM（大型语言模型）框架，其核心代码仅包含 100 行代码，旨在简化 LLM 应用的开发。
browser-use
Browser Use 是一款专为大语言模型设计的智能浏览器工具。它是将 AI 智能体与浏览器连接起来的最简单方式，通过提供强大且简单的浏览器自动化接口，让 AI 智能体能够访问各类网站。