Ollama

ollama.com又名 Ollama

开源的本地大模型运行工具,一条命令拉取并跑起各类开放模型,提示词不存储、不用于训练,也能按 token 调用云端模型,适合开发者在自己的机器上试模型、写本地 AI 应用原型。

工具有免费版可选登录macOS · Windows · Linux · 网页英文开源国内可直接访问

Ollama 首页截图

Ollama 是一个跑开放模型(open models)的工具,装在本机就能把模型下载下来、在本地推理,也可以把请求转到它的云端。它要解决的是「不想自己折腾环境,又想在自己电脑上跑模型」这件事:装好之后用命令行拉模型、跑对话,模型文件、上下文都留在本地。

主要功能

官方把它定位成「构建开放模型应用最常用的方式」,页面上写明提示词不会被存储、也不会用于训练。除了本地运行,它还提供云端模型,按 token 计费,模型清单里有 gpt-oss、deepseek、gemma、kimi、glm、minimax、mistral 等系列,分输入、缓存输入、输出三档报价,工作日 12:00 与 18:00 UTC 之外以及周末有低谷价。

费用与账号

本地跑模型不收订阅费,云端按量付费,$0 起,含 3 个并发请求、不收服务费。Pro 每月 $20(年付折合 $16.67/月),含每月 $60 用量额度、可用更大的 pro 模型;Max 每月 $100,额度 $300、10 个并发;Team 每月 $500,不限用户、共享 $1000 额度;企业版按需报价。网站有 Sign in 入口,云端功能需要账号。

适合谁

想在自己机器上试模型、做原型、写本地 AI 应用的开发者最合适;只是偶尔聊两句的普通用户,用网页版对话产品会更省事。页面显示每月安装量 9M+、模型下载 1B+,GitHub 上有 186.3K 星。

常见问题

Ollama 收费吗?
Ollama 有免费版,部分功能或用量要付费。本地免费;云端按 token 计费,Pro $20/月,Max $100/月。
用 Ollama 要登录吗?
可以不登录使用,登录后功能更全。云端功能需登录,本地运行不必。
Ollama 国内能访问吗?
本站 11 月 8 日 检测,Ollama 在国内可以直接访问。
Ollama 有哪些平台 / App?
支持 macOS、Windows、Linux、网页。
Ollama 的替代品有哪些?
本站整理了 6 个替代品,例如 Shimmy、Xinference、LM Studio Bionic、Open WebUI。

替代品 全部 6 个 →

Shimmy免费 纯 Rust 写的本地推理服务器与命令行工具,通过 WebGPU 调用显卡、直接加载 GGUF 模型文件,对外提供 OpenAI 兼容接口,适合已在用 OpenAI 接口、想把请求地址改到本机的开发者。替代本地拉模型跑推理这一块:纯 Rust 单文件、WebGPU 调显卡,但没有云端模型和模型库 Xinference有免费版 Xorbits 推出的开源 AI 模型推理平台,在本地或云端统一跑 LLM、嵌入、多模态、语音和视频模型,提供兼容 OpenAI 的 API 并支持注册自定义权重,适合要在私有环境里跑多个模型、不想逐个适配接口的开发者。替代本地推理这一块:统一跑 LLM、嵌入、多模态并兼容 OpenAI 接口,偏平台部署而非个人试用 LM Studio Bionic有免费版要登录国内可直接访问 LM Studio 推出的本地 AI 智能体,可离线跑开源大模型,做文档、写代码、实时语音转写,也能按需接入云端模型,给想在自己电脑上用 AI 的人。替代本地跑开源模型这一块:带图形界面和智能体,离线可用,但不开源、不能命令行拉模型 Open WebUI有免费版可选登录国内可直接访问 开源自托管的 AI 聊天界面,把 Ollama、OpenAI、Anthropic 等模型接到同一个窗口,支持语音、检索和 Python 扩展,适合不想把对话数据交给第三方、想在自己机器上搭统一入口的个人与小团队。替代对话界面这一块:把 Ollama 等模型接到同一窗口,但本身不下载和运行模型

收录于 2024 年 3 月 · 更新于 11 月 8 日 · 本站 11 月 8 日 检测 · 浏览 232 · 报告问题

替代品 6 个打开官网ollama.com