开源模型构建工具

Ollama是一个开源模型构建工具,支持本地运行和管理多种AI模型,适用于开发者和研究人员进行AI应用开发。

  • by Code4me2
  • Go
  • 本地部署
  • 更新于
在 GitHub 查看 Code4me2/autonomous-ollama

使用说明

奥拉玛

从开放模型开始构建。

下载

macOS

curl -fsSL https://ollama.com/install.sh | sh

或 手动下载

视窗

irm https://ollama.com/install.ps1 | iex

或 手动下载

Linux

curl -fsSL https://ollama.com/install.sh | sh

手动安装说明

码头工人

官方 Ollama Docker镜像 ollama/ollama 可以在Docker Hub上找到。

图书馆

社区

开始

ollama

系统将提示您运行模型或将Ollama连接到现有的代理或应用程序,例如 claude, codex, openclaw 以及更多。

编程

要启动特定集成,请执行以下操作:

ollama launch claude

支持的集成包括 克劳德代码, 法典, 机器人,以及 开源代码.

AI助手

使用 开爪 将Ollama转变为WhatsApp、Telegram、Slack、Discord等平台的个人人工智能助理:

ollama launch openclaw

与模特聊天

跑步并与聊天 杰玛3:

ollama run gemma3

看 ollama.com/library 查看完整列表。

请参阅 快速入门指南 了解更多详情。

REST API

Ollama有一个用于运行和管理模型的REST API。

curl http://localhost:11434/api/chat -d '{
  "model": "gemma3",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

请参阅 API文档 对于所有端点。

python

pip install ollama
from ollama import chat

response = chat(model='gemma3', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)

JavaScript

npm i ollama
import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma3",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

支持的后端

  • llama.cpp 该项目由格奥尔基·格尔加诺夫创立。

文档

社区集成

想添加您的项目吗?打开一个pull请求。

聊天界面

网络

桌面

移动

上面列出的SwiftChat、Enchanted、Maid、Ollama App、Reins和ConfiChat也支持移动平台。

代码编辑器与开发

库和SDK

框架和代理

RAG和知识库

  • RAGFlow 的 -基于深度文档理解的RAG引擎
  • R2R -开源RAG引擎
  • 最大KB -即用型RAG聊天机器人
  • 最小 -本地或完全本地RAG
  • 快乐 -与Haystack RAG的AI接口
  • 阿尔戈 -RAG与Mac/Windows/Linux的深入研究
  • 阿奇维 -RAG启用文档库
  • 赌场基地 -基于RAG和SSO的人工智能知识库
  • 脑汤 -具有RAG和多代理自动化的本地客户端

机器人和消息

终端和CLI

生产力和应用程序

可观测性和监测

  • Opik -调试、评估和监视LLM应用程序
  • OpenLIT -Ollama和GPU的OpenTetry原生监控
  • 月亮的 -LLM可观察性与分析和PII屏蔽
  • 廊坊 -开源LLM可观察性
  • 蜂巢 -智能体的AI可观测性和评估
  • 流量追踪 -开源LLM可观察性

数据库和嵌入

基础设施和部署

云

包装经理