API

注: OllamaのAPIドキュメントは https://docs.ollama.com/api に移行中です

エンドポイント

補完を生成する
チャット補完を生成する
モデルを作成する
ローカルモデルを一覧表示する
モデル情報を表示する
モデルをコピーする
モデルを削除する
モデルをプルする
モデルをプッシュする
埋め込みを生成する
実行中のモデルを一覧表示する
バージョン
実験的: 画像生成

規約

モデル名

モデル名は model:tag 形式に従います。model の部分には example/model のようなオプションの名前空間を含めることができます。例としては orca-mini:3b-q8_0 や llama3:70b があります。タグはオプションであり、指定されていない場合はデフォルトで latest になります。タグは特定のバージョンを識別するために使用されます。

所要時間

すべての所要時間はナノ秒単位で返されます。

ストリーミングレスポンス

一部のエンドポイントは、JSONオブジェクトとしてレスポンスをストリーミングします。これらのエンドポイントでは {"stream": false} を指定することでストリーミングを無効にできます。

補完を生成する

POST /api/generate

指定したモデルを使用して、与えられたプロンプトに対するレスポンスを生成します。このエンドポイントはストリーミング対応であるため、一連のレスポンスが返されます。最終的なレスポンスオブジェクトには、統計情報とリクエストに関する追加データが含まれます。

パラメータ

model: (必須) モデル名
prompt: レスポンスを生成する対象のプロンプト
suffix: モデルのレスポンス後のテキスト（サフィックス）
images: (オプション) base64エンコードされた画像のリスト（llava などのマルチモーダルモデル用）
think: (思考モデル用) モデルがレスポンスの前に思考するかどうか。ブール値または思考レベル（"low"、"medium"、"high"、"max"）を指定できます。

高度なパラメータ（オプション）：

format: レスポンスの返却形式。json またはJSONスキーマを指定できます。
options: Modelfile のドキュメントに記載されている temperature などの追加のモデルパラメータ
system: システムメッセージ（Modelfile で定義されている内容を上書きします）
template: 使用するプロンプトテンプレート（Modelfile で定義されている内容を上書きします）
stream: false の場合、オブジェクトのストリームではなく単一のレスポンスオブジェクトとしてレスポンスが返されます
raw: true の場合、プロンプトにフォーマットが適用されません。APIへのリクエストで完全なテンプレート化されたプロンプトを指定する場合は、raw パラメータを使用できます。
keep_alive: リクエスト後にモデルがメモリに読み込まれたままの時間を制御します（デフォルト: 5m）
context (非推奨): 以前の /generate へのリクエストから返されたコンテキストパラメータ。短い会話の記憶を保持するために使用できます。

画像生成パラメータ（実験的、画像生成モデルのみ対象）：

WARNING

これらのパラメータは実験的なものであり、将来のバージョンで変更される可能性があります。

width: 生成される画像の幅（ピクセル単位）
height: 生成される画像の高さ（ピクセル単位）
steps: 拡散ステップの数

構造化出力

format パラメータにJSONスキーマを指定することで、構造化出力がサポートされます。モデルはスキーマに一致するレスポンスを生成します。下記の構造化出力の例を参照してください。

JSONモード

format パラメータを json に設定することでJSONモードを有効にできます。これにより、レスポンスは有効なJSONオブジェクトとして構造化されます。下記のJSONモードの例を参照してください。

IMPORTANT

prompt でモデルにJSONを使用するよう指示することが重要です。そうしないと、モデルが大量の空白を生成する可能性があります。

例

生成リクエスト（ストリーミング）

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Why is the sky blue?"
}'

レスポンス

JSONオブジェクトのストリームが返されます：

json

{
  "model": "llama3.2",
  "created_at": "2023-08-04T08:52:19.385406455-07:00",
  "response": "The",
  "done": false
}

ストリームの最終レスポンスには、生成に関する追加データも含まれます：

total_duration: レスポンスの生成に費やした時間
load_duration: モデルの読み込みに費やした時間（ナノ秒単位）
prompt_eval_count: プロンプト内のトークン数
prompt_eval_duration: プロンプトの評価に費やした時間（ナノ秒単位）
eval_count: レスポンス内のトークン数
eval_duration: レスポンスの生成に費やした時間（ナノ秒単位）
context: このレスポンスで使用された会話のエンコード。次のリクエストに送信することで会話の記憶を保持できます。
response: レスポンスがストリーミングされた場合は空、ストリーミングされていない場合は完全なレスポンスが含まれます。

1秒あたりのトークン数（token/s）での生成速度を計算するには、eval_count / eval_duration * 10^9 を計算してください。

json

{
  "model": "llama3.2",
  "created_at": "2023-08-04T19:22:45.499127Z",
  "response": "",
  "done": true,
  "context": [1, 2, 3],
  "total_duration": 10706818083,
  "load_duration": 6338219291,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 130079000,
  "eval_count": 259,
  "eval_duration": 4232710000
}

リクエスト（ストリーミングなし）

リクエスト

ストリーミングをオフにすると、1回のレスポンスで全体を受け取れます。

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Why is the sky blue?",
  "stream": false
}'

レスポンス

stream が false に設定されている場合、レスポンスは単一のJSONオブジェクトになります：

json

{
  "model": "llama3.2",
  "created_at": "2023-08-04T19:22:45.499127Z",
  "response": "The sky is blue because it is the color of the sky.",
  "done": true,
  "context": [1, 2, 3],
  "total_duration": 5043500667,
  "load_duration": 5025959,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 325953000,
  "eval_count": 290,
  "eval_duration": 4709213000
}

リクエスト（サフィックスあり）

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "codellama:code",
  "prompt": "def compute_gcd(a, b):",
  "suffix": "    return result",
  "options": {
    "temperature": 0
  },
  "stream": false
}'

レスポンス

json5

{
  "model": "codellama:code",
  "created_at": "2024-07-22T20:47:51.147561Z",
  "response": "\n  if a == 0:\n    return b\n  else:\n    return compute_gcd(b % a, a)\n\ndef compute_lcm(a, b):\n  result = (a * b) / compute_gcd(a, b)\n",
  "done": true,
  "done_reason": "stop",
  "context": [...],
  "total_duration": 1162761250,
  "load_duration": 6683708,
  "prompt_eval_count": 17,
  "prompt_eval_duration": 201222000,
  "eval_count": 63,
  "eval_duration": 953997000
}

リクエスト（構造化出力）

リクエスト

shell

curl -X POST http://localhost:11434/api/generate -H "Content-Type: application/json" -d '{
  "model": "llama3.1:8b",
  "prompt": "Ollama is 22 years old and is busy saving the world. Respond using JSON",
  "stream": false,
  "format": {
    "type": "object",
    "properties": {
      "age": {
        "type": "integer"
      },
      "available": {
        "type": "boolean"
      }
    },
    "required": [
      "age",
      "available"
    ]
  }
}'

レスポンス

json

{
  "model": "llama3.1:8b",
  "created_at": "2024-12-06T00:48:09.983619Z",
  "response": "{\n  \"age\": 22,\n  \"available\": true\n}",
  "done": true,
  "done_reason": "stop",
  "context": [1, 2, 3],
  "total_duration": 1075509083,
  "load_duration": 567678166,
  "prompt_eval_count": 28,
  "prompt_eval_duration": 236000000,
  "eval_count": 16,
  "eval_duration": 269000000
}

リクエスト（JSONモード）

IMPORTANT

format が json に設定されている場合、出力は常に整形式のJSONオブジェクトになります。モデルにJSONでレスポンスするよう指示することも重要です。

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "What color is the sky at different times of the day? Respond using JSON",
  "format": "json",
  "stream": false
}'

レスポンス

json

{
  "model": "llama3.2",
  "created_at": "2023-11-09T21:07:55.186497Z",
  "response": "{\n\"morning\": {\n\"color\": \"blue\"\n},\n\"noon\": {\n\"color\": \"blue-gray\"\n},\n\"afternoon\": {\n\"color\": \"warm gray\"\n},\n\"evening\": {\n\"color\": \"orange\"\n}\n}\n",
  "done": true,
  "context": [1, 2, 3],
  "total_duration": 4648158584,
  "load_duration": 4071084,
  "prompt_eval_count": 36,
  "prompt_eval_duration": 439038000,
  "eval_count": 180,
  "eval_duration": 4196918000
}

response の値は、以下のようなJSONを含む文字列になります：

json

{
  "morning": {
    "color": "blue"
  },
  "noon": {
    "color": "blue-gray"
  },
  "afternoon": {
    "color": "warm gray"
  },
  "evening": {
    "color": "orange"
  }
}

リクエスト（画像あり）

llava や bakllava などのマルチモーダルモデルに画像を送信するには、base64エンコードされた images のリストを指定してください：

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llava",
  "prompt":"What is in this picture?",
  "stream": false,
  "images": ["iVBORw0KGgoAAAANSUhEUgAAAG0AAABmCAYAAADBPx+VAAAACXBIWXMAAAsTAAALEwEAmpwYAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAA3VSURBVHgB7Z27r0zdG8fX743i1bi1ikMoFMQloXRpKFFIqI7LH4BEQ+NWIkjQuSWCRIEoULk0gsK1kCBI0IhrQVT7tz/7zZo888yz1r7MnDl7z5xvsjkzs2fP3uu71nNfa7lkAsm7d++Sffv2JbNmzUqcc8m0adOSzZs3Z+/XES4ZckAWJEGWPiCxjsQNLWmQsWjRIpMseaxcuTKpG/7HP27I8P79e7dq1ars/yL4/v27S0ejqwv+cUOGEGGpKHR37tzJCEpHV9tnT58+dXXCJDdECBE2Ojrqjh071hpNECjx4cMHVycM1Uhbv359B2F79+51586daxN/+pyRkRFXKyRDAqxEp4yMlDDzXG1NPnnyJKkThoK0VFd1ELZu3TrzXKxKfW7dMBQ6bcuWLW2v0VlHjx41z717927ba22U9APcw7Nnz1oGEPeL3m3p2mTAYYnFmMOMXybPPXv2bNIPpFZr1NHn4HMw0KRBjg9NuRw95s8PEcz/6DZELQd/09C9QGq5RsmSRybqkwHGjh07OsJSsYYm3ijPpyHzoiacg35MLdDSIS/O1yM778jOTwYUkKNHWUzUWaOsylE00MyI0fcnOwIdjvtNdW/HZwNLGg+sR1kMepSNJXmIwxBZiG8tDTpEZzKg0GItNsosY8USkxDhD0Rinuiko2gfL/RbiD2LZAjU9zKQJj8RDR0vJBR1/Phx9+PHj9Z7REF4nTZkxzX4LCXHrV271qXkBAPGfP/atWvu/PnzHe4C97F48eIsRLZ9+3a3f/9+87dwP1JxaF7/3r17ba+5l4EcaVo0lj3SBq5kGTJSQmLWMjgYNei2GPT1MuMqGTDEFHzeQSP2wi/jGnkmPJ/nhccs44jvDAxpVcxnq0F6eT8h4ni/iIWpR5lPyA6ETkNXoSukvpJAD3AsXLiwpZs49+fPn5ke4j10TqYvegSfn0OnafC+Tv9ooA/JPkgQysqQNBzagXY55nO/oa1F7qvIPWkRL12WRpMWUvpVDYmxAPehxWSe8ZEXL20sadYIozfmNch4QJPAfeJgW3rNsnzphBKNJM2KKODo1rVOMRYik5ETy3ix4qWNI81qAAirizgMIc+yhTytx0JWZuNI03qsrgWlGtwjoS9XwgUhWGyhUaRZZQNNIEwCiXD16tXcAHUs79co0vSD8rrJCIW98pzvxpAWyyo3HYwqS0+H0BjStClcZJT5coMm6D2LOF8TolGJtK9fvyZpyiC5ePFi9nc/oJU4eiEP0jVoAnHa9wyJycITMP78+eMeP37sXrx44d6+fdt6f82aNdkx1pg9e3Zb5W+RSRE+n+VjksQWifvVaTKFhn5O8my63K8Qabdv33b379/PiAP//vuvW7BggZszZ072/+TJk91YgkafPn166zXB1rQHFvouAWHq9z3SEevSUerqCn2/dDCeta2jxYbr69evk4MHDyY7d+7MjhMnTiTPnz9Pfv/+nfQT2ggpO2dMF8cghuoM7Ygj5iWCqRlGFml0QC/ftGmTmzt3rmsaKDsgBSPh0/8yPeLLBihLkOKJc0jp8H8vUzcxIA1k6QJ/c78tWEyj5P3o4u9+jywNPdJi5rAH9x0KHcl4Hg570eQp3+vHXGyrmEeigzQsQsjavXt38ujRo44LQuDDhw+TW7duRS1HGgMxhNXHgflaNTOsHyKvHK5Ijo2jbFjJBQK9YwFd6RVMzfgRBmEfP37suBBm/p49e1qjEP2mwTViNRo0VJWH1deMXcNK08uUjVUu7s/zRaL+oLNxz1bpANco4npUgX4G2eFbpDFyQoQxojBCpEGSytmOH8qrH5Q9vuzD6ofQylkCUmh8DBAr+q8JCyVNtWQIidKQE9wNtLSQnS4jDSsxNHogzFuQBw4cyM61UKVsjfr3ooBkPSqqQHesUPWVtzi9/vQi1T+rJj7WiTz4Pt/l3LxUkr5P2VYZaZ4URpsE+st/dujQoaBBYokbrz/8TJNQYLSonrPS9kUaSkPeZyj1AWSj+d+VBoy1pIWVNed8P0Ll/ee5HdGRhrHhR5GGN0r4LGZBaj8oFDJitBTJzIZgFcmU0Y8ytWMZMzJOaXUSrUs5RxKnrxmbb5YXO9VGUhtpXldhEUogFr3IzIsvlpmdosVcGVGXFWp2oU9kLFL3dEkSz6NHEY1sjSRdIuDFWEhd8KxFqsRi1uM/nz9/zpxnwlESONdg6dKlbsaMGS4EHFHtjFIDHwKOo46l4TxSuxgDzi+rE2jg+BaFruOX4HXa0Nnf1lwAPufZeF8/r6zD97WK2qFnGjBxTw5qNGPxT+5T/r7/7RawFC3j4vTp09koCxkeHjqbHJqArmH5UrFKKksnxrK7FuRIs8STfBZv+luugXZ2pR/pP9Ois4z+TiMzUUkUjD0iEi1fzX8GmXyuxUBRcaUfykV0YZnlJGKQpOiGB76x5GeWkWWJc3mOrK6S7xdND+W5N6XyaRgtWJFe13GkaZnKOsYqGdOVVVbGupsyA/l7emTLHi7vwTdirNEt0qxnzAvBFcnQF16xh/TMpUuXHDowhlA9vQVraQhkudRdzOnK+04ZSP3DUhVSP61YsaLtd/ks7ZgtPcXqPqEafHkdqa84X6aCeL7YWlv6edGFHb+ZFICPlljHhg0bKuk0CSvVznWsotRu433alNdFrqG45ejoaPCaUkWERpLXjzFL2Rpllp7PJU2a/v7Ab8N05/9t27Z16KUqoFGsxnI9EosS2niSYg9SpU6B4JgTrvVW1flt1sT+0ADIJU2maXzcUTraGCRaL1Wp9rUMk16PMom8QhruxzvZIegJjFU7LLCePfS8uaQdPny4jTTL0dbee5mYokQsXTIWNY46kuMbnt8Kmec+LGWtOVIl9cT1rCB0V8WqkjAsRwta93TbwNYoGKsUSChN44lgBNCoHLHzquYKrU6qZ8lolCIN0Rh6cP0Q3U6I6IXILYOQI513hJaSKAorFpuHXJNfVlpRtmYBk1Su1obZr5dnKAO+L10Hrj3WZW+E3qh6IszE37F6EB+68mGpvKm4eb9bFrlzrok7fvr0Kfv727dvWRmdVTJHw0qiiCUSZ6wCK+7XL/AcsgNyL74DQQ730sv78Su7+t/A36MdY0sW5o40ahslXr58aZ5HtZB8GH64m9EmMZ7FpYw4T6QnrZfgenrhFxaSiSGXtPnz57e9TkNZLvTjeqhr734CNtrK41L40sUQckmj1lGKQ0rC37x544r8eNXRpnVE3ZZY7zXo8NomiO0ZUCj2uHz58rbXoZ6gc0uA+F6ZeKS/jhRDUq8MKrTho9fEkihMmhxtBI1DxKFY9XLpVcSkfoi8JGnToZO5sU5aiDQIW716ddt7ZLYtMQlhECdBGXZZMWldY5BHm5xgAroWj4C0hbYkSc/jBmggIrXJWlZM6pSETsEPGqZOndr2uuuR5rF169a2HoHPdurUKZM4CO1WTPqaDaAd+GFGKdIQkxAn9RuEWcTRyN2KSUgiSgF5aWzPTeA/lN5rZubMmR2bE4SIC4nJoltgAV/dVefZm72AtctUCJU2CMJ327hxY9t7EHbkyJFseq+EJSY16RPo3Dkq1kkr7+q0bNmyDuLQcZBEPYmHVdOBiJyIlrRDq41YPWfXOxUysi5fvtyaj+2BpcnsUV/oSoEMOk2CQGlr4ckhBwaetBhjCwH0ZHtJROPJkyc7UjcYLDjmrH7ADTEBXFfOYmB0k9oYBOjJ8b4aOYSe7QkKcYhFlq3QYLQhSidNmtS2RATwy8YOM3EQJsUjKiaWZ+vZToUQgzhkHXudb/PW5YMHD9yZM2faPsMwoc7RciYJXbGuBqJ1UIGKKLv915jsvgtJxCZDubdXr165mzdvtr1Hz5LONA8jrUwKPqsmVesKa49S3Q4WxmRPUEYdTjgiUcfUwLx589ySJUva3oMkP6IYddq6HMS4o55xBJBUeRjzfa4Zdeg56QZ43LhxoyPo7Lf1kNt7oO8wWAbNwaYjIv5lhyS7kRf96dvm5Jah8vfvX3flyhX35cuX6HfzFHOToS1H4BenCaHvO8pr8iDuwoUL7tevX+b5ZdbBair0xkFIlFDlW4ZknEClsp/TzXyAKVOmmHWFVSbDNw1l1+4f90U6IY/q4V27dpnE9bJ+v87QEydjqx/UamVVPRG+mwkNTYN+9tjkwzEx+atCm/X9WvWtDtAb68Wy9LXa1UmvCDDIpPkyOQ5ZwSzJ4jMrvFcr0rSjOUh+GcT4LSg5ugkW1Io0/SCDQBojh0hPlaJdah+tkVYrnTZowP8iq1F1TgMBBauufyB33x1v+NWFYmT5KmppgHC+NkAgbmRkpD3yn9QIseXymoTQFGQmIOKTxiZIWpvAatenVqRVXf2nTrAWMsPnKrMZHz6bJq5jvce6QK8J1cQNgKxlJapMPdZSR64/UivS9NztpkVEdKcrs5alhhWP9NeqlfWopzhZScI6QxseegZRGeg5a8C3Re1Mfl1ScP36ddcUaMuv24iOJtz7sbUjTS4qBvKmstYJoUauiuD3k5qhyr7QdUHMeCgLa1Ear9NquemdXgmum4fvJ6w1lqsuDhNrg1qSpleJK7K3TF0Q2jSd94uSZ60kK1e3qyVpQK6PVWXp2/FC3mp6jBhKKOiY2h3gtUV64TWM6wDETRPLDfSakXmH3w8g9Jlug8ZtTt4kVF0kLUYYmCCtD/DrQ5YhMGbA9L3ucdjh0y8kOHW5gU/VEEmJTcL4Pz/f7mgoAbYkAAAAAElFTkSuQmCC"]
}'

レスポンス

json

{
  "model": "llava",
  "created_at": "2023-11-03T15:36:02.583064Z",
  "response": "A happy cartoon character, which is cute and cheerful.",
  "done": true,
  "context": [1, 2, 3],
  "total_duration": 2938432250,
  "load_duration": 2559292,
  "prompt_eval_count": 1,
  "prompt_eval_duration": 2195557000,
  "eval_count": 44,
  "eval_duration": 736432000
}

リクエスト（Rawモード）

場合によっては、テンプレートシステムをバイパスして完全なプロンプトを提供したいことがあります。このような場合は、raw パラメータを使用してテンプレート化を無効にできます。なお、rawモードではコンテキストは返されませんので注意してください。

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "mistral",
  "prompt": "[INST] why is the sky blue? [/INST]",
  "raw": true,
  "stream": false
}'

リクエスト（再現可能な出力）

再現可能な出力を得るには、seed に数値を設定してください：

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "mistral",
  "prompt": "Why is the sky blue?",
  "options": {
    "seed": 123
  }
}'

レスポンス

json

{
  "model": "mistral",
  "created_at": "2023-11-03T15:36:02.583064Z",
  "response": " The sky appears blue because of a phenomenon called Rayleigh scattering.",
  "done": true,
  "total_duration": 8493852375,
  "load_duration": 6589624375,
  "prompt_eval_count": 14,
  "prompt_eval_duration": 119039000,
  "eval_count": 110,
  "eval_duration": 1779061000
}

生成リクエスト（オプションあり）

Modelfileではなく実行時にモデルのカスタムオプションを設定したい場合は、options パラメータを使用して設定できます。この例では利用可能なすべてのオプションを設定していますが、個別に設定したり、上書きしたくないオプションを省略したりすることもできます。

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Why is the sky blue?",
  "stream": false,
  "options": {
    "num_keep": 5,
    "seed": 42,
    "num_predict": 100,
    "draft_num_predict": 4,
    "top_k": 20,
    "top_p": 0.9,
    "min_p": 0.0,
    "typical_p": 0.7,
    "repeat_last_n": 33,
    "temperature": 0.8,
    "repeat_penalty": 1.2,
    "presence_penalty": 1.5,
    "frequency_penalty": 1.0,
    "penalize_newline": true,
    "stop": ["\n", "user:"],
    "numa": false,
    "num_ctx": 1024,
    "num_batch": 2,
    "num_gpu": 1,
    "main_gpu": 0,
    "use_mmap": true,
    "num_thread": 8
  }
}'

レスポンス

json

{
  "model": "llama3.2",
  "created_at": "2023-08-04T19:22:45.499127Z",
  "response": "The sky is blue because it is the color of the sky.",
  "done": true,
  "context": [1, 2, 3],
  "total_duration": 4935886791,
  "load_duration": 534986708,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 107345000,
  "eval_count": 237,
  "eval_duration": 4289432000
}

モデルの読み込み

空のプロンプトを指定すると、モデルがメモリに読み込まれます。

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2"
}'

レスポンス

単一のJSONオブジェクトが返されます：

json

{
  "model": "llama3.2",
  "created_at": "2023-12-18T19:52:07.071755Z",
  "response": "",
  "done": true
}

モデルのアンロード

空のプロンプトを指定し、keep_alive パラメータを 0 に設定すると、モデルがメモリからアンロードされます。

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "keep_alive": 0
}'

レスポンス

単一のJSONオブジェクトが返されます：

json

{
  "model": "llama3.2",
  "created_at": "2024-09-12T03:54:03.516566Z",
  "response": "",
  "done": true,
  "done_reason": "unload"
}

チャット補完を生成する

POST /api/chat

提供されたモデルを使用してチャットの次のメッセージを生成します。これはストリーミングエンドポイントであるため、一連のレスポンスが返されます。"stream": false を指定することでストリーミングを無効にできます。最終的なレスポンスオブジェクトには、統計情報やリクエストに関する追加データが含まれます。

パラメータ

model: (必須) モデル名
messages: チャットのメッセージ。チャットの履歴を保持するために使用できます。
tools: サポートされている場合、モデルが使用するツールのJSONリスト。
think: (思考モデル用) モデルが応答する前に思考するかどうか。ブール値または思考レベル（"low"、"medium"、"high"、"max"）を指定できます。 message オブジェクトには以下のフィールドがあります：
role: メッセージの役割。system、user、assistant、tool のいずれか。
content: メッセージの内容。
thinking: (思考モデル用) モデルの思考プロセス。
images (任意): メッセージに含める画像のリスト（llava などのマルチモーダルモデル用）。
tool_calls (任意): モデルが使用したいツールのJSONリスト。
tool_name (任意): 実行されたツールの名前を追加し、結果をモデルに通知します。

高度なパラメータ (任意):

format: レスポンスの返却形式。json またはJSONスキーマを指定できます。
options: [Modelfile](. /modelfile. mdx#valid-parameters-and-values) のドキュメントに記載されている追加のモデルパラメータ。temperature など。
stream: false の場合、レスポンスはオブジェクトのストリームではなく、単一のレスポンスオブジェクトとして返されます。
keep_alive: リクエスト後にモデルがメモリに読み込まれたまま保持される時間を制御します（デフォルト: 5m）。

ツール呼び出し

tools パラメータにツールのリストを指定することでツール呼び出しがサポートされます。モデルはツール呼び出しのリストを含むレスポンスを生成します。下記のチャットリクエスト (ツールを使用したストリーミング)の例を参照してください。モデルはレスポンス内でツール呼び出しの結果を説明することもできます。下記のチャットリクエスト (履歴とツールを使用)の例を参照してください。[ツール呼び出し機能を搭載したモデルを参照](https://ollama. com/search? c=tool)。

構造化出力

format パラメータにJSONスキーマを指定することで構造化出力がサポートされます。モデルはスキーマに一致するレスポンスを生成します。下記のチャットリクエスト (構造化出力)の例を参照してください。

例

チャットリクエスト (ストリーミング)

リクエスト

ストリーミングレスポンスでチャットメッセージを送信します。

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "why is the sky blue? "
    }
  ]
}'

レスポンス

JSONオブジェクトのストリームが返されます：

json

{
  "model": "llama3. 2",
  "created_at": "2023-08-04T08:52:19. 385406455-07:00",
  "message": {
    "role": "assistant",
    "content": "The",
    "images": null
  },
  "done": false
}

最終レスポンス:

json

{
  "model": "llama3. 2",
  "created_at": "2023-08-04T19:22:45. 499127Z",
  "message": {
    "role": "assistant",
    "content": ""
  },
  "done": true,
  "total_duration": 4883583458,
  "load_duration": 1334875,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 342546000,
  "eval_count": 282,
  "eval_duration": 4535599000
}

チャットリクエスト (ツールを使用したストリーミング)

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "what is the weather in tokyo? "
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the weather in a given city",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string",
              "description": "The city to get the weather for"
            }
          },
          "required": ["city"]
        }
      }
    }
  ],
  "stream": true
}'

レスポンス

JSONオブジェクトのストリームが返されます：

json

{
  "model": "llama3. 2",
  "created_at": "2025-07-07T20:22:19. 184789Z",
  "message": {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "function": {
          "name": "get_weather",
          "arguments": {
            "city": "Tokyo"
          }
        }
      }
    ]
  },
  "done": false
}

最終レスポンス:

json

{
  "model": "llama3. 2",
  "created_at": "2025-07-07T20:22:19. 19314Z",
  "message": {
    "role": "assistant",
    "content": ""
  },
  "done_reason": "stop",
  "done": true,
  "total_duration": 182242375,
  "load_duration": 41295167,
  "prompt_eval_count": 169,
  "prompt_eval_duration": 24573166,
  "eval_count": 15,
  "eval_duration": 115959084
}

チャットリクエスト (ストリーミングなし)

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "why is the sky blue? "
    }
  ],
  "stream": false
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2023-12-12T14:13:43. 416799Z",
  "message": {
    "role": "assistant",
    "content": "Hello! How are you today? "
  },
  "done": true,
  "total_duration": 5191566416,
  "load_duration": 2154458,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 383809000,
  "eval_count": 298,
  "eval_duration": 4799921000
}

チャットリクエスト (ツール使用、ストリーミングなし)

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "what is the weather in tokyo? "
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the weather in a given city",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string",
              "description": "The city to get the weather for"
            }
          },
          "required": ["city"]
        }
      }
    }
  ],
  "stream": false
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2025-07-07T20:32:53. 844124Z",
  "message": {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "function": {
          "name": "get_weather",
          "arguments": {
            "city": "Tokyo"
          }
        }
      }
    ]
  },
  "done_reason": "stop",
  "done": true,
  "total_duration": 3244883583,
  "load_duration": 2969184542,
  "prompt_eval_count": 169,
  "prompt_eval_duration": 141656333,
  "eval_count": 18,
  "eval_duration": 133293625
}

チャットリクエスト (構造化出力)

リクエスト

shell

curl -X POST http://localhost:11434/api/chat -H "Content-Type: application/json" -d '{
  "model": "llama3. 1",
  "messages": [{"role": "user", "content": "Ollama is 22 years old and busy saving the world. Return a JSON object with the age and availability. "}],
  "stream": false,
  "format": {
    "type": "object",
    "properties": {
      "age": {
        "type": "integer"
      },
      "available": {
        "type": "boolean"
      }
    },
    "required": [
      "age",
      "available"
    ]
  },
  "options": {
    "temperature": 0
  }
}'

レスポンス

json

{
  "model": "llama3. 1",
  "created_at": "2024-12-06T00:46:58. 265747Z",
  "message": {
    "role": "assistant",
    "content": "{\"age\": 22, \"available\": false}"
  },
  "done_reason": "stop",
  "done": true,
  "total_duration": 2254970291,
  "load_duration": 574751416,
  "prompt_eval_count": 34,
  "prompt_eval_duration": 1502000000,
  "eval_count": 12,
  "eval_duration": 175000000
}

チャットリクエスト (履歴あり)

会話履歴を含むチャットメッセージを送信します。この同じアプローチを使用して、マルチショットまたは思考連鎖プロンプトを用いて会話を開始できます。

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "why is the sky blue? "
    },
    {
      "role": "assistant",
      "content": "due to rayleigh scattering. "
    },
    {
      "role": "user",
      "content": "how is that different than mie scattering? "
    }
  ]
}'

レスポンス

JSONオブジェクトのストリームが返されます：

json

{
  "model": "llama3. 2",
  "created_at": "2023-08-04T08:52:19. 385406455-07:00",
  "message": {
    "role": "assistant",
    "content": "The"
  },
  "done": false
}

最終レスポンス:

json

{
  "model": "llama3. 2",
  "created_at": "2023-08-04T19:22:45. 499127Z",
  "done": true,
  "total_duration": 8113331500,
  "load_duration": 6396458,
  "prompt_eval_count": 61,
  "prompt_eval_duration": 398801000,
  "eval_count": 468,
  "eval_duration": 7701267000
}

チャットリクエスト (履歴あり、ツール使用)

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "what is the weather in Toronto? "
    },
    // the message from the model appended to history
    {
      "role": "assistant",
      "content": "",
      "tool_calls": [
        {
          "function": {
            "name": "get_weather",
            "arguments": {
              "city": "Toronto"
            }
          }
        }
      ]
    },
    // the tool call result appended to history
    {
      "role": "tool",
      "content": "11 degrees celsius",
      "tool_name": "get_weather"
    }
  ],
  "stream": false,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the weather in a given city",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string",
              "description": "The city to get the weather for"
            }
          },
          "required": ["city"]
        }
      }
    }
  ]
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2025-07-07T20:43:37. 688511Z",
  "message": {
    "role": "assistant",
    "content": "The current temperature in Toronto is 11°C. "
  },
  "done_reason": "stop",
  "done": true,
  "total_duration": 890771750,
  "load_duration": 707634750,
  "prompt_eval_count": 94,
  "prompt_eval_duration": 91703208,
  "eval_count": 11,
  "eval_duration": 90282125
}

チャットリクエスト (画像あり)

リクエスト

画像を含むチャットメッセージを送信します。画像は配列として提供され、個々の画像はBase64でエンコードされている必要があります。

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llava",
  "messages": [
    {
      "role": "user",
      "content": "what is in this image?

",
      "images": ["iVBORw0KGgoAAAANSUhEUgAAAG0AAABmCAYAAADBPx+VAAAACXBIWXMAAAsTAAALEwEAmpwYAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAA3VSURBVHgB7Z27r0zdG8fX743i1bi1ikMoFMQloXRpKFFIqI7LH4BEQ+NWIkjQuSWCRIEoULk0gsK1kCBI0IhrQVT7tz/7zZo888yz1r7MnDl7z5xvsjkzs2fP3uu71nNfa7lkAsm7d++Sffv2JbNmzUqcc8m0adOSzZs3Z+/XES4ZckAWJEGWPiCxjsQNLWmQsWjRIpMseaxcuTKpG/7HP27I8P79e7dq1ars/yL4/v27S0ejqwv+cUOGEGGpKHR37tzJCEpHV9tnT58+dXXCJDdECBE2Ojrqjh071hpNECjx4cMHVycM1Uhbv359B2F79+51586daxN/+pyRkRFXKyRDAqxEp4yMlDDzXG1NPnnyJKkThoK0VFd1ELZu3TrzXKxKfW7dMBQ6bcuWLW2v0VlHjx41z717927ba22U9APcw7Nnz1oGEPeL3m3p2mTAYYnFmMOMXybPPXv2bNIPpFZr1NHn4HMw0KRBjg9NuRw95s8PEcz/6DZELQd/09C9QGq5RsmSRybqkwHGjh07OsJSsYYm3ijPpyHzoiacg35MLdDSIS/O1yM778jOTwYUkKNHWUzUWaOsylE00MyI0fcnOwIdjvtNdW/HZwNLGg+sR1kMepSNJXmIwxBZiG8tDTpEZzKg0GItNsosY8USkxDhD0Rinuiko2gfL/RbiD2LZAjU9zKQJj8RDR0vJBR1/Phx9+PHj9Z7REF4nTZkxzX4LCXHrV271qXkBAPGfP/atWvu/PnzHe4C97F48eIsRLZ9+3a3f/9+87dwP1JxaF7/3r17ba+5l4EcaVo0lj3SBq5kGTJSQmLWMjgYNei2GPT1MuMqGTDEFHzeQSP2wi/jGnkmPJ/nhccs44jvDAxpVcxnq0F6eT8h4ni/iIWpR5lPyA6ETkNXoSukvpJAD3AsXLiwpZs49+fPn5ke4j10TqYvegSfn0OnafC+Tv9ooA/JPkgQysqQNBzagXY55nO/oa1F7qvIPWkRL12WRpMWUvpVDYmxAPehxWSe8ZEXL20sadYIozfmNch4QJPAfeJgW3rNsnzphBKNJM2KKODo1rVOMRYik5ETy3ix4qWNI81qAAirizgMIc+yhTytx0JWZuNI03qsrgWlGtwjoS9XwgUhWGyhUaRZZQNNIEwCiXD16tXcAHUs79co0vSD8rrJCIW98pzvxpAWyyo3HYwqS0+H0BjStClcZJT5coMm6D2LOF8TolGJtK9fvyZpyiC5ePFi9nc/oJU4eiEP0jVoAnHa9wyJycITMP78+eMeP37sXrx44d6+fdt6f82aNdkx1pg9e3Zb5W+RSRE+n+VjksQWifvVaTKFhn5O8my63K8Qabdv33b379/PiAP//vuvW7BggZszZ072/+TJk91YgkafPn166zXB1rQHFvouAWHq9z3SEevSUerqCn2/dDCeta2jxYbr69evk4MHDyY7d+7MjhMnTiTPnz9Pfv/+nfQT2ggpO2dMF8cghuoM7Ygj5iWCqRlGFml0QC/ftGmTmzt3rmsaKDsgBSPh0/8yPeLLBihLkOKJc0jp8H8vUzcxIA1k6QJ/c78tWEyj5P3o4u9+jywNPdJi5rAH9x0KHcl4Hg570eQp3+vHXGyrmEeigzQsQsjavXt38ujRo44LQuDDhw+TW7duRS1HGgMxhNXHgflaNTOsHyKvHK5Ijo2jbFjJBQK9YwFd6RVMzfgRBmEfP37suBBm/p49e1qjEP2mwTViNRo0VJWH1deMXcNK08uUjVUu7s/zRaL+oLNxz1bpANco4npUgX4G2eFbpDFyQoQxojBCpEGSytmOH8qrH5Q9vuzD6ofQylkCUmh8DBAr+q8JCyVNtWQIidKQE9wNtLSQnS4jDSsxNHogzFuQBw4cyM61UKVsjfr3ooBkPSqqQHesUPWVtzi9/vQi1T+rJj7WiTz4Pt/l3LxUkr5P2VYZaZ4URpsE+st/dujQoaBBYokbrz/8TJNQYLSonrPS9kUaSkPeZyj1AWSj+d+VBoy1pIWVNed8P0Ll/ee5HdGRhrHhR5GGN0r4LGZBaj8oFDJitBTJzIZgFcmU0Y8ytWMZMzJOaXUSrUs5RxKnrxmbb5YXO9VGUhtpXldhEUogFr3IzIsvlpmdosVcGVGXFWp2oU9kLFL3dEkSz6NHEY1sjSRdIuDFWEhd8KxFqsRi1uM/nz9/zpxnwlESONdg6dKlbsaMGS4EHFHtjFIDHwKOo46l4TxSuxgDzi+rE2jg+BaFruOX4HXa0Nnf1lwAPufZeF8/r6zD97WK2qFnGjBxTw5qNGPxT+5T/r7/7RawFC3j4vTp09koCxkeHjqbHJqArmH5UrFKKksnxrK7FuRIs8STfBZv+luugXZ2pR/pP9Ois4z+TiMzUUkUjD0iEi1fzX8GmXyuxUBRcaUfykV0YZnlJGKQpOiGB76x5GeWkWWJc3mOrK6S7xdND+W5N6XyaRgtWJFe13GkaZnKOsYqGdOVVVbGupsyA/l7emTLHi7vwTdirNEt0qxnzAvBFcnQF16xh/TMpUuXHDowhlA9vQVraQhkudRdzOnK+04ZSP3DUhVSP61YsaLtd/ks7ZgtPcXqPqEafHkdqa84X6aCeL7YWlv6edGFHb+ZFICPlljHhg0bKuk0CSvVznWsotRu433alNdFrqG45ejoaPCaUkWERpLXjzFL2Rpllp7PJU2a/v7Ab8N05/9t27Z16KUqoFGsxnI9EosS2niSYg9SpU6B4JgTrvVW1flt1sT+0ADIJU2maXzcUTraGCRaL1Wp9rUMk16PMom8QhruxzvZIegJjFU7LLCePfS8uaQdPny4jTTL0dbee5mYokQsXTIWNY46kuMbnt8Kmec+LGWtOVIl9cT1rCB0V8WqkjAsRwta93TbwNYoGKsUSChN44lgBNCoHLHzquYKrU6qZ8lolCIN0Rh6cP0Q3U6I6IXILYOQI513hJaSKAorFpuHXJNfVlpRtmYBk1Su1obZr5dnKAO+L10Hrj3WZW+E3qh6IszE37F6EB+68mGpvKm4eb9bFrlzrok7fvr0Kfv727dvWRmdVTJHw0qiiCUSZ6wCK+7XL/AcsgNyL74DQQ730sv78Su7+t/A36MdY0sW5o40ahslXr58aZ5HtZB8GH64m9EmMZ7FpYw4T6QnrZfgenrhFxaSiSGXtPnz57e9TkNZLvTjeqhr734CNtrK41L40sUQckmj1lGKQ0rC37x544r8eNXRpnVE3ZZY7zXo8NomiO0ZUCj2uHz58rbXoZ6gc0uA+F6ZeKS/jhRDUq8MKrTho9fEkihMmhxtBI1DxKFY9XLpVcSkfoi8JGnToZO5sU5aiDQIW716ddt7ZLYtMQlhECdBGXZZMWldY5BHm5xgAroWj4C0hbYkSc/jBmggIrXJWlZM6pSETsEPGqZOndr2uuuR5rF169a2HoHPdurUKZM4CO1WTPqaDaAd+GFGKdIQkxAn9RuEWcTRyN2KSUgiSgF5aWzPTeA/lN5rZubMmR2bE4SIC4nJoltgAV/dVefZm72AtctUCJU2CMJ327hxY9t7EHbkyJFseq+EJSY16RPo3Dkq1kkr7+q0bNmyDuLQcZBEPYmHVdOBiJyIlrRDq41YPWfXOxUysi5fvtyaj+2BpcnsUV/oSoEMOk2CQGlr4ckhBwaetBhjCwH0ZHtJROPJkyc7UjcYLDjmrH7ADTEBXFfOYmB0k9oYBOjJ8b4aOYSe7QkKcYhFlq3QYLQhSidNmtS2RATwy8YOM3EQJsUjKiaWZ+vZToUQgzhkHXudb/PW5YMHD9yZM2faPsMwoc7RciYJXbGuBqJ1UIGKKLv915jsvgtJxCZDubdXr165mzdvtr1Hz5LONA8jrUwKPqsmVesKa49S3Q4WxmRPUEYdTjgiUcfUwLx589ySJUva3oMkP6IYddq6HMS4o55xBJBUeRjzfa4Zdeg56QZ43LhxoyPo7Lf1kNt7oO8wWAbNwaYjIv5lhyS7kRf96dvm5Jah8vfvX3flyhX35cuX6HfzFHOToS1H4BenCaHvO8pr8iDuwoUL7tevX+b5ZdbBair0xkFIlFDlW4ZknEClsp/TzXyAKVOmmHWFVSbDNw1l1+4f90U6IY/q4V27dpnE9bJ+v87QEydjqx/UamVVPRG+mwkNTYN+9tjkwzEx+atCm/X9WvWtDtAb68Wy9LXa1UmvCDDIpPkyOQ5ZwSzJ4jMrvFcr0rSjOUh+GcT4LSg5ugkW1Io0/SCDQBojh0hPlaJdah+tkVYrnTZowP8iq1F1TgMBBauufyB33x1v+NWFYmT5KmppgHC+NkAgbmRkpD3yn9QIseXymoTQFGQmIOKTxiZIWpvAatenVqRVXf2nTrAWMsPnKrMZHz6bJq5jvce6QK8J1cQNgKxlJapMPdZSR64/UivS9NztpkVEdKcrs5alhhWP9NeqlfWopzhZScI6QxseegZRGeg5a8C3Re1Mfl1ScP36ddcUaMuv24iOJtz7sbUjTS4qBvKmstYJoUauiuD3k5qhyr7QdUHMeCgLa1Ear9NquemdXgmum4fvJ6w1lqsuDhNrg1qSpleJK7K3TF0Q2jSd94uSZ60kK1e3qyVpQK6PVWXp2/FC3mp6jBhKKOiY2h3gtUV64TWM6wDETRPLDfSakXmH3w8g9Jlug8ZtTt4kVF0kLUYYmCCtD/DrQ5YhMGbA9L3ucdjh0y8kOHW5gU/VEEmJTcL4Pz/f7mgoAbYkAAAAAElFTkSuQmCC"]
    }
  ]
}'

レスポンス

json

{
  "model": "llava",
  "created_at": "2023-12-13T22:42:50. 203334Z",
  "message": {
    "role": "assistant",
    "content": " The image features a cute, little pig with an angry facial expression. It's wearing a heart on its shirt and is waving in the air. This scene appears to be part of a drawing or sketching project. ",
    "images": null
  },
  "done": true,
  "total_duration": 1668506709,
  "load_duration": 1986209,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 359682000,
  "eval_count": 83,
  "eval_duration": 1303285000
}

チャットリクエスト（再現可能な出力）

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "Hello! "
    }
  ],
  "options": {
    "seed": 101,
    "temperature": 0
  }
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2023-12-12T14:13:43. 416799Z",
  "message": {
    "role": "assistant",
    "content": "Hello! How are you today? "
  },
  "done": true,
  "total_duration": 5191566416,
  "load_duration": 2154458,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 383809000,
  "eval_count": 298,
  "eval_duration": 4799921000
}

チャットリクエスト（ツール使用）

リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [
    {
      "role": "user",
      "content": "What is the weather today in Paris? "
    }
  ],
  "stream": false,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_current_weather",
        "description": "Get the current weather for a location",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string",
              "description": "The location to get the weather for, e. g. San Francisco, CA"
            },
            "format": {
              "type": "string",
              "description": "The format to return the weather in, e. g. 'celsius' or 'fahrenheit'",
              "enum": ["celsius", "fahrenheit"]
            }
          },
          "required": ["location", "format"]
        }
      }
    }
  ]
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2024-07-22T20:33:28. 123648Z",
  "message": {
    "role": "assistant",
    "content": "",
    "tool_calls": [
      {
        "function": {
          "name": "get_current_weather",
          "arguments": {
            "format": "celsius",
            "location": "Paris, FR"
          }
        }
      }
    ]
  },
  "done_reason": "stop",
  "done": true,
  "total_duration": 885095291,
  "load_duration": 3753500,
  "prompt_eval_count": 122,
  "prompt_eval_duration": 328493000,
  "eval_count": 33,
  "eval_duration": 552222000
}

モデルの読み込み

メッセージ配列が空の場合、モデルはメモリに読み込まれます。##### リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": []
}'

レスポンス

json

{
  "model": "llama3. 2",
  "created_at": "2024-09-12T21:17:29. 110811Z",
  "message": {
    "role": "assistant",
    "content": ""
  },
  "done_reason": "load",
  "done": true
}

モデルのアンロード

メッセージ配列が空でkeep_aliveパラメータが0に設定されている場合、モデルはメモリからアンロードされます。##### リクエスト

shell

curl http://localhost:11434/api/chat -d '{
  "model": "llama3. 2",
  "messages": [],
  "keep_alive": 0
}'

レスポンス

単一のJSONオブジェクトが返されます：

json

{
  "model": "llama3. 2",
  "created_at": "2024-09-12T21:33:17. 547535Z",
  "message": {
    "role": "assistant",
    "content": ""
  },
  "done_reason": "unload",
  "done": true
}

モデルの作成

POST /api/create

以下からモデルを作成できます:

別のモデル
safetensorsディレクトリ
GGUFファイル

safetensorsディレクトリまたはGGUFファイルからモデルを作成する場合は、各ファイルに対してblobを作成し、各blobに関連付けられたファイル名とSHA256ダイジェストをfilesフィールドで使用する必要があります。

パラメータ

model: 作成するモデルの名前
from: (任意) 新しいモデルの元となる既存モデルの名前
files: (任意) モデルの作成元となるblobのSHA256ダイジェストとファイル名の辞書
adapters: (任意) LORAアダプタ用のblobのSHA256ダイジェストとファイル名の辞書
template: (任意) モデルのプロンプトテンプレート
renderer: (任意) モデルのレンダラーの名前
parser: (任意) モデルのパーサーの名前
license: (任意) モデルのライセンスを含む文字列または文字列のリスト
system: (任意) モデルのシステムプロンプトを含む文字列
parameters: (任意) モデルのパラメータの辞書（パラメータの一覧はModelfileを参照）
messages: (任意) 会話の作成に使用するメッセージオブジェクトのリスト
stream: (任意) falseの場合、レスポンスはオブジェクトのストリームではなく単一のレスポンスオブジェクトとして返されます
quantize (任意): 非量子化（例: float16）モデルを量子化します

量子化の種類

Type	Recommended
q4_K_M	*
q4_K_S
q8_0	*

例

新しいモデルの作成

既存のモデルから新しいモデルを作成します。

リクエスト

shell

curl http://localhost:11434/api/create -d '{
  "model": "mario",
  "from": "llama3.2",
  "system": "You are Mario from Super Mario Bros."
}'

レスポンス

JSONオブジェクトのストリームが返されます:

json

{"status":"reading model metadata"}
{"status":"creating system layer"}
{"status":"using already created layer sha256:22f7f8ef5f4c791c1b03d7eb414399294764d7cc82c7e94aa81a1feb80a983a2"}
{"status":"using already created layer sha256:8c17c2ebb0ea011be9981cc3922db8ca8fa61e828c5d3f44cb6ae342bf80460b"}
{"status":"using already created layer sha256:7c23fb36d80141c4ab8cdbb61ee4790102ebd2bf7aeff414453177d4f2110e5d"}
{"status":"using already created layer sha256:2e0493f67d0c8c9c68a8aeacdf6a38a2151cb3c4c1d42accf296e19810527988"}
{"status":"using already created layer sha256:2759286baa875dc22de5394b4a925701b1896a7e3f8e53275c36f75a877a82c9"}
{"status":"writing layer sha256:df30045fe90f0d750db82a058109cecd6d4de9c90a3d75b19c09e5f64580bb42"}
{"status":"writing layer sha256:f18a68eb09bf925bb1b669490407c1b1251c5db98dc4d3d81f3088498ea55690"}
{"status":"writing manifest"}
{"status":"success"}

モデルの量子化

非量子化モデルを量子化します。

リクエスト

shell

curl http://localhost:11434/api/create -d '{
  "model": "llama3.2:quantized",
  "from": "llama3.2:3b-instruct-fp16",
  "quantize": "q4_K_M"
}'

レスポンス

JSONオブジェクトのストリームが返されます:

json

{"status":"quantizing F16 model to Q4_K_M","digest":"0","total":6433687776,"completed":12302}
{"status":"quantizing F16 model to Q4_K_M","digest":"0","total":6433687776,"completed":6433687552}
{"status":"verifying conversion"}
{"status":"creating new layer sha256:fb7f4f211b89c6c4928ff4ddb73db9f9c0cfca3e000c3e40d6cf27ddc6ca72eb"}
{"status":"using existing layer sha256:966de95ca8a62200913e3f8bfbf84c8494536f1b94b49166851e76644e966396"}
{"status":"using existing layer sha256:fcc5a6bec9daf9b561a68827b67ab6088e1dba9d1fa2a50d7bbcc8384e0a265d"}
{"status":"using existing layer sha256:a70ff7e570d97baaf4e62ac6e6ad9975e04caa6d900d3742d37698494479e0cd"}
{"status":"using existing layer sha256:56bb8bd477a519ffa694fc449c2413c6f0e1d3b1c88fa7e3c9d88d3ae49d4dcb"}
{"status":"writing manifest"}
{"status":"success"}

GGUFからのモデル作成

GGUFファイルからモデルを作成します。filesパラメータには、使用するGGUFファイルのファイル名とSHA256ダイジェストを指定します。このAPIを呼び出す前に、/api/blobs/:digestを使用してGGUFファイルをサーバーにプッシュしてください。

リクエスト

shell

curl http://localhost:11434/api/create -d '{
  "model": "my-gguf-model",
  "files": {
    "test.gguf": "sha256:432f310a77f4650a88d0fd59ecdd7cebed8d684bafea53cbff0473542964f0c3"
  }
}'

レスポンス

JSONオブジェクトのストリームが返されます:

json

{"status":"parsing GGUF"}
{"status":"using existing layer sha256:432f310a77f4650a88d0fd59ecdd7cebed8d684bafea53cbff0473542964f0c3"}
{"status":"writing manifest"}
{"status":"success"}

Safetensorsディレクトリからのモデル作成

filesパラメータには、safetensorsモデルの各ファイルのファイル名とSHA256ダイジェストを含む辞書を指定します。このAPIを呼び出す前に、/api/blobs/:digestを使用して各ファイルをサーバーにプッシュしてください。ファイルはOllamaサーバーが再起動されるまでキャッシュに残ります。

リクエスト

shell

curl http://localhost:11434/api/create -d '{
  "model": "fred",
  "files": {
    "config.json": "sha256:dd3443e529fb2290423a0c65c2d633e67b419d273f170259e27297219828e389",
    "generation_config.json": "sha256:88effbb63300dbbc7390143fbbdd9d9fa50587b37e8bfd16c8c90d4970a74a36",
    "special_tokens_map.json": "sha256:b7455f0e8f00539108837bfa586c4fbf424e31f8717819a6798be74bef813d05",
    "tokenizer.json": "sha256:bbc1904d35169c542dffbe1f7589a5994ec7426d9e5b609d07bab876f32e97ab",
    "tokenizer_config.json": "sha256:24e8a6dc2547164b7002e3125f10b415105644fcf02bf9ad8b674c87b1eaaed6",
    "model.safetensors": "sha256:1ff795ff6a07e6a68085d206fb84417da2f083f68391c2843cd2b8ac6df8538f"
  }
}'

レスポンス

JSONオブジェクトのストリームが返されます:

shell

{"status":"converting model"}
{"status":"creating new layer sha256:05ca5b813af4a53d2c2922933936e398958855c44ee534858fcfd830940618b6"}
{"status":"using autodetected template llama3-instruct"}
{"status":"using existing layer sha256:56bb8bd477a519ffa694fc449c2413c6f0e1d3b1c88fa7e3c9d88d3ae49d4dcb"}
{"status":"writing manifest"}
{"status":"success"}

ブロブの存在確認

shell

HEAD /api/blobs/:digest

モデルの作成に使用するファイルブロブ（Binary Large Object）がサーバー上に存在することを確認します。これは ollama.com ではなく、お使いの Ollama サーバーを確認します。

クエリパラメータ

digest: ブロブの SHA256 ダイジェスト

例

リクエスト

shell

curl -I http://localhost:11434/api/blobs/sha256:29fdb92e57cf0827ded04ae6461b5931d01fa595843f55d36f5b275a52087dd2

レスポンス

ブロブが存在する場合は 200 OK を、存在しない場合は 404 Not Found を返します。

ブロブのプッシュ

POST /api/blobs/:digest

Ollama サーバーにファイルをプッシュして"ブロブ"（Binary Large Object）を作成します。

クエリパラメータ

digest: ファイルの期待される SHA256 ダイジェスト

例

リクエスト

shell

curl -T model.gguf -X POST http://localhost:11434/api/blobs/sha256:29fdb92e57cf0827ded04ae6461b5931d01fa595843f55d36f5b275a52087dd2

レスポンス

ブロブが正常に作成された場合は 201 Created を、使用されたダイジェストが期待されたものと異なる場合は 400 Bad Request を返します。

ローカルモデルの一覧

GET /api/tags

ローカルで利用可能なモデルを一覧表示します。

例

リクエスト

shell

curl http://localhost:11434/api/tags

レスポンス

単一の JSON オブジェクトが返されます。

json

{
  "models": [
    {
      "name": "deepseek-r1:latest",
      "model": "deepseek-r1:latest",
      "modified_at": "2025-05-10T08:06:48.639712648-07:00",
      "size": 4683075271,
      "digest": "0a8c266910232fd3291e71e5ba1e058cc5af9d411192cf88b6d30e92b6e73163",
      "details": {
        "parent_model": "",
        "format": "gguf",
        "family": "qwen2",
        "families": ["qwen2"],
        "parameter_size": "7.6B",
        "quantization_level": "Q4_K_M"
      }
    },
    {
      "name": "llama3.2:latest",
      "model": "llama3.2:latest",
      "modified_at": "2025-05-04T17:37:44.706015396-07:00",
      "size": 2019393189,
      "digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
      "details": {
        "parent_model": "",
        "format": "gguf",
        "family": "llama",
        "families": ["llama"],
        "parameter_size": "3.2B",
        "quantization_level": "Q4_K_M"
      }
    }
  ]
}

モデル情報の表示

POST /api/show

モデルの詳細、Modelfile、テンプレート、パラメータ、ライセンス、システムプロンプトなどの情報を表示します。

パラメータ

model: 表示するモデルの名前
verbose: (任意) true に設定すると、詳細なレスポンスフィールドの完全なデータを返します

例

リクエスト

shell

curl http://localhost:11434/api/show -d '{
  "model": "llava"
}'

レスポンス

json5

{
  modelfile: '# Modelfile generated by "ollama show"\n# To build a new Modelfile based on this one, replace the FROM line with:\n# FROM llava:latest\n\nFROM /Users/matt/.ollama/models/blobs/sha256:200765e1283640ffbd013184bf496e261032fa75b99498a9613be4e94d63ad52\nTEMPLATE """{{ .System }}\nUSER: {{ .Prompt }}\nASSISTANT: """\nPARAMETER num_ctx 4096\nPARAMETER stop "\u003c/s\u003e"\nPARAMETER stop "USER:"\nPARAMETER stop "ASSISTANT:"',
  parameters: 'num_keep                       24\nstop                           "<|start_header_id|>"\nstop                           "<|end_header_id|>"\nstop                           "<|eot_id|>"',
  template: "{{ if .System }}<|start_header_id|>system<|end_header_id|>\n\n{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>\n\n{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>\n\n{{ .Response }}<|eot_id|>",
  details: {
    parent_model: "",
    format: "gguf",
    family: "llama",
    families: ["llama"],
    parameter_size: "8.0B",
    quantization_level: "Q4_0",
  },
  model_info: {
    "general.architecture": "llama",
    "general.file_type": 2,
    "general.parameter_count": 8030261248,
    "general.quantization_version": 2,
    "llama.attention.head_count": 32,
    "llama.attention.head_count_kv": 8,
    "llama.attention.layer_norm_rms_epsilon": 0.00001,
    "llama.block_count": 32,
    "llama.context_length": 8192,
    "llama.embedding_length": 4096,
    "llama.feed_forward_length": 14336,
    "llama.rope.dimension_count": 128,
    "llama.rope.freq_base": 500000,
    "llama.vocab_size": 128256,
    "tokenizer.ggml.bos_token_id": 128000,
    "tokenizer.ggml.eos_token_id": 128009,
    "tokenizer.ggml.merges": [], // populates if `verbose=true`
    "tokenizer.ggml.model": "gpt2",
    "tokenizer.ggml.pre": "llama-bpe",
    "tokenizer.ggml.token_type": [], // populates if `verbose=true`
    "tokenizer.ggml.tokens": [], // populates if `verbose=true`
  },
  capabilities: ["completion", "vision"],
}

モデルのコピー

POST /api/copy

モデルをコピーします。既存のモデルから別の名前のモデルを作成します。

例

リクエスト

shell

curl http://localhost:11434/api/copy -d '{
  "source": "llama3.2",
  "destination": "llama3-backup"
}'

レスポンス

成功した場合は 200 OK を、ソースモデルが存在しない場合は 404 Not Found を返します。

モデルの削除

DELETE /api/delete

モデルとそのデータを削除します。

パラメータ

model: 削除するモデルの名前

例

リクエスト

shell

curl -X DELETE http://localhost:11434/api/delete -d '{
  "model": "llama3:13b"
}'

レスポンス

成功した場合は 200 OK を、削除対象のモデルが存在しない場合は 404 Not Found を返します。

モデルのプル

POST /api/pull

ollama ライブラリからモデルをダウンロードします。中断されたプルは中断した位置から再開され、複数の呼び出しは同じダウンロード進行状況を共有します。

パラメータ

model: プルするモデルの名前
insecure: (任意) ライブラリへの安全でない接続を許可します。開発中に独自のライブラリからプルする場合のみ使用してください。
stream: (任意) false に設定すると、オブジェクトのストリームではなく単一のレスポンスオブジェクトとしてレスポンスが返されます。

例

リクエスト

shell

curl http://localhost:11434/api/pull -d '{
  "model": "llama3.2"
}'

レスポンス

stream が指定されていない、または true に設定されている場合、JSON オブジェクトのストリームが返されます：

最初のオブジェクトはマニフェストです：

json

{
  "status": "pulling manifest"
}

次に一連のダウンロードレスポンスが続きます。ダウンロードが完了するまで、completed キーは含まれない場合があります。ダウンロードされるファイルの数は、マニフェストで指定されたレイヤーの数によって異なります。

json

{
  "status": "pulling digestname",
  "digest": "digestname",
  "total": 2142590208,
  "completed": 241970
}

すべてのファイルのダウンロードが完了した後、最終的なレスポンスは以下の通りです：

json

{
    "status": "verifying sha256 digest"
}
{
    "status": "writing manifest"
}
{
    "status": "removing any unused layers"
}
{
    "status": "success"
}

stream が false に設定されている場合、レスポンスは単一の JSON オブジェクトです：

json

{
  "status": "success"
}

モデルのプッシュ

POST /api/push

モデルをモデルライブラリにアップロードします。ollama.ai に登録し、最初に公開鍵を追加する必要があります。

パラメータ

model: <namespace>/<model>:<tag> の形式でプッシュするモデルの名前
insecure: (任意) ライブラリへの安全でない接続を許可します。開発中に独自のライブラリにプッシュする場合のみ使用してください。
stream: (任意) false に設定すると、オブジェクトのストリームではなく単一のレスポンスオブジェクトとしてレスポンスが返されます。

例

リクエスト

shell

curl http://localhost:11434/api/push -d '{
  "model": "mattw/pygmalion:latest"
}'

レスポンス

stream が指定されていない、または true に設定されている場合、JSON オブジェクトのストリームが返されます：

json

{ "status": "retrieving manifest" }

次に：

json

{
  "status": "starting upload",
  "digest": "sha256:bc07c81de745696fdf5afca05e065818a8149fb0c77266fb584d9b2cba3711ab",
  "total": 1928429856
}

次に一連のアップロードレスポンスが続きます：

json

{
  "status": "starting upload",
  "digest": "sha256:bc07c81de745696fdf5afca05e065818a8149fb0c77266fb584d9b2cba3711ab",
  "total": 1928429856
}

最後に、アップロードが完了すると：

json

{"status":"pushing manifest"}
{"status":"success"}

stream が false に設定されている場合、レスポンスは単一の JSON オブジェクトです：

json

{ "status": "success" }

埋め込みの生成

POST /api/embed

モデルから埋め込みを生成します

パラメータ

model: 埋め込みを生成するモデルの名前
input: 埋め込みを生成するテキスト、またはテキストのリスト

高度なパラメータ：

truncate: コンテキスト長に収まるように各入力の末尾を切り捨てます。false に設定されていてコンテキスト長を超えた場合はエラーを返します。デフォルトは true です
options: Modelfile のドキュメントに記載されている temperature などの追加のモデルパラメータ
keep_alive: リクエスト後にモデルがメモリに読み込まれたまま保持される時間を制御します（デフォルト：5m）
dimensions: 埋め込みの次元数

例

リクエスト

shell

curl http://localhost:11434/api/embed -d '{
  "model": "all-minilm",
  "input": "Why is the sky blue?"
}'

レスポンス

json

{
  "model": "all-minilm",
  "embeddings": [
    [
      0.010071029, -0.0017594862, 0.05007221, 0.04692972, 0.054916814,
      0.008599704, 0.105441414, -0.025878139, 0.12958129, 0.031952348
    ]
  ],
  "total_duration": 14143917,
  "load_duration": 1019500,
  "prompt_eval_count": 8
}

リクエスト（複数入力）

shell

curl http://localhost:11434/api/embed -d '{
  "model": "all-minilm",
  "input": ["Why is the sky blue?", "Why is the grass green?"]
}'

レスポンス

json

{
  "model": "all-minilm",
  "embeddings": [
    [
      0.010071029, -0.0017594862, 0.05007221, 0.04692972, 0.054916814,
      0.008599704, 0.105441414, -0.025878139, 0.12958129, 0.031952348
    ],
    [
      -0.0098027075, 0.06042469, 0.025257962, -0.006364387, 0.07272725,
      0.017194884, 0.09032035, -0.051705178, 0.09951512, 0.09072481
    ]
  ]
}

実行中モデルの一覧

GET /api/ps

現在メモリに読み込まれているモデルを一覧表示します。

例

リクエスト

shell

curl http://localhost:11434/api/ps

レスポンス

単一の JSON オブジェクトが返されます。

json

{
  "models": [
    {
      "name": "mistral:latest",
      "model": "mistral:latest",
      "size": 5137025024,
      "digest": "2ae6f6dd7a3dd734790bbbf58b8909a606e0e7e97e94b7604e0aa7ae4490e6d8",
      "details": {
        "parent_model": "",
        "format": "gguf",
        "family": "llama",
        "families": ["llama"],
        "parameter_size": "7.2B",
        "quantization_level": "Q4_0"
      },
      "expires_at": "2024-06-04T14:38:31.83753-07:00",
      "size_vram": 5137025024
    }
  ]
}

埋め込みの生成

注：このエンドポイントは /api/embed に置き換えられました。

POST /api/embeddings

モデルから埋め込みを生成します

パラメータ

model: 埋め込みを生成するモデルの名前
prompt: 埋め込みを生成するテキスト

高度なパラメータ：

options: Modelfile のドキュメントに記載されている temperature などの追加のモデルパラメータ
keep_alive: リクエスト後にモデルがメモリに読み込まれたまま保持される時間を制御します（デフォルト：5m）

例

リクエスト

shell

curl http://localhost:11434/api/embeddings -d '{
  "model": "all-minilm",
  "prompt": "Here is an article about llamas..."
}'

レスポンス

json

{
  "embedding": [
    0.5670403838157654, 0.009260174818336964, 0.23178744316101074,
    -0.2916173040866852, -0.8924556970596313, 0.8785552978515625,
    -0.34576427936553955, 0.5742510557174683, -0.04222835972905159,
    -0.137906014919281
  ]
}

バージョン

GET /api/version

Ollama のバージョンを取得します

例

リクエスト

shell

curl http://localhost:11434/api/version

レスポンス

json

{
  "version": "0.5.1"
}

実験的機能

画像生成（実験的）

WARNING

画像生成は実験的機能であり、将来のバージョンで変更される可能性があります。

画像生成モデルを使用する場合、標準の /api/generate エンドポイントを介して画像生成がサポートされました。API は画像生成モデルが使用されていることを自動的に検出します。

完全な API ドキュメントについては Completion の生成セクションを参照してください。実験的な画像生成パラメータ（width、height、steps）はそこに記載されています。

例

リクエスト

shell

curl http://localhost:11434/api/generate -d '{
  "model": "x/z-image-turbo",
  "prompt": "a sunset over mountains",
  "width": 1024,
  "height": 768
}'

レスポンス（ストリーミング）

生成中の進行状況の更新：

json

{
  "model": "x/z-image-turbo",
  "created_at": "2024-01-15T10:30:00.000000Z",
  "completed": 5,
  "total": 20,
  "done": false
}

最終レスポンス

json

{
  "model": "x/z-image-turbo",
  "created_at": "2024-01-15T10:30:15.000000Z",
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "done": true,
  "done_reason": "stop",
  "total_duration": 15000000000,
  "load_duration": 2000000000
}

API ​

エンドポイント ​

規約 ​

モデル名 ​

所要時間 ​

ストリーミングレスポンス ​

補完を生成する ​

パラメータ ​

構造化出力 ​

JSONモード ​

例 ​

生成リクエスト（ストリーミング） ​

リクエスト ​

レスポンス ​

リクエスト（ストリーミングなし） ​

リクエスト ​

レスポンス ​

リクエスト（サフィックスあり） ​

リクエスト ​

レスポンス ​

リクエスト（構造化出力） ​

リクエスト ​

レスポンス ​

リクエスト（JSONモード） ​

リクエスト ​

レスポンス ​

リクエスト（画像あり） ​

リクエスト ​

レスポンス ​

リクエスト（Rawモード） ​

リクエスト ​

リクエスト（再現可能な出力） ​

リクエスト ​

レスポンス ​

生成リクエスト（オプションあり） ​

リクエスト ​

レスポンス ​

モデルの読み込み ​

リクエスト ​

レスポンス ​

モデルのアンロード ​

リクエスト ​

レスポンス ​

チャット補完を生成する ​

パラメータ ​

ツール呼び出し ​

構造化出力 ​

例 ​

チャットリクエスト (ストリーミング) ​

リクエスト ​

レスポンス ​

チャットリクエスト (ツールを使用したストリーミング) ​

リクエスト ​

レスポンス ​

チャットリクエスト (ストリーミングなし) ​

リクエスト ​

レスポンス ​

チャットリクエスト (ツール使用、ストリーミングなし) ​

リクエスト ​

レスポンス ​

チャットリクエスト (構造化出力) ​

リクエスト ​

レスポンス ​

チャットリクエスト (履歴あり) ​

リクエスト ​

レスポンス ​

チャットリクエスト (履歴あり、ツール使用) ​

リクエスト ​

レスポンス ​

チャットリクエスト (画像あり) ​

リクエスト ​

レスポンス ​

チャットリクエスト（再現可能な出力） ​

リクエスト ​

レスポンス ​

チャットリクエスト（ツール使用） ​

リクエスト ​

レスポンス ​

モデルの読み込み ​

レスポンス ​

API

エンドポイント

規約

モデル名

所要時間

ストリーミングレスポンス

補完を生成する

パラメータ

構造化出力

JSONモード

例

生成リクエスト（ストリーミング）

リクエスト

レスポンス

リクエスト（ストリーミングなし）

リクエスト

レスポンス

リクエスト（サフィックスあり）

リクエスト

レスポンス

リクエスト（構造化出力）

リクエスト

レスポンス

リクエスト（JSONモード）

リクエスト

レスポンス

リクエスト（画像あり）

リクエスト

レスポンス

リクエスト（Rawモード）

リクエスト

リクエスト（再現可能な出力）

リクエスト

レスポンス

生成リクエスト（オプションあり）

リクエスト

レスポンス

モデルの読み込み

リクエスト

レスポンス

モデルのアンロード

リクエスト

レスポンス

チャット補完を生成する

パラメータ

ツール呼び出し

構造化出力

例

チャットリクエスト (ストリーミング)

リクエスト

レスポンス

チャットリクエスト (ツールを使用したストリーミング)

リクエスト

レスポンス

チャットリクエスト (ストリーミングなし)

リクエスト

レスポンス

チャットリクエスト (ツール使用、ストリーミングなし)

リクエスト

レスポンス

チャットリクエスト (構造化出力)

リクエスト

レスポンス

チャットリクエスト (履歴あり)

リクエスト

レスポンス

チャットリクエスト (履歴あり、ツール使用)

リクエスト

レスポンス

チャットリクエスト (画像あり)

リクエスト

レスポンス

チャットリクエスト（再現可能な出力）

リクエスト

レスポンス

チャットリクエスト（ツール使用）

リクエスト

レスポンス

モデルの読み込み

レスポンス