Ollama

日本語

Select Language
English
简体中文
Español
한국어
Русский
Português (BR)
Français
Deutsch
Bahasa Indonesia
Tiếng Việt
العربية
繁體中文
Italiano
Українська
Polski
Türkçe
ภาษาไทย
हिन्दी
Nederlands

日本語

Select Language
English
简体中文
Español
한국어
Русский
Português (BR)
Français
Deutsch
Bahasa Indonesia
Tiếng Việt
العربية
繁體中文
Italiano
Українська
Polski
Türkçe
ภาษาไทย
हिन्दी
Nederlands

Appearance

Ollamaをアップグレードするにはどうすればよいですか？ ​

macOSとWindows版のOllamaは自動的にアップデートをダウンロードします。タスクバーまたはメニューバーのアイコンをクリックし、「Restart to update」をクリックしてアップデートを適用してください。アップデートは手動で最新バージョンをダウンロードしてインストールすることも可能です。

Linuxの場合は、インストールスクリプトを再実行してください：

shell
curl -fsSL https://ollama.com/install.sh | sh

ログを確認するにはどうすればよいですか？ ​

ログの使用方法の詳細については、トラブルシューティングドキュメントを参照してください。

私のGPUはOllamaに対応していますか？ ​

GPUドキュメントを参照してください。

コンテキストウィンドウサイズを指定するにはどうすればよいですか？ ​

デフォルトでは、Ollamaは4096トークンのコンテキストウィンドウサイズを使用します。

これはOLLAMA_CONTEXT_LENGTH環境変数で上書きできます。例えば、デフォルトのコンテキストウィンドウを8Kに設定するには、次のようにします：

shell
OLLAMA_CONTEXT_LENGTH=8192 ollama serve

ollama runを使用するときにこれを変更するには、/set parameterを使用します：

shell
/set parameter num_ctx 4096

APIを使用する場合は、num_ctxパラメータを指定します：

shell
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Why is the sky blue?",
  "options": {
    "num_ctx": 4096
  }
}'

モデルがGPUにロードされたかどうかを確認するにはどうすればよいですか？ ​

現在メモリにロードされているモデルを確認するには、ollama psコマンドを使用します。

shell
ollama ps

INFO

出力:

NAME        ID            SIZE    PROCESSOR   UNTIL
llama3:70b  bcfb190ca3a7  42 GB   100% GPU    4 minutes from now

Processor列には、モデルがロードされたメモリが表示されます：

  • 100% GPUはモデルが完全にGPUにロードされたことを意味します
  • 100% CPUはモデルが完全にシステムメモリにロードされたことを意味します
  • 48%/52% CPU/GPUはモデルがGPUとシステムメモリの両方に部分的にロードされたことを意味します

Ollamaサーバーを設定するにはどうすればよいですか？ ​

Ollamaサーバーは環境変数で設定できます。

Macでの環境変数の設定 ​

OllamaがmacOSアプリケーションとして実行されている場合、環境変数はlaunchctlを使用して設定する必要があります：

  1. 各環境変数について、launchctl setenvを実行します。

    bash
    launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

  2. Ollamaアプリケーションを再起動します。

Linuxでの環境変数の設定 ​

Ollamaがsystemdサービスとして実行されている場合、環境変数はsystemctlを使用して設定する必要があります：

  1. systemctl edit ollama.serviceを実行してsystemdサービスを編集します。エディタが開きます。

  2. 各環境変数について、[Service]セクションの下にEnvironment行を追加します：

    ini
    [Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

  3. 保存して終了します。

  4. systemdをリロードし、Ollamaを再起動します：

    shell
    systemctl daemon-reload
systemctl restart ollama

Windowsでの環境変数の設定 ​

Windowsでは、Ollamaはユーザーとシステムの環境変数を継承します。

  1. 最初に、タスクバーのOllamaアイコンをクリックして終了します。

  2. 設定アプリ（Windows 11）またはコントロールパネル（Windows 10）を開き、「環境変数」を検索します。

  3. 「アカウントの環境変数を編集」をクリックします。

  4. ユーザーアカウントのOLLAMA_HOST、OLLAMA_MODELSなどの環境変数を編集または新規作成します。

  5. OK/適用をクリックして保存します。

  6. WindowsスタートメニューからOllamaアプリケーションを起動します。

プロキシの背後でOllamaを使用するにはどうすればよいですか？ ​

Ollamaはインターネットからモデルをダウンロードするため、モデルにアクセスするにはプロキシサーバーが必要な場合があります。HTTPS_PROXYを使用して、アウトバウンドリクエストをプロキシ経由にリダイレクトします。プロキシ証明書がシステム証明書としてインストールされていることを確認してください。お使いのプラットフォームでの環境変数の設定方法については、上記のセクションを参照してください。

注記

HTTP_PROXYの設定は避けてください。OllamaはモデルのプルにHTTPではなくHTTPSのみを使用します。HTTP_PROXYを設定すると、クライアントからサーバーへの接続が中断される可能性があります。

Dockerでプロキシの背後でOllamaを使用する方法 ​

OllamaのDockerコンテナイメージは、コンテナ起動時に-e HTTPS_PROXY=https://proxy.example.comを渡すことでプロキシを使用するように設定できます。

または、Dockerデーモンをプロキシを使用するように設定することもできます。Docker DesktopのmacOS、Windows、Linux向けの手順、およびsystemdを使用したDockerデーモン向けの手順が利用可能です。

HTTPSを使用する場合は、証明書がシステム証明書としてインストールされていることを確認してください。自己署名証明書を使用する場合は、新しいDockerイメージが必要になる場合があります。

dockerfile
FROM ollama/ollama
COPY my-ca.pem /usr/local/share/ca-certificates/my-ca.crt
RUN update-ca-certificates

このイメージをビルドして実行します：

shell
docker build -t ollama-with-ca .
docker run -d -e HTTPS_PROXY=https://my.proxy.example.com -p 11434:11434 ollama-with-ca

Ollamaは私のプロンプトと回答をollama.comに送信しますか？ ​

Ollamaはローカルで実行されます。ローカルで実行している場合、お客様のプロンプトやデータを閲覧することはありません。クラウドホスト型モデルを使用する場合、サービスを提供するためにプロンプトと応答を処理しますが、そのコンテンツを保存、記録、またはトレーニングに使用することはありません。サービス提供のため、基本的なアカウント情報と限られた使用メタデータを収集しますが、これにはプロンプトや応答のコンテンツは含まれません。お客様のデータを販売することはありません。アカウントはいつでも削除できます。

Ollamaのクラウド機能を無効にするにはどうすればよいですか？ ​

Ollamaのクラウド機能を無効にすることで、ローカルのみモードで実行できます。Ollamaのクラウド機能をオフにすると、Ollamaのクラウドモデルとウェブ検索を使用できなくなります。

~/.ollama/server.jsonでdisable_ollama_cloudを設定します：

json
{
  "disable_ollama_cloud": true
}

環境変数を設定することもできます：

shell
OLLAMA_NO_CLOUD=1

設定変更後、Ollamaを再起動してください。無効化されると、OllamaのログにOllama cloud disabled: trueが表示されます。

Ollamaをネットワーク上に公開するにはどうすればよいですか？ ​

Ollamaはデフォルトで127.0.0.1の11434ポートにバインドします。OLLAMA_HOST環境変数でバインドアドレスを変更できます。

お使いのプラットフォームでの環境変数の設定方法については、上記のセクションを参照してください。

プロキシサーバーでOllamaを使用するにはどうすればよいですか？ ​

OllamaはHTTPサーバーを実行しており、Nginxなどのプロキシサーバーを使用して公開できます。そのためには、プロキシを設定してリクエストを転送し、必要に応じてヘッダーを設定します（Ollamaをネットワーク上に公開しない場合）。例えば、Nginxの場合：

nginx
server {
    listen 80;
    server_name example.com;  # Replace with your domain or IP
    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host localhost:11434;
    }
}

Ollamaをngrokとともに使用するにはどうすればよいですか？ ​

Ollamaには、さまざまなトンネリングアプリを使用してアクセスできます。例えばNgrokの場合：

shell
ngrok http 11434 --host-header="localhost:11434"

OllamaをCloudflare Tunnelとともに使用するにはどうすればよいですか？ ​

Cloudflare TunnelでOllamaを使用するには、--urlと--http-host-headerフラグを使用します：

shell
cloudflared tunnel --url http://localhost:11434 --http-host-header="localhost:11434"

追加のウェブオリジンからOllamaへのアクセスを許可するにはどうすればよいですか？ ​

Ollamaはデフォルトで127.0.0.1と0.0.0.0からのクロスオリジンリクエストを許可しています。追加のオリジンはOLLAMA_ORIGINSで設定できます。

ブラウザ拡張機能の場合は、拡張機能のオリジンパターンを明示的に許可する必要があります。すべてのブラウザ拡張機能へのアクセスを許可する場合は、OLLAMA_ORIGINSにchrome-extension://*、moz-extension://*、safari-web-extension://*を含めるか、必要に応じて特定の拡張機能を設定してください：

# Allow all Chrome, Firefox, and Safari extensions
OLLAMA_ORIGINS=chrome-extension://*,moz-extension://*,safari-web-extension://* ollama serve

お使いのプラットフォームでの環境変数の設定方法については、上記のセクションを参照してください。

モデルはどこに保存されますか？ ​

  • macOS: ~/.ollama/models
  • Linux: /usr/share/ollama/.ollama/models
  • Windows: C:\Users\%username%\.ollama\models

別の場所に設定するにはどうすればよいですか？ ​

別のディレクトリを使用する必要がある場合は、環境変数OLLAMA_MODELSを選択したディレクトリに設定します。

注記

標準インストーラを使用したLinuxでは、ollamaユーザーが指定されたディレクトリへの読み取りおよび書き込みアクセス権を持つ必要があります。ディレクトリをollamaユーザーに割り当てるには、sudo chown -R ollama:ollama <directory>を実行します。

お使いのプラットフォームでの環境変数の設定方法については、上記のセクションを参照してください。

Visual Studio CodeでOllamaを使用するにはどうすればよいですか？ ​

Ollamaを活用するVS Codeおよび他のエディタ用のプラグインが多数公開されています。メインリポジトリのREADMEの下部にある拡張機能とプラグインの一覧を参照してください。

DockerでGPUアクセラレーションを使用してOllamaを使用するにはどうすればよいですか？ ​

OllamaのDockerコンテナは、LinuxまたはWindows（WSL2使用）でGPUアクセラレーションを設定できます。これには、nvidia-container-toolkitが必要です。詳細については、ollama/ollamaを参照してください。

GPUパススルーとエミュレーションがサポートされていないため、macOSのDocker DesktopではGPUアクセラレーションは利用できません。

Windows 10のWSL2でネットワークが遅いのはなぜですか？ ​

これは、Ollamaのインストールとモデルのダウンロードの両方に影響する可能性があります。

コントロールパネル > ネットワークとインターネット > ネットワークの状態とタスクの表示を開き、左側のパネルで「アダプタの設定の変更」をクリックします。vEthernet (WSL)アダプタを見つけ、右クリックして「プロパティ」を選択します。 「構成」をクリックし、「詳細設定」タブを開きます。各プロパティを検索して、Large Send Offload Version 2 (IPv4)とLarge Send Offload Version 2 (IPv6)を見つけます。これらの両方のプロパティを_無効に_します。

応答時間を短縮するためにモデルをOllamaにプリロードするにはどうすればよいですか？ ​

APIを使用している場合、Ollamaサーバーに空のリクエストを送信することでモデルをプリロードできます。これは/api/generateと/api/chatの両方のAPIエンドポイントで機能します。

generateエンドポイントを使用してmistralモデルをプリロードするには、次のようにします：

shell
curl http://localhost:11434/api/generate -d '{"model": "mistral"}'

チャット補完エンドポイントを使用するには、次のようにします：

shell
curl http://localhost:11434/api/chat -d '{"model": "mistral"}'

CLIを使用してモデルをプリロードするには、次のコマンドを使用します：

shell
ollama run llama3.2 ""

モデルをメモリに保持したり、すぐにアンロードしたりするにはどうすればよいですか？ ​

デフォルトでは、モデルはアンロードされるまで5分間メモリに保持されます。これは、LLMに多数のリクエストを送信する場合に応答時間を短縮するためです。モデルをすぐにメモリからアンロードする場合は、ollama stopコマンドを使用します：

shell
ollama stop llama3.2

APIを使用している場合は、/api/generateと/api/chatエンドポイントでkeep_aliveパラメータを使用して、モデルがメモリに保持される時間を設定できます。keep_aliveパラメータには次の値を設定できます：

  • 期間を表す文字列（例：「10m」、「24h」）
  • 秒数を表す数値（例：3600）
  • モデルをメモリに保持する任意の負の数値（例：-1または「-1m」）
  • 応答生成後にモデルをすぐにアンロードする「0」

例えば、モデルをプリロードしてメモリに保持するには、次のようにします：

shell
curl http://localhost:11434/api/generate -d '{"model": "llama3.2", "keep_alive": -1}'

モデルをアンロードしてメモリを解放するには、次のようにします：

shell
curl http://localhost:11434/api/generate -d '{"model": "llama3.2", "keep_alive": 0}'

または、Ollamaサーバー起動時にOLLAMA_KEEP_ALIVE環境変数を設定することで、すべてのモデルがメモリにロードされる時間を変更できます。OLLAMA_KEEP_ALIVE変数は、上記のkeep_aliveパラメータと同じ型を使用します。環境変数を正しく設定する方法については、Ollamaサーバーの設定方法のセクションを参照してください。

/api/generateと/api/chatAPIエンドポイントのkeep_aliveAPIパラメータは、OLLAMA_KEEP_ALIVE設定を上書きします。

Ollamaサーバーがキューに保持できるリクエストの最大数を管理するにはどうすればよいですか？ ​

サーバーに過剰なリクエストが送信された場合、サーバーが過負荷であることを示す503エラーが返されます。OLLAMA_MAX_QUEUEを設定することで、キューに保持できるリクエスト数を調整できます。

Ollamaは同時リクエストをどのように処理しますか？ ​

Ollamaは2レベルの並列処理をサポートしています。システムに十分な利用可能メモリ（CPU推論の場合はシステムメモリ、GPU推論の場合はVRAM）がある場合、複数のモデルを同時にロードできます。特定のモデルについて、モデルのロード時に十分な利用可能メモリがある場合、並列リクエスト処理を許可するように設定されます。

1つ以上のモデルが既にロードされている状態で新しいモデルをロードするための十分な利用可能メモリがない場合、新しいモデルをロードできるまですべての新規リクエストがキューに保持されます。既存のモデルがアイドル状態になると、1つ以上がアンロードされて新しいモデルのための領域が確保されます。キューに保持されたリクエストは順番に処理されます。GPU推論を使用する場合、並列モデルロードを許可するには、新しいモデルが完全にVRAMに収まる必要があります。

特定のモデルの並列リクエスト処理は、並列リクエストの数だけコンテキストサイズが増加することを意味します。例えば、2Kのコンテキストで4つの並列リクエストを行うと、8Kのコンテキストと追加のメモリ割り当てが発生します。

以下のサーバー設定を使用して、ほとんどのプラットフォームでのOllamaの同時リクエスト処理方法を調整できます：

  • OLLAMA_MAX_LOADED_MODELS - 利用可能なメモリに収まる場合に同時にロードできるモデルの最大数。デフォルトはGPUの数×3、またはCPU推論の場合は3です。
  • OLLAMA_NUM_PARALLEL - 各モデルが同時に処理する並列リクエストの最大数。デフォルトは1。必要なRAMはOLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTHに比例して増加します。
  • OLLAMA_MAX_QUEUE - 追加のリクエストを拒否する前に、Ollamaがビジー時にキューに保持するリクエストの最大数。デフォルトは512

注：Radeon GPUを搭載したWindowsでは、現在、利用可能なVRAMのレポートに関するROCm v5.7の制限により、デフォルトでモデルは最大1つまでとなっています。ROCm v6.2が利用可能になると、Windows版Radeonは上記のデフォルトに従います。WindowsのRadeonで並列モデルロードを有効にすることはできますが、GPUのVRAMに収まる以上のモデルをロードしないようにしてください。

Ollamaは複数のGPUでモデルをどのようにロードしますか？ ​

新しいモデルをロードする際、Ollamaはモデルに必要なVRAMと現在利用可能なVRAMを比較評価します。モデルが単一のGPUに完全に収まる場合、OllamaはそのGPUにモデルをロードします。これは推論中にPCIバスを介して転送されるデータ量を削減するため、通常最高のパフォーマンスを提供します。モデルが単一のGPUに完全に収まらない場合は、利用可能なすべてのGPUに分散されます。

Flash Attentionを有効にするにはどうすればよいですか？ ​

Flash Attentionは、コンテキストサイズが大きくなるにつれてメモリ使用量を大幅に削減できる、最新のモデルの多くに搭載されている機能です。Ollamaは、選択したバックエンドとデバイスがサポートしている場合、Flash Attentionを自動的に使用します。強制的にFlash Attentionを有効にするには、Ollamaサーバーを起動する際にOLLAMA_FLASH_ATTENTION=1を設定します。無効にするにはOLLAMA_FLASH_ATTENTION=0を設定します。

K/Vキャッシュの量子化タイプを設定するにはどうすればよいですか？ ​

Flash Attentionが有効な場合、K/Vコンテキストキャッシュを量子化することでメモリ使用量を大幅に削減できます。

Ollamaで量子化されたK/Vキャッシュを使用するには、以下の環境変数を設定できます：

  • OLLAMA_KV_CACHE_TYPE - K/Vキャッシュの量子化タイプ。デフォルトはf16です。

Note

現在これはグローバルオプションです。つまり、すべてのモデルが指定された量子化タイプで実行されます。

現在利用可能なK/Vキャッシュの量子化タイプは以下の通りです：

  • f16 - 高精度でメモリ使用量も高い（デフォルト）。
  • q8_0 - 8ビット量子化で、f16の約1/2のメモリを使用し、精度の損失は非常に小さいため、モデルの品質に目立った影響を与えることは通常ありません（f16を使用していない場合に推奨）。
  • q4_0 - 4ビット量子化で、f16の約1/4のメモリを使用し、精度の損失は小〜中程度で、より高いコンテキストサイズではより顕著になる可能性があります。

キャッシュの量子化がモデルの応答品質に与える影響は、モデルとタスクによって異なります。GQA数が多いモデル（例：Qwen2）は、GQA数が低いモデルよりも量子化による精度への影響が大きくなる可能性があります。

メモリ使用量と品質の最適なバランスを見つけるには、異なる量子化タイプを試してみる必要があるかもしれません。

Ollama公開鍵はどこで確認できますか？ ​

Ollama公開鍵は、ローカルのOllamaインスタンスとollama.comとの通信を可能にする鍵ペアの公開部分です。

以下の場合に必要です：

  • Ollamaにモデルをプッシュする
  • Ollamaからプライベートモデルを自分のマシンにプルする
  • Ollama Cloudでホストされているモデルを実行する

鍵を追加する方法 ​

  • MacおよびWindowsアプリの「設定」ページからサインイン

  • CLIからサインイン

shell
ollama signin

Ollama公開鍵の保存場所 ​

OSid_ed25519.pubのパス
macOS~/.ollama/id_ed25519.pub
Linux/usr/share/ollama/.ollama/id_ed25519.pub
WindowsC:\Users\<username>\.ollama\id_ed25519.pub

Note

<username>を実際のWindowsユーザー名に置き換えてください。

コンピューターにログインしたときにOllamaが自動起動しないようにするにはどうすればよいですか？ ​

WindowsとmacOS版のOllamaは、インストール時にログイン項目として登録されます。自動起動したくない場合は、この設定を無効にできます。この設定は、アプリケーションをアンインストールしない限り、アップグレード後も維持されます。

Windows

  • タスクマネージャーのスタートアップタブに移動し、ollamaを検索して無効にするをクリックします

MacOS

  • 設定を開き、「ログイン項目」を検索し、「バックグラウンドでの許可」の下のOllamaエントリを見つけて、スライダーをクリックして無効にします。