Ollama oferece compatibilidade com a API de Mensagens do Anthropic para ajudar a conectar aplicativos existentes ao Ollama, incluindo ferramentas como o Claude Code.
Uso
Variáveis de ambiente
Para usar o Ollama com ferramentas que esperam a API do Anthropic (como o Claude Code), defina estas variáveis de ambiente:
shell
export ANTHROPIC_AUTH_TOKEN=ollama # obrigatório, mas ignorado
export ANTHROPIC_BASE_URL=http://localhost:11434Exemplo simples de /v1/messages
python
client = anthropic.Anthropic(
base_url='http://localhost:11434',
api_key='ollama', # obrigatório, mas ignorado
)
message = client.messages.create(
model='qwen3-coder',
max_tokens=1024,
messages=[
{'role': 'user', 'content': 'Hello, how are you?'}
]
)
print(message.content[0].text)javascript
const anthropic = new Anthropic({
baseURL: "http://localhost:11434",
apiKey: "ollama", // obrigatório, mas ignorado
});
const message = await anthropic.messages.create({
model: "qwen3-coder",
max_tokens: 1024,
messages: [{ role: "user", content: "Hello, how are you?" }],
});
console.log(message.content[0].text);shell
curl -X POST http://localhost:11434/v1/messages \
-H "Content-Type: application/json" \
-H "x-api-key: ollama" \
-H "anthropic-version: 2023-06-01" \
-d '{
"model": "qwen3-coder",
"max_tokens": 1024,
"messages": [{ "role": "user", "content": "Hello, how are you?" }]
}'Exemplo de streaming
python
client = anthropic.Anthropic(
base_url='http://localhost:11434',
api_key='ollama',
)
with client.messages.stream(
model='qwen3-coder',
max_tokens=1024,
messages=[{'role': 'user', 'content': 'Count from 1 to 10'}]
) as stream:
for text in stream.text_stream:
print(text, end='', flush=True)javascript
const anthropic = new Anthropic({
baseURL: "http://localhost:11434",
apiKey: "ollama",
});
const stream = await anthropic.messages.stream({
model: "qwen3-coder",
max_tokens: 1024,
messages: [{ role: "user", content: "Count from 1 to 10" }],
});
for await (const event of stream) {
if (
event.type === "content_block_delta" &&
event.delta.type === "text_delta"
) {
process.stdout.write(event.delta.text);
}
}shell
curl -X POST http://localhost:11434/v1/messages \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-coder",
"max_tokens": 1024,
"stream": true,
"messages": [{ "role": "user", "content": "Count from 1 to 10" }]
}'Exemplo de chamada de ferramentas
python
client = anthropic.Anthropic(
base_url='http://localhost:11434',
api_key='ollama',
)
message = client.messages.create(
model='qwen3-coder',
max_tokens=1024,
tools=[
{
'name': 'get_weather',
'description': 'Get the current weather in a location',
'input_schema': {
'type': 'object',
'properties': {
'location': {
'type': 'string',
'description': 'The city and state, e.g. San Francisco, CA'
}
},
'required': ['location']
}
}
],
messages=[{'role': 'user', 'content': "What's the weather in San Francisco?"}]
)
for block in message.content:
if block.type == 'tool_use':
print(f'Tool: {block.name}')
print(f'Input: {block.input}')javascript
const anthropic = new Anthropic({
baseURL: "http://localhost:11434",
apiKey: "ollama",
});
const message = await anthropic.messages.create({
model: "qwen3-coder",
max_tokens: 1024,
tools: [
{
name: "get_weather",
description: "Get the current weather in a location",
input_schema: {
type: "object",
properties: {
location: {
type: "string",
description: "The city and state, e.g. San Francisco, CA",
},
},
required: ["location"],
},
},
],
messages: [{ role: "user", content: "What's the weather in San Francisco?" }],
});
for (const block of message.content) {
if (block.type === "tool_use") {
console.log("Tool:", block.name);
console.log("Input:", block.input);
}
}shell
curl -X POST http://localhost:11434/v1/messages \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-coder",
"max_tokens": 1024,
"tools": [
{
"name": "get_weather",
"description": "Get the current weather in a location",
"input_schema": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city and state"
}
},
"required": ["location"]
}
}
],
"messages": [{ "role": "user", "content": "What is the weather in San Francisco?" }]
}'Usando com o Claude Code
Claude Code pode ser configurado para usar o Ollama como backend.
Modelos recomendados
Para casos de uso de programação, modelos como glm-4.7, minimax-m2.1 e qwen3-coder são recomendados.
Baixe um modelo antes de usar:
shell
ollama pull qwen3-coderNota: O Qwen 3 coder é um modelo de 30 bilhões de parâmetros que requer pelo menos 24GB de VRAM para funcionar sem problemas. Mais memória é necessária para comprimentos de contexto maiores.
shell
ollama pull glm-4.7:cloudConfiguração rápida
shell
ollama launch claudeIsso solicitará que você selecione um modelo, configure o Claude Code automaticamente e o inicie. Para configurar sem iniciar:
shell
ollama launch claude --configConfiguração manual
Defina as variáveis de ambiente e execute o Claude Code:
shell
ANTHROPIC_AUTH_TOKEN=ollama ANTHROPIC_BASE_URL=http://localhost:11434 claude --model qwen3-coderOu defina as variáveis de ambiente no perfil do seu shell:
shell
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_BASE_URL=http://localhost:11434Depois execute o Claude Code com qualquer modelo do Ollama:
shell
claude --model qwen3-coderEndpoints
/v1/messages
Recursos suportados
- [x] Mensagens
- [x] Streaming
- [x] Prompts de sistema
- [x] Conversas multiturno
- [x] Visão (imagens)
- [x] Ferramentas (chamada de função)
- [x] Resultados de ferramenta
- [x] Pensamento/pensamento estendido
Campos de solicitação suportados
- [x]
model - [x]
max_tokens - [x]
messages- [x] Conteúdo de texto
content - [x] Conteúdo de imagem
content(base64) - [x] Array de blocos de conteúdo
- [x] Blocos
tool_use - [x] Blocos
tool_result - [x] Blocos
thinking
- [x] Conteúdo de texto
- [x]
system(string ou array) - [x]
stream - [x]
temperature - [x]
top_p - [x]
top_k - [x]
stop_sequences - [x]
tools - [x]
thinking - [ ]
tool_choice - [ ]
metadata
Campos de resposta suportados
- [x]
id - [x]
type - [x]
role - [x]
model - [x]
content(blocos de texto, tool_use, thinking) - [x]
stop_reason(end_turn, max_tokens, tool_use) - [x]
usage(input_tokens, output_tokens)
Eventos de streaming
- [x]
message_start - [x]
content_block_start - [x]
content_block_delta(text_delta, input_json_delta, thinking_delta) - [x]
content_block_stop - [x]
message_delta - [x]
message_stop - [x]
ping - [x]
error
Modelos
Ollama suporta modelos locais e de nuvem.
Modelos locais
Baixe um modelo local antes de usar:
shell
ollama pull qwen3-coderModelos locais recomendados:
qwen3-coder- Excelente para tarefas de programaçãogpt-oss:20b- Modelo geral potente
Modelos de nuvem
Modelos de nuvem estão disponíveis imediatamente sem necessidade de download:
glm-4.7:cloud- Modelo de nuvem de alta performanceminimax-m2.1:cloud- Modelo de nuvem rápido
Nomes de modelo padrão
Para ferramentas que dependem de nomes de modelo padrão do Anthropic, como claude-3-5-sonnet, use ollama cp para copiar um nome de modelo existente:
shell
ollama cp qwen3-coder claude-3-5-sonnetDepois, este novo nome de modelo pode ser especificado no campo model:
shell
curl http://localhost:11434/v1/messages \
-H "Content-Type: application/json" \
-d '{
"model": "claude-3-5-sonnet",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello!"
}
]
}'Diferenças em relação à API do Anthropic
Diferenças de comportamento
- A chave de API é aceita, mas não validada
- O cabeçalho
anthropic-versioné aceito, mas não utilizado - As contagens de tokens são aproximações baseadas no tokenizador do modelo subjacente
Não suportado
Os seguintes recursos da API do Anthropic não são suportados no momento:
| Recurso | Descrição |
|---|---|
/v1/messages/count_tokens | Endpoint de contagem de tokens |
tool_choice | Forçar o uso de uma ferramenta específica ou desativar ferramentas |
metadata | Metadados de solicitação (user_id) |
| Cache de prompt | Blocos cache_control para armazenar prefixos em cache |
| API de lotes | /v1/messages/batches para processamento de lotes assíncrono |
| Citações | Blocos de conteúdo citations |
| Suporte a PDF | Blocos de conteúdo document com arquivos PDF |
| Erros enviados pelo servidor | Eventos error durante o streaming (erros retornam status HTTP) |
Suporte parcial
| Recurso | Status |
|---|---|
| Conteúdo de imagem | Imagens base64 suportadas; imagens via URL não suportadas |
| Pensamento estendido | Suporte básico; budget_tokens é aceito, mas não aplicado |