Statuscodes

Endpunkte geben entsprechende HTTP-Statuscodes basierend auf dem Erfolg oder Fehlschlag der Anfrage in der HTTP-Statuszeile zurück (z. B. HTTP/1.1 200 OK oder HTTP/1.1 400 Bad Request). Gängige Statuscodes sind:

• 200: Erfolg
• 400: Ungültige Anfrage (fehlende Parameter, ungültiges JSON usw.)
• 404: Nicht gefunden (Modell existiert nicht usw.)
• 429: Zu viele Anfragen (z. B. wenn ein Ratenlimit überschritten wird)
• 500: Interner Serverfehler
• 502: Ungültiges Gateway (z. B. wenn ein Cloud-Modell nicht erreicht werden kann)

Fehlermeldungen

Fehler werden im Format application/json mit der folgenden Struktur zurückgegeben, wobei die Fehlermeldung in der Eigenschaft error enthalten ist:

{
  "error": "the model failed to generate a response"
}

Fehler, die während des Streamings auftreten

Tritt ein Fehler mitten im Streaming auf, wird der Fehler als Objekt im Format application/x-ndjson mit einer error-Eigenschaft zurückgegeben. Da die Antwort bereits gestartet wurde, wird der Statuscode der Antwort nicht geändert.

{"model":"gemma4","created_at":"2025-10-26T17:21:21.196249Z","response":" Yes","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:21:21.207235Z","response":".","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:21:21.219166Z","response":"I","done":false}
{"model":"gemma4","created_at":"2025-10-26T17:21:21.231094Z","response":"can","done":false}
{"error":"an error was encountered while running the model"}