Zabezpiecz scenariusze AI przed błędami JSON, limitami API i halucynacjami

Spraw, aby produkcyjny przepływ w Make lub n8n nie zatrzymywał się w nocy przez ucięty nawias klamrowy, błąd 429 albo niedostępność jednego dostawcy LLM.

Inżynieria niezawodności dla produkcyjnych przepływów z modelami językowymi

  1. 01

    Włącz natywne Structured Outputs (`json_schema` + `strict: true`) zamiast prośby w tekście

    Pisanie w prompcie 'Zwróć wyłącznie czysty JSON bez znaczników markdown' zawodzi statystycznie co kilkaset wywołań; natywny parametr schematu API wymusza gramatykę na poziomie tokenów.

  2. 02

    Skonfiguruj ponowienie z rosnącym odstępem (Exponential Backoff) oraz model zapasowy

    Dla błędów przejściowych 429 (Rate Limit) i 502/503 ustaw 3 próby co 5, 15 i 45 sekund, a po niepowodzeniu skieruj ścieżkę błędu (Fallback) do równoważnego modelu u innego operatora.

  3. 03

    Sprawdzaj deterministycznie wartości zwrócone przez model przed zapisem w ERP/CRM

    Nawet poprawny składniowo JSON może zawierać ujemną cenę lub zmyślony kod kraju — dodaj zwykły filtr logiczny sprawdzający zakresy kwot, długość NIP i obecność klucza w słowniku.

  4. 04

    Zapisuj każdy odrzucony przebieg w tabeli Dead Letter Queue z powiadomieniem

    Żadne opłacone zamówienie ani lead nie może zniknąć po cichu — ścieżka awaryjna zapisuje pełny ładunek wejściowy do arkusza awaryjnego z linkiem do ręcznego wznowienia.

Przykład działania

Typowa krucha konfiguracja w Make (częste wyłączanie scenariusza)

Krok HTTP/OpenAI z instrukcją: 'Wyciągnij dane zamówienia i zwróć jako JSON' -> bezpośrednio podpięty moduł Parse JSON -> zapis w BaseLinkerze. Skutek: model dodał ```json na początku lub uciął odpowiedź przy max_tokens=300 -> scenariusz dezaktywowany w piątek wieczorem.

Odporna konfiguracja produkcyjna (99,9% ciągłości)

1. Wywołanie z parametrem `response_format: { type: 'json_schema', strict: true }` i zapasem `max_tokens: 1500`. 2. Ścieżka Error Handler (Break / Resume): przy HTTP 429/5xx automatyczny fallback przez OpenRouter/Anthropic. 3. Filtr walidacyjny: `kwota_brutto > 0` ORAZ `finish_reason == 'stop'`. 4. Przy anomalii merytorycznej: zapis rekordu do arkusza `Do_Weryfikacji` + ping na kanał #alerty-automatyzacji.

Sprawdzenie `finish_reason == 'stop'` chroni przed zapisaniem do bazy uciętego w połowie zamówienia.

Najczęściej zadawane pytania

Dlaczego Make potrafi całkowicie wyłączyć cały scenariusz po kilku kolejnych błędach API dostawcy AI?

Gdy na module HTTP lub OpenAI nie ma podpiętej ścieżki obsługi błędów (np. dyrektywy Break zapisującej niepełne wykonania w kolejce), platforma chroni konto przed pętlą i zatrzymuje harmonogram.

Czy użycie bramki takiej jak OpenRouter lub Portkey ułatwia przełączanie między modelami przy awarii?

Tak — podajesz w jednym wywołaniu listę modeli zapasowych (np. najpierw Claude Sonnet, a w razie awarii GPT-4o na innym dostawcy chmurowym), a bramka przełącza ruch automatycznie bez rozbudowywania klocków w Make.

Jak ograniczyć ryzyko, że zaktualizowana wersja modelu w chmurze nagle zmieni zachowanie mojego przepływu?

W produkcyjnych scenariuszach przypinaj konkretną datowaną migawkę modelu (np. `gpt-4o-mini-2024-07-18` zamiast ruchomego aliasu `latest`) i testuj nowe wydania na 20 zapisanych przykładach przed przepięciem.

Dowiedz się więcej

Powiązane poradniki i wyjaśnienia do tego zadania