SAP-RPT-1-OSS: Context Size & Bagging Guide

SAP-RPT-1-OSS: Context Size & Bagging Guide

Co tyto parametry ovlivňují?

SAP-RPT-1-OSS je foundation model pro tabulková data. Netrénuje se klasicky — místo toho se učí in-context, tedy z příkladů, které mu pošlete v jednom requestu. Dva klíčové parametry ovlivňují kvalitu a rychlost predikcí:

max_context_size — Velikost kontextu

Kolik řádků trénovacích dat model "vidí" najednou při predikci.

Hodnota

Využití

Rychlost

1024

Rychlé testy, prototypování

Nejrychlejší

2048

Výchozí nastavení, dobrý poměr výkon/přesnost

Střední

4096

Produkční nasazení, větší datasety

Pomalejší

8192

Maximální přesnost, velké datasety

Nejpomalejší

Jak to funguje: Model zpracovává trénovací data jako "kontext" — čím větší kontext, tím více vzorů a korelací dokáže zachytit. Pokud máte 500 trénovacích řádků a context_size=1024, model je pojme všechny. Pokud máte 2000 řádků a context_size=1024, model z nich náhodně vybere podmnožinu.

Doporučení:

  • Máte méně než 200 řádků → 1024 nebo 2048 stačí

  • Máte 200–1000 řádků → 2048 nebo 4096

  • Máte 1000+ řádků → 4096 nebo 8192

bagging — Počet ensemble iterací

Kolikrát model provede predikci nezávisle a výsledky zprůměruje (ensemble/bagging princip).

Hodnota

Využití

Efekt na čas

1

Rychlý test, explorativní analýza

1× (baseline)

2

Výchozí nastavení

2× pomalejší

4

Vyšší přesnost, důležitá rozhodnutí

4× pomalejší

8

Maximální stabilita výsledků

8× pomalejší

16

Absolutní maximum (serverový limit)

16× pomalejší

Jak to funguje: Každá iterace náhodně přeskládá kontext (jiné pořadí řádků, jiný výběr podmnožiny). Finální predikce je průměr všech iterací. Vyšší bagging = stabilnější a přesnější výsledky, ale lineárně roste čas.

Doporučení:

  • Rychlý test / vývoj → 1

  • Běžné použití → 2

  • Důležitá predikce / prezentace → 4

  • Maximální přesnost → 8

Předvolené profily

Profil

context_size

bagging

Typické použití

⚡ Rychlé

1024

1

Testování, debug, ověření dat

⚖️ Balanced

2048

2

Běžné predikce (výchozí)

🎯 Přesné

4096

4

Produkce, reporty, demo

🔬 Maximum

8192

8–16

Validace modelu, benchmarky

Jak nastavit v API requestu

JSON request (/predict nebo /predict/batch)

{
  "training_data": [...],
  "training_target": [...],
  "prediction_data": [...],
  "task_type": "classification",
  "target_column": "CHURN_STATUS",
  "max_context_size": 4096,
  "bagging": 4
}

CSV upload (/predict/csv)

curl -X POST https://YOUR-API-URL/predict/csv \
  -H "Authorization: Bearer YOUR_TOKEN" \
  -F "file=@data.csv" \
  -F "target_column=CHURN_STATUS" \
  -F "task_type=classification" \
  -F "max_context_size=4096" \
  -F "bagging=4"

Tester UI (webové rozhraní)

V levém sidebaru najdete:

  • Context Size — posuvník s hodnotami 512, 1024, 2048, 4096, 8192

  • Bagging Iterations — posuvník 1–8

Vliv na paměť a výkon

Větší context_size a vyšší bagging spotřebovávají více RAM a CPU. Server má nastaven limit:

  • max_context_size: max 8192

  • bagging: max 16

Pokud predikce trvá příliš dlouho nebo dojde k timeout:

  1. Snižte max_context_size (např. 4096 → 2048)

  1. Snižte bagging (např. 4 → 2)

  1. Zmenšete trénovací dataset

Praktické příklady

Customer Churn predikce (200 zákazníků)

→ max_context_size=2048, bagging=2 — data se vejdou do kontextu, 2 iterace stačí

Delivery Delay predikce (5000 objednávek)

→ max_context_size=4096, bagging=4 — větší kontext zachytí více vzorů z velkého datasetu

Rychlý test nových dat

→ max_context_size=1024, bagging=1 — nejrychlejší odezva pro ověření formátu dat

Důležitý report pro management

→ max_context_size=4096, bagging=8 — maximální stabilita výsledků