Architektura pro jednoho není o technologii, ale o čase
Solo founder má dvacet, možná třicet hodin týdně na všechno: produkt, support, distribuci, fakturaci, sebe. Každá hodina, která jde do infrastruktury místo do toho, co zákazníkovi viditelně přidává hodnotu, je hodina, která se málokdy vrací. Tohle není sentimentální tvrzení — je to základ jednotkové ekonomiky firmy pro jednoho člověka.
Pokušení postavit vlastní LLM stack — vlastní RAG pipeline, vlastní vector DB, vlastní finetuning — vychází z technicky správné intuice. Vendor lock-in je reálné riziko. API ceny mohou stoupnout. Open-source modely jsou stále lepší. Mít to vlastní zní jako profesionální volba.
Problém je, že tahle "profesionální volba" stojí tři až šest měsíců práce solo developera, plus permanentní MLOps zátěž, plus opportunity cost všeho, co se za ten čas neudělalo. Ve většině scénářů byste za stejný čas a peníze postavili tři produkty na komoditním API a zjistili, který z nich má skutečně customer fit. Stavění vlastního modelu je často forma technické prokrastinace, která zaměstnává hlavu, místo aby mluvila se zákazníky.
To neznamená, že je to vždycky špatně. Znamená to, že defaulty mají sedět opačně: komoditní API jako výchozí volba, vlastní stack jako výjimka, kterou musíte umět ekonomicky obhájit.
Litmus test: čtyři brány, které vás udrží v zisku
Místo akademického srovnání modelů a benchmarků nabízím rozhodovací strom. Čtyři brány, kterými musíte projít předtím, než vůbec uvažujete o vlastním modelu. Většina projektů zastaví už u druhé brány s jasným verdiktem.
Je nejlepší komerční model „dost dobrý" pro váš klíčový problém?
Otázka: dokáže Sonnet 4.6 nebo GPT-5 přes API vyřešit váš úkol s dostatečnou kvalitou tak, aby to zákazník byl ochoten zaplatit? Konkrétně — pokud měříte přesnost, jste nad 80 % při zachování ekonomické životaschopnosti?
Pokud ANO — pokračujte na bránu 2. Pokud NE — máte unikátní těžký problém. Teprve teď můžete uvažovat o specifickém řešení. Ale i tehdy první otázka je „mám správný prompt?", ne „potřebuju vlastní model?".
Je jednotková cena API udržitelná na cílové škále?
Otázka: kdybych měl 1 000 nebo 10 000 platících uživatelů, sežrala by API cena marži? Je cena za jeden request zlomkem hodnoty, kterou ten request generuje?
Pokud ANO (marže drží) — STOP. Zůstaňte u API. Optimalizujte produkt, ne stack. Tady končí 80 % rozhodnutí. Pokud NE — máte legitimní ekonomický důvod pokračovat na bránu 3.
Máte proprietární data, která dávají edge proti SOTA modelu?
Otázka: máte vyčištěný dataset (řádově tisíce, lépe desítky tisíc kvalitních příkladů), ze kterého by finetune dokázal udělat něco, co běžný velký model neumí? A máte kapacitu ten dataset udržovat a rozšiřovat?
Pokud NE — nemáte edge. Vlastní model bude horší a dražší než SOTA, protože SOTA model je trénovaný na násobcích vašeho datasetu. Vraťte se na bránu 2 a podívejte se, jestli můžete optimalizovat náklady jinak (cheaper model, prompt caching, RAG nad vlastními daty s API). Pokud ANO — toto je ten 10 % případ. Finetune open-source modelu (Llama, Mistral) přes managed službu je validní cesta. Pokračujte na bránu 4.
Máte nediskutovatelný externí důvod hostovat sami?
Otázka: vyžaduje vás byznys (GDPR data residency, HIPAA, bankovní compliance, sub-100ms latence, air-gapped deployment) běh modelu na vlastní infrastruktuře, kterou plně kontrolujete?
Pokud NE — zůstaňte u finetuningu přes managed službu (Hugging Face, Replicate, Together). Self-hosting je nejdražší level a má smysl jen tam, kde je nucený. Pokud ANO — máte legitimní důvod self-hostnout. Ale počítejte s tím, že tohle je permanentní MLOps závazek, nikoli projekt.
Strom je úmyslně brutální. Většina rozhodnutí padá na bráně 2 a tam má padat. Pokud vám API ekonomika sedí, nemáte co řešit. Tři další brány jsou pro výjimečné případy.
Život na API: nudný, ale extrémně profitabilní default
Většina hodnoty AI aplikace neleží v modelu. Leží v datech, která do něj posíláte, ve workflow kolem něj a v UI, které z výstupu udělá něco použitelného. Model je commodity. Všechno ostatní je váš produkt.
Konkrétní příklad z vlastního stacku: cz-agents.dev provozuje šest MCP serverů pro česká vládní data — ARES, ČNB, ISIR, ADIS, sankce, due-diligence agregátor. Každý z nich je tenká vrstva nad veřejnými API, která je normalizuje, cache-uje a vystavuje LLM klientům. Vision AI pipeline na reality.cz-agents.dev tahá z PDF strukturovaná data přes Anthropic Haiku 4.5. Žádný vlastní model. Žádný GPU. Žádný MLOps. 95 % marže.
Co tady tvoří hodnotu: doménová expertise (vědět, jaká pole z ISIR vyhlášky vytáhnout a jak je validovat proti ARES), schema validation (Zod nad výstupem modelu), workflow (cron, fronty, retry s eskalací), UX (kde modelu věřit a kde ne, kde linkovat na originál). Tohle všechno je vaše práce. Model je výměnný kus.
Vendor lock-in se řeší architekturou, ne tím, že přestanete platit Anthropic. Konkrétně: model output je portable. Vision API od OpenAI nebo Gemini lze nasadit za pár hodin přepisu, pokud držíte abstrakční vrstvu mezi business kódem a vendor-specifickým SDK. Lock-in je risk, ale je to risk za pár hodin práce, ne za měsíce vlastního stacku.
Kdy se API stává koulí u nohy
Existují legitimní důvody opustit API. Hlavní jsou dva: ekonomika neškáluje a máte datový moat.
Ekonomika neškáluje
Bod zvratu nastává, když cena za API call přestane být zlomkem hodnoty requestu. Konkrétní matematika: pokud Sonnet 4.6 stojí ~25 USD za milion output tokenů a vy posíláte 10 000 requestů denně po 2 000 tokenech, jsme na ~500 USD měsíčně za jeden produkt. Pokud váš ARPU je 50 Kč/měsíc, ekonomika nesedí. Pokud ARPU je 5 000 Kč/měsíc, sedí pohodlně.
Kde se to láme: B2C aplikace s těžkým usage per uživatele a nízkou cenou. Tam vlastní model nebo aspoň finetune levnějšího modelu může mít smysl. Kde to typicky nelámeč: B2B s ARPU v jednotkách tisíc Kč měsíčně. Tam API ekonomika drží i při intenzivním používání.
Datový moat
Pokud máte unikátní data, která ostatní nemají — interní firemní dokumenty z 20 let provozu, doménová klasifikace, kterou nikdo jiný neumí — finetune malého open-source modelu na nich může produkovat výsledky, které velký SOTA model nedosáhne. Klíčové slovo je unikátní. „Naše customer support tickets" jsou unikátní jen tehdy, pokud je jich desítky tisíc a jsou kvalitně otaggované. Pět set neoznačených e-mailů není dataset, je to lottery ticket.
Praktická hranice: pokud nemůžete za odpoledne ukázat dataset CSV s 10 000+ vyčištěnými příklady ve správném formátu, finetune nemá smysl. A i tehdy je první volba RAG nad těmi daty s velkým API modelem, ne finetune.
Moje P&L: proč jsem zatím neudělal ani jeden finetune
Žádný z mých produkčních systémů nepoužívá vlastní finetunovaný model. Pokaždé, když mě to napadlo, vyšla mi jednoduchá kalkulace, která mě vrátila zpátky.
Konzervativní odhad nákladů na první finetune:
- Příprava datasetu: 30–60 hodin solo developera. Vyčistit data, navrhnout schema, otaggovat, validovat. Při ekonomicky relevantní hodinové sazbě je to desítky tisíc korun v opportunity cost.
- Trénink + iterace: 20–40 hodin experimentování. Hyperparametry, eval, debug. Cloud GPU v řádu tisíců až desetitisíců korun za projekt.
- Deployment pipeline: 20–30 hodin. Inference server, monitoring, rollback strategie, eval pipeline. Plus permanentní infrastruktura.
- Údržba: Permanentní 5–10 hodin měsíčně. Drift, re-trénink, security patches, debugging produkčních problémů.
Alternativa za stejný čas a peníze: napsat tři další články v této řadě, postavit dvě nové gov-data integrace pro cz-agents nebo dotáhnout reality.cz-agents.dev do dalšího prodejního milníku. Pro lifestyle business s cílem 95% marže není volba mezi „nudným API" a „elegantním finetune" — je volba mezi „posunout produkt o krok dál" a „strávit pololetí u tréninkových loop bez jasné business návratnosti".
Ještě konkrétněji: finetune není upgrade. Je to přesun nákladů z variabilních (API call per request) na fixní (infrastruktura, čas, údržba). Pro firmu s rostoucími příjmy je fixní náklad únosný. Pro solo founder, který hledá product-market fit, je fixní náklad past. Variabilní náklady škálují s příjmy a v špatných měsících samy klesnou. Fixní náklady tě v špatných měsících zabijí.
To neznamená, že vlastní model neudělám nikdy. Znamená to, že pokud k němu dojde, bude to po validovaném business case, ne před ním.
Závěr: stavějte produkty, ne modely
Vaším úkolem není trénovat neuronové sítě. Vaším úkolem je řešit problém, za který někdo zaplatí. Komoditní API je zatím největší páka, kterou solo founder na téhle úloze měl k dispozici — model SOTA kvality bez fixních nákladů, bez MLOps, bez šestiměsíční implementační fáze.
Než si nainstalujete transformers a otevřete tab s pricingem A100 instancí, projděte čtyři brány nahoře. Většina vás zastaví u brány 2. To není známka, že vám něco chybí — je to známka, že máte funkční byznys, který nevyžaduje předčasnou technickou optimalizaci. Optimalizujte produkt. Modely jsou commodity. Páka je v tom, jak je použijete.
Řešíte podobné rozhodnutí ve vaší firmě? → AI konzultace