Přeskočit na obsah

Připravenost firmy · lekce 6 z 6 · 14 min čtení

Koupit, nebo postavit

Pět stupňů od hotového asistenta po vlastní model: co každý stojí, co vyžaduje a kdy dává smysl. Podle čeho se rozhodnout, kdy zvážit modely s otevřenými vahami, jak se nenechat uzamknout u jednoho dodavatele a na co se dodavatele zeptat. S rozhodovací tabulkou a příkladem.

Když firma potřebovala účetnictví, nikdo rozumný nezačal programovat vlastní účetní systém. Koupila hotový, protože účetnictví funguje všude podobně a nic se na něm nedá vyhrát. Když ale e-shop chtěl doporučovat zboží líp než konkurence, vyplatilo se mu do toho investovat, protože právě tím se odlišoval. Otázka „koupit, nebo postavit“ je v IT stará desítky let.

U AI má jen víc možností. Mezi „koupit licence“ a „postavit vlastní model“ je několik mezistupňů a většina firem skončí někde uprostřed, často na víc stupních zároveň. Tahle lekce je projde jeden po druhém, ukáže, podle čeho se mezi nimi rozhodovat, a na konci to vyzkoušíme na příkladu.

Žebřík možností

Představ si možnosti jako žebřík. Čím výš, tím víc kontroly a možnosti přizpůsobení, ale taky víc práce, odpovědnosti a peněz. Dobré pravidlo zní: začni co nejníž a stoupej jen tehdy, když pro to máš konkrétní důvod.

1. Hotový asistent pro lidi

Firma koupí licence obecného asistenta (ChatGPT, Claude, Gemini, Copilot a podobně) ve firemním tarifu a lidé ho používají ke psaní, shrnování, analýze a rešerším. Jednotlivé nástroje jsi poznal v lekci ChatGPT, Claude, Gemini a Copilot.

  • Kdy se hodí: individuální práce s textem a daty, kterou dělá hodně lidí trochu jinak.
  • Co potřebuješ: pravidla, školení, správce. Žádné vývojáře.
  • Náklady: měsíční poplatek za uživatele, předvídatelný.
  • Slabina: asistent pomáhá jednotlivcům, ale sám od sebe nemění procesy. Přínos závisí na tom, jak ho lidé umí používat.

2. AI funkce v softwaru, který už používáš

CRM, helpdesk, účetní program, e-shopová platforma i kancelářský balík dnes často mají vlastní AI funkce: návrh odpovědi zákazníkovi, shrnutí historie klienta, vytažení údajů z faktury, kategorizace tiketů. Firma nic nestaví, jen funkci zapne, případně připlatí.

  • Kdy se hodí: úloha se odehrává uvnitř jednoho systému a data už tam jsou.
  • Výhoda: nulová integrace, lidé nemění zvyky, dodavatel řeší údržbu.
  • Slabina: funkce je stejná pro všechny zákazníky dodavatele, takže tě neodliší. A rozhoduje dodavatel: jaký model použije, kdy ho změní, kam posílá data. Zjisti, jestli AI funkce nepoužívá jiného subdodavatele než zbytek systému.

3. Automatizace bez programování s AI kroky

Nástroje jako n8n, Make nebo Power Automate umí poskládat postup z bloků: „když přijde e-mail do schránky objednávek, vytáhni z přílohy údaje, zařaď je do kategorie a zapiš do tabulky“. Některé bloky jsou dnes AI kroky. Power Automate například nabízí akci, která vygeneruje text podle promptu, a hotové modely na čtení faktur nebo dokladů. n8n má bloky pro připojení modelů různých poskytovatelů a pro agenty. Podrobně se jim věnuje lekce Automatizace workflow.

  • Kdy se hodí: opakovaný proces, který propojuje několik systémů a má jasná pravidla.
  • Co potřebuješ: šikovného člověka, který rozumí procesu a nebojí se techniky. Nemusí to být programátor.
  • Náklady: licence nástroje plus platba za použití modelu, obvykle podle objemu.
  • Slabina: automatizace, kterou postavil jeden nadšenec a nikdo jiný jí nerozumí, je riziko. Když odejde nebo se změní formát dat, přestane fungovat a nikdo neví proč. I tady platí pravidla z předchozí lekce: popsaný proces, vlastník, dokumentace.

4. Vlastní aplikace nad modelem přes API

Firma (nebo dodavatel na zakázku) napíše vlastní aplikaci, která volá model přes API. Typicky je to chatbot nad firemními dokumenty postavený na principu RAG, asistent zabudovaný do vlastního produktu nebo zpracování dokumentů podle firemních pravidel.

  • Kdy se hodí: úloha je pro firmu specifická nebo ji odlišuje od konkurence, potřebuje hluboké napojení na vlastní systémy, nebo jde o velký objem, kde se vyplatí mít náklady pod kontrolou.
  • Co potřebuješ: vývojáře, kteří umí s modely pracovat, a hlavně způsob, jak měřit kvalitu (Jak měřit kvalitu odpovědí) a hlídat provoz (Monitoring a logování).
  • Náklady: vývoj, provoz, platba za tokeny, a hlavně údržba, na kterou se často zapomíná.
  • Slabina: všechno, co ti hotový produkt dává zadarmo (správa uživatelů, bezpečnost, nahrávání souborů, historie), musíš postavit nebo poskládat. A za chyby odpovídáš ty.

5. Doladění modelu nebo vlastní model

Nejvyšší stupeň. Firma vezme existující model a dotrénuje ho na vlastních příkladech, nebo dokonce trénuje model vlastní.

Doladění modelu(fine-tuning)
Dodatečný trénink hotového modelu na menší sadě příkladů pro konkrétní úlohu. Mění se přitom samotné parametry modelu, ne jen to, co mu posíláš v promptu. Výsledkem je upravená verze modelu, kterou musíš provozovat a udržovat.

Tenhle stupeň je potřeba výrazně méně často, než by se podle reklam zdálo. Důvody:

  • Doladění učí spíš chování než fakta. Hodí se na konzistentní styl, přesný formát výstupu nebo specializaci menšího a levnějšího modelu na jednu úlohu. Neslouží jako způsob, jak modelu „nahrát firemní znalosti“. Microsoft v dokumentaci k doladění výslovně píše, že nenahrazuje vyhledávání aktuálních informací.
  • Většinu potřeb vyřeší nižší stupně. Dobrý prompt s příklady (viz Kontext, role a příklady) a podklady z firemních dokumentů dají často stejný výsledek za zlomek práce.
  • Potřebuješ kvalitní data. Stovky až tisíce konzistentních, správných příkladů, oddělenou testovací sadu a opakované pokusy. Když nemáš úklid dat z předchozí lekce, tady se to ukáže nejvíc.
  • Je to trvalá práce. Doladěná verze je navázaná na konkrétní základní model. Když ho výrobce přestane nabízet, musíš doladění zopakovat. A nové základní modely mezitím bývají lepší než tvoje doladěná verze starého.

Trénink vlastního modelu od nuly je pro běžnou firmu prakticky vždy nesmysl. Stojí řádově víc a výsledek bude skoro jistě horší než hotové modely, které jsou dostupné přes API.

Do hloubkyProč doladěním nenaučíš model firemní znalosti

Lákavá představa zní: dáme modelu přečíst všechny naše dokumenty a on je bude „znát“. Jenže doladění na pár tisících dokumentů není totéž co původní trénink na obrovském množství textu (viz Jak se model trénuje). Model si z menší sady odnese hlavně vzorce: jak firma píše, jaké používá termíny, jak vypadá typická odpověď. Konkrétní fakta si zapamatuje nespolehlivě a o to přesvědčivěji je pak plete, protože teď zní jako firemní dokument.

K tomu dvě praktické potíže. Zaprvé, když se ceník změní, musíš model dotrénovat znovu. U přístupu, kdy model dostává dokumenty jako podklad, stačí vyměnit dokument. Zadruhé, z doladěného modelu nejde jednoduše zjistit, odkud tvrzení pochází, takže nemáš co ověřit. Přístup s vyhledáváním naopak ukáže zdroj.

Proto se v praxi obě techniky kombinují: vyhledávání dodá fakta, a když je potřeba, doladění zlepší, jak s nimi model zachází nebo v jakém formátu odpovídá.

Modely s otevřenými vahami a provoz u sebe

Napříč žebříkem stojí ještě jedna volba: jestli model poběží u velkého poskytovatele, nebo u tebe. Modely s otevřenými vahami si můžeš stáhnout a spustit na vlastním serveru, nebo je provozovat u poskytovatele cloudu v EU, kterého si vybereš.

Kdy to stojí za zvážení:

  • Velmi citlivá data, která nesmí opustit firmu nebo konkrétní zemi, ani k dodavateli se smlouvou (zdravotnictví, obrana, některá výroba a výzkum).
  • Úzká, opakovaná úloha s velkým objemem, kde stačí menší model a kde se při velkém objemu může vyplatit vlastní provoz.
  • Potřeba úplné kontroly nad verzí modelu, aby se chování nezměnilo ze dne na den.

Cena za to je ve schopnostech a v lidech. Potřebuješ výkonný hardware nebo cloudovou kapacitu, někoho, kdo provoz zajistí, aktualizace a bezpečnost, a modely, které se vejdou do rozumného hardwaru, obvykle nedosahují kvality nejlepších placených modelů. Pro většinu firem je proto rozumnější začít u velkého poskytovatele s firemní smlouvou a zpracováním v EU a vlastní provoz nechat pro úlohy, kde to opravdu vyžadují data.

Podle čeho se rozhodnout

Následující kritéria se hodí projít u každého případu použití zvlášť. Jedna firma může mít asistenta (stupeň 1), AI v helpdesku (stupeň 2) a jednu vlastní aplikaci (stupeň 4) zároveň.

KritériumSměrem ke koupi (stupně 1–2)Směrem ke stavbě (stupně 3–5)
Odlišení od konkurenceÚloha je všude stejná (psaní e-mailů, zápisy z porad)Úloha je jádrem toho, čím firma vyniká
Citlivost datStačí firemní smlouva a standardní zárukyData vyžadují zvláštní režim, zpracování jen v EU nebo u sebe
Napojení na systémyÚloha žije v jednom nástroji nebo v hlavě člověkaÚloha propojuje několik systémů nebo vyžaduje přístup do interních dat
ObjemDesítky až stovky použití denně, nepravidelněTisíce opakování stejné úlohy, kde se počítá každá koruna za kus
Vlastní dovednostiNemáš vývojáře ani nikoho, kdo by řešení udržovalMáš lidi (nebo spolehlivého partnera), kteří umí stavět, měřit a provozovat
Rychlost přínosuPotřebuješ výsledek za týdnyMůžeš počkat měsíce
Celkové nákladyPředvídatelné licenceVývoj, provoz, tokeny a hlavně roky údržby
Uzamčení u dodavatelePřijatelné, když existuje alternativa a data jdou vyexportovatPotřebuješ mít model i data ve vlastních rukou

U celkových nákladů se nejčastěji chybuje. Vlastní řešení se porovnává s licencí jen podle ceny vývoje, ale vývoj je obvykle menší část. Přidej provoz, měření kvality, opravy po změně modelu, bezpečnostní aktualizace a čas lidí, kteří tomu rozumějí. Jak spočítat přínos a náklady, rozebírá lekce Náklady, přínosy a rizika, jak volit model podle ceny a rychlosti lekce Náklady, rychlost a volba modelu.

Uzamčení u dodavatele a úniková cesta

AI se mění rychle. Dodavatel, který je dnes nejlepší, nemusí být za rok, může zdražit, změnit podmínky nebo skončit. Proto si u každého řešení odpověz předem: jak bychom odešli?

  • Data: dají se vyexportovat konverzace, dokumenty, nastavení a vytvoření asistenti ve formátu, se kterým jde pracovat jinde?
  • Prompty a pravidla: máš je zapsané u sebe, nebo existují jen v nastavení jednoho produktu?
  • Model: u vlastních aplikací se vyplatí stavět tak, aby šel model vyměnit za jiný bez přepisu celé aplikace. Výměna ale nikdy není zadarmo: nový model se chová trochu jinak, a proto potřebuješ testovací sadu, na které rozdíl změříš (viz Testovací sady a hodnocení modelem).
  • Návyky a školení: i tohle je uzamčení. Lidé vyškolení na jeden nástroj přechod nesou nejhůř.

Na co se ptát dodavatele

Ať kupuješ licence, AI funkci v existujícím softwaru, nebo zadáváš vývoj, chtěj odpovědi písemně. Základní otázky na ochranu dat znáš z lekce Kam putují tvoje data. Pro rozhodnutí „koupit, nebo postavit“ k nim přidej:

  • Použití dat: trénujete na našich datech? Je to dané smlouvou, nebo jen nastavením? Jak dlouho data uchováváte?
  • Bezpečnostní osvědčení: máte například ISO/IEC 27001 nebo SOC 2? Můžeme vidět zprávu z auditu?
  • Kde se data zpracovávají: v EU? Platí to pro všechny části služby, včetně modelů od subdodavatelů?
  • Dostupnost (SLA): jakou dostupnost garantujete a co se stane, když ji nedodržíte?
  • Změny modelu: jak nás upozorníte, když model vyměníte nebo aktualizujete? Můžeme zůstat u konkrétní verze a jak dlouho?
  • Konec spolupráce: jak dostaneme data zpátky a kdy je smažete?
  • Cena: co je v paušálu a co se platí za spotřebu? Jak se cena měnila za poslední rok?

Proč se ptát i na drobnosti, ukazuje dokumentace Microsoftu ke Copilotu. Copilot pro zákazníky v EU zpracovává data v rámci takzvané EU Data Boundary, ale modely od Anthropicu, které Microsoft v Copilotu nabízí jako subdodavatel, jsou v době psaní z této hranice vyjmuté. Jeden produkt, dvě různá pravidla podle toho, který model zrovna běží. Takové výjimky najdeš jen tehdy, když se zeptáš.

Jak tyto body promítnout do smlouvy (odpovědnost, zpracovatelská smlouva, práva k výstupům), rozebírá lekce Smlouvy s dodavateli.

Rozhodovací tabulka

SituaceNejčastější volba
Lidé potřebují pomoc s psaním, shrnováním a analýzou v běžné práci1 – hotový asistent ve firemním tarifu
Úloha probíhá uvnitř systému, který už máš (CRM, helpdesk, účetnictví)2 – AI funkce dodavatele, pokud projde otázkami výše
Opakovaný proces mezi několika systémy s jasnými pravidly, střední objem3 – automatizace bez programování s AI kroky
Odpovědi z vlastních dokumentů pro zákazníky nebo specifická úloha, která firmu odlišuje4 – vlastní aplikace nad API, často s RAG
Velmi vysoký objem úzké úlohy, nebo potřeba přesného formátu, kterou nevyřešil prompt4, a teprve když nestačí, 5 – doladění
Data nesmí opustit firmu ani k dodavateli se smlouvouModel s otevřenými vahami u sebe, na stupni 3 nebo 4
Výrobce náhradních dílů a technická podpora

Firma s osmdesáti lidmi prodává náhradní díly pro zemědělské stroje. Technická podpora (čtyři lidé) odpovídá zákazníkům na dotazy typu „hodí se díl X na stroj Y z roku 2015?“. Odpovědi hledají v katalogu, v PDF manuálech výrobců a ve starých tiketech. Vedení chce podporu zrychlit.

Projdeme kritéria.

  • Odlišení: rychlá a přesná odpověď je hlavní důvod, proč zákazníci kupují u nich, a ne u velkého e-shopu. Mluví to pro vlastní řešení.
  • Data: katalog a manuály nejsou citlivé, tikety obsahují kontakty zákazníků. Stačí firemní smlouva se zpracováním v EU.
  • Napojení: katalog je v ERP, tikety v helpdesku, manuály na disku. Tři systémy.
  • Objem: zhruba stovky dotazů týdně. Žádný extrém.
  • Dovednosti: firma nemá vývojáře, má externího IT partnera a jednoho technicky zdatného kolegu na podpoře.
  • Čas: vedení chce vidět výsledek do čtvrt roku.

Rozhodnutí po krocích.

  1. Hned: helpdesk, který firma používá, nabízí AI návrhy odpovědí z historie tiketů (stupeň 2). Zapnout na zkoušku, po odpovědích na otázky dodavateli. Lidé z podpory návrhy kontrolují a posílají.
  2. Souběžně: firemní asistent (stupeň 1) pro podporu i obchod. Do projektu nahrají nejčastější manuály a hledají v nich ručně.
  3. Po třech měsících, podle měření: pokud se ukáže, že nejvíc času stojí právě dohledávání kompatibility napříč katalogem a manuály, nechat IT partnera postavit asistenta nad katalogem a manuály (stupeň 4, RAG), nejdřív jen pro interní podporu, ne přímo pro zákazníky.
  4. Doladění ani vlastní model nedávají smysl: problém je v hledání faktů, ne ve stylu odpovědí.

Než se k bodu 3 dostanou, čeká je úklid z předchozí lekce: v katalogu jsou duplicitní položky a některé manuály existují ve dvou verzích. A u každého kroku si předem zapíšou, jak by od řešení odešli.

Co si odnést

  • Mezi „koupit“ a „postavit“ je pět stupňů: hotový asistent, AI funkce v existujícím softwaru, automatizace bez programování s AI kroky, vlastní aplikace nad API a doladění nebo vlastní model. Začni co nejníž a stoupej s konkrétním důvodem.
  • Kupuj tam, kde je úloha všude stejná. Stav tam, kde tě úloha odlišuje, vyžaduje hluboké napojení nebo velký objem, a jen když máš lidi na provoz a údržbu.
  • Doladění učí model chování a formát, ne aktuální fakta, a je potřeba výrazně méně často, než se říká. Vlastní model od nuly běžná firma nepotřebuje.
  • Modely s otevřenými vahami u sebe jsou cesta pro data, která nesmí z firmy, za cenu hardwaru, lidí a často nižší kvality.
  • Celkové náklady zahrnují roky údržby a únikovou cestu. U každého řešení si předem odpověz, jak bys odešel.
  • Od dodavatele chtěj písemně: použití dat, osvědčení, místo zpracování včetně subdodavatelů, SLA, pravidla změn modelu a konec spolupráce.

Zdroje a další čtení

Kvíz k modulu

Připravenost firmy

Otázka 1 z 6

Firma zapne AI asistenta, který prohledává firemní disk. Druhý den zaměstnanec ze skladu dostane na dotaz odpověď s údaji z tabulky platů. Co se nejspíš stalo?