Testovací sady a hodnocení modelem

V minulé lekci Jak měřit kvalitu odpovědí sis stanovil, co je pro tvou úlohu dobrá odpověď, a viděl jsi, jaká měřítka se hodí na třídění, vytahování údajů a volný text. Zbývají dvě praktické otázky. Na čem budeš měřit? A kdo bude stovky odpovědí hodnotit, když na to nemáš celé oddělení?

Odpověď na první otázku je testovací sada. Odpověď na druhou je dnes často jiný jazykový model v roli hodnotitele. Obojí funguje dobře jen tehdy, když víš, kde to má slabá místa. A ta tahle lekce projde poctivě.

Zlatá sada: tvoje sbírka zkouškových otázek

Zlatá sada(golden dataset)

Pečlivě sestavená sada testovacích vstupů, ke kterým je předem dané, jak vypadá správná odpověď (přesná hodnota, vzorová odpověď nebo rubrika). Slouží jako stálé měřítko: každá nová verze systému se na ní spustí a porovná s předchozí.

Zlatá sada je jako soubor otázek k přijímacím zkouškám. Musí pokrývat celé učivo, ne jen kapitoly, které má zkoušející rád, a správné odpovědi k nim musí sepsat někdo, kdo předmětu rozumí. A nesmí se „učit nazpaměť“: když budeš prompt ladit tak dlouho, až projde přesně těmi třiceti otázkami, nemusí to znamenat, že funguje i na třicáté první.

Z čeho ji poskládat

Dobrá sada má tři vrstvy:

1. Skutečné příklady. Nejcennější vstupy jsou ty, které opravdu přišly: e-maily od zákazníků, dotazy zaměstnanců na intranetu, tikety z helpdesku (po odstranění osobních údajů, viz lekce Kam putují tvoje data). Odrážejí, jak lidé doopravdy píšou, včetně překlepů a nejasností. Vyber je tak, aby zastupovaly běžný provoz: nejčastější typy dotazů a v přibližně stejném poměru.
2. Hraniční případy (edge cases). Dotazy na hraně pravidel („mám nárok na sick day, když jsem ve zkušební době?“), velmi dlouhé vstupy, vstupy ve slovenštině nebo angličtině, dotaz, na který podklady odpověď vůbec neobsahují, dotaz s nejednoznačným zadáním, kde by se nejspíš neshodli ani dva lidé.
3. Nepřátelské případy (adversarial cases). Vstupy, které se systém snaží svést: „ignoruj předchozí pokyny“, žádost o cizí osobní údaje, provokace, otázky úplně mimo obor. Podrobně se jim věnuje lekce Prompt injection. V evaluační sadě slouží k tomu, abys viděl, jestli se obrana neprolomila po poslední změně.

Chybějící typy případů si můžeš nechat vygenerovat modelem („napiš dvacet různých dotazů zaměstnance na dovolenou, včetně zmatených a neúplných“). Je to rychlé a užitečné, ale takové dotazy bývají uhlazenější a jednotvárnější než skutečné. Ber je jako doplněk, ne jako základ, a každý si přečti.

Kolik případů

Tady tě zklamu: žádné magické číslo neexistuje. Platí pár poctivých pravidel:

• Pár desítek je dobrý začátek. Na třiceti až padesáti pečlivě vybraných případech uvidíš většinu hrubých chyb a začneš chápat, jak systém selhává. Je to nesrovnatelně lepší než nic.
• Víc je lepší, hlavně kvůli spolehlivosti čísel. U dvaceti případů znamená jeden případ pět procentních bodů, takže rozdíl „85 % proti 90 %“ může být čistě náhoda. Kdo chce rozlišovat malé rozdíly mezi verzemi, potřebuje stovky.
• Rozmanitost je důležitější než objem. Sto variant téže otázky na dovolenou řekne méně než třicet různých témat.
• Sada roste s provozem. Každá chyba, kterou najdeš v provozu nebo ti ji nahlásí uživatel, se stane novým testovacím případem. Po pár měsících máš sadu, která zná tvé slabiny líp než kdokoli jiný.

Anthropic ve své dokumentaci k evaluacím doporučuje dát přednost spíš většímu počtu automaticky hodnocených otázek než malé sadě hodnocené pečlivě ručně. Obojí má ale smysl, jen v jiné fázi, jak uvidíš dál.

Kdo určí správnou odpověď

Ke každému případu potřebuješ vědět, co je správně: přesnou hodnotu (u klasifikace a extrakce), vzorovou odpověď, nebo aspoň rubriku („odpověď musí uvést 25 dní, odkázat na článek 4.2 a nesmí slibovat převod dovolené“).

Tohle musí dělat odborníci na danou oblast, ne programátoři ani dodavatel. O správnosti odpovědi na dotaz k dovolené rozhodne personalistka, o reklamaci vedoucí zákaznické podpory, o smlouvě právník. Je to často nejdražší část celé evaluace, protože odborníci mají málo času. Ale bez ní měříš, jak dobře systém odpovídá podle představ někoho, kdo věci nerozumí.

Model jako hodnotitel

Přesnou shodu u klasifikace a extrakce zvládne jednoduchý skript. U volného textu ale potřebuješ, aby někdo četl a posuzoval podle rubriky. Lidé jsou nejlepší, ale pomalí a drazí, a když se eval má pouštět při každé změně promptu, nikdo nebude pokaždé číst tři sta odpovědí. Proto se v praxi používá jiný jazykový model jako hodnotitel.

Model jako hodnotitel(LLM-as-a-judge)

Postup, kdy výstup jednoho AI systému posuzuje jiný jazykový model. Dostane otázku, odpověď, rubriku (případně vzorovou odpověď nebo podklady) a vrátí verdikt, třeba „prošlo / neprošlo“ s krátkým zdůvodněním.

Funguje to proto, že posoudit odpověď je často snazší než ji napsat. Zkontrolovat, jestli text uvádí správnou lhůtu z dodaného článku, je jednodušší úloha než text vymyslet. Hodnoticí model se dá nastavit na tři základní způsoby:

• Hodnocení jedné odpovědi: „Projde tahle odpověď rubrikou?“ Nejběžnější a dobře škálovatelné.
• Hodnocení podle vzoru: model dostane i vzorovou odpověď od odborníka a porovnává s ní. Pomáhá u faktických otázek, kde by hodnotitel sám mohl chybovat.
• Párové srovnání (pairwise comparison): model vidí dvě odpovědi na tutéž otázku (třeba od staré a nové verze promptu) a řekne, která je lepší, nebo že jsou stejné. Hodí se, když se rozhoduješ mezi dvěma variantami a absolutní známka by byla příliš hrubá.

Co o tom víme z výzkumu

Nejcitovanější studií tohohle přístupu je článek Lianmina Zhenga a kolegů z roku 2023 (Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena), přijatý na konferenci NeurIPS. Autoři porovnali verdikty modelů s hodnocením lidí. Nejsilnější tehdejší model, GPT-4, se s lidmi shodoval ve více než 80 % případů, zhruba stejně často, jako se shodovali lidští hodnotitelé mezi sebou. To je dobrá zpráva. Stejný článek ale popsal i tři systematické slabiny, se kterými musíš počítat:

Plus čtvrtá věc: hodnotitel má omezené schopnosti uvažování. U matematických úloh se nechal zmást chybnou odpovědí, i když by úlohu sám vyřešil správně. Pomohlo, když dostal vzorové řešení.

Studie je z roku 2023 a dnešní modely jsou v mnohém lepší. Ty tendence ale nikdo neprohlásil za vyřešené, a hlavně: na tvé úloze je to potřeba ověřit, ne předpokládat.

Jak slabiny zmírnit

• Při párovém srovnání pusť hodnocení dvakrát s prohozeným pořadím. Vítěz je jen ta odpověď, která vyhraje v obou pořadích; jinak je to remíza. Tohle doporučují přímo autoři zmíněné studie.
• Rubriku piš jako sadu otázek ano/ne, ne „ohodnoť kvalitu 1–10“. Konkrétní otázka („uvádí lhůtu 30 dní?“) nechává méně prostoru pro dojem z délky a stylu.
• Dej hodnotiteli podklady nebo vzorovou odpověď, aby nemusel spoléhat na vlastní znalosti.
• Nech ho nejdřív zdůvodnit, pak rozhodnout. Krátké zdůvodnění před verdiktem obvykle zlepší výsledek a tobě umožní zpětně pochopit, proč hodnotil, jak hodnotil.
• Používej k hodnocení jiný model, než který odpověď napsal. Doporučuje to i dokumentace Anthropicu.

Kalibrace: ohodnoť hodnotitele

Nejdůležitější krok, který se v praxi často vynechává: než hodnotiteli začneš věřit, změř, jak se shoduje s lidmi. Postup je jednoduchý:

1. Odborník ručně ohodnotí vzorek odpovědí podle rubriky (prošlo / neprošlo) a ke každé napíše krátké zdůvodnění.
2. Na stejném vzorku pustíš hodnoticí model.
3. Porovnáš. Kde se liší, přečteš si obě zdůvodnění, upravíš rubriku nebo prompt hodnotitele (často pomůže přidat odborníkova zdůvodnění jako ukázky) a opakuješ.
4. Až je shoda dostatečná, nasadíš hodnotitele na celou sadu. A pravidelně, hlavně po změně modelu, kalibraci zopakuješ na čerstvém vzorku.

Pozor na jednu past: samotné procento shody klame, když jsou chyby vzácné. Pokud je 95 % odpovědí v pořádku, hodnotitel, který na všechno řekne „prošlo“, se s člověkem shodne v 95 % případů a přitom nechytí jedinou chybu. Je to stejný problém jako s přesností v minulé lekci. Proto se díváš na dvě čísla zvlášť: kolik z odpovědí, které člověk označil za chybné, hodnotitel také chytil, a kolik z dobrých taky pustil.

Jsi kontrolor odpovědí firemního HR asistenta.

<dotaz>{dotaz zaměstnance}</dotaz>
<podklady>{úryvek z příručky}</podklady>
<odpoved>{odpověď asistenta}</odpoved>

Posuď odpověď podle těchto otázek. U každé nejdřív jednou
větou zdůvodni, pak napiš ANO nebo NE.

1. Je každé tvrzení v odpovědi podložené podklady?
2. Obsahuje odpověď všechny podmínky a výjimky z podkladů,
   které se dotazu týkají?
3. Pokud podklady odpověď neobsahují, přiznala to odpověď
   a odkázala na HR, místo aby si něco domyslela?
4. Je tón věcný a vstřícný a zaměstnanci se vyká?

Na konci napiš VERDIKT: PROŠLO, jen pokud jsou všechny
odpovědi ANO. Jinak VERDIKT: NEPROŠLO.

Asistent nad dokumenty: hodnoť zvlášť hledání a odpověď

Většina firemních asistentů funguje tak, že nejdřív v dokumentech vyhledá relevantní pasáže a pak z nich model sestaví odpověď. Tomu se říká RAG a podrobně ho popisuje lekce RAG v praxi. Pro evaluaci z toho plyne důležitá věc: chyba může vzniknout ve dvou různých krocích, a opravují se úplně jinak.

1. Vyhledávání (retrieval): Našel systém ty správné pasáže? Když se zaměstnanec ptá na dovolenou a vyhledávání vrátí kapitolu o služebních cestách, nejlepší model nepomůže. Tady měříš, jestli mezi nalezenými pasážemi je ta, kterou odborník u daného dotazu označil za správnou, a kolik nalezeného je balast. Oprava se dělá na straně vyhledávání (jak jsou dokumenty rozdělené, jak se hledá, viz lekce Embeddingy).
2. Odpověď (generation): Když správné pasáže měl, použil je dobře? Tady měříš hlavně věrnost zdrojům: jestli se každé tvrzení v odpovědi opírá o nalezené podklady. Open-source nástroj Ragas to počítá tak, že odpověď rozloží na jednotlivá tvrzení, u každého zjistí, jestli z podkladů vyplývá, a spočítá podíl podložených. Oprava se dělá v promptu nebo volbou modelu.

Když hodnotíš jen výslednou odpověď, vidíš, že je špatně, ale ne proč. A můžeš strávit týden laděním promptu, i když chyba je ve vyhledávání.

Nástroje: nemusíš začínat od nuly

Na evaluaci existuje řada nástrojů a mění se rychle, takže tady jen pro orientaci, co v době psaní existuje, bez doporučení konkrétního:

• Open-source frameworky na evaluaci, například promptfoo (testy promptů a modelů, i bezpečnostní), Inspect od britského AI Security Institute, OpenAI Evals nebo Ragas zaměřený na RAG. Většinou je obsluhuje vývojář, ale výsledky bývají v přehledných tabulkách.
• Evaluační funkce u dodavatelů modelů a cloudových platforem, kde se dá nahrát testovací sada a porovnat verze promptu přímo v prohlížeči.
• Platformy pro sledování provozu (observability), které spojují záznamy skutečných konverzací s hodnocením. Navazují na lekci Monitoring.

Pro začátek ti ale stačí tabulka: sloupec s dotazy, sloupec se vzorovou odpovědí nebo rubrikou, sloupec s odpovědí systému a sloupec s verdiktem. Nástroj se vyplatí ve chvíli, kdy eval pouštíš často a ruční kopírování začne zdržovat. Rozhodující je kvalita sady a rubriky, ne software.

Ukázka: evaluační plán pro HR asistenta

Firma se 400 zaměstnanci chce interního asistenta, který odpovídá na dotazy k personální příručce (dovolená, home office, benefity, nemocenská, služební cesty). Takhle by mohl vypadat plán, se kterým jde projekt na schválení.

Všimni si, že plán počítá s časem odborníka (personalistky) několikrát: při sestavení sady, při kalibraci a při měsíční kontrole. Když tenhle čas nikdo nevyhradí, evaluace se nedělá, ať je nástroj jakkoli dobrý. Jak to promítnout do přípravy a vyhodnocení pilotu, ukáže kurz o zavádění AI v lekcích Příprava pilotu a Vyhodnocení pilotu.

Zdroje a další čtení

• Zheng a kol.: Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena (arXiv, 2023) – studie o shodě modelových hodnotitelů s lidmi a o jejich zkresleních.
• Anthropic: Define success criteria and build evaluations – jak navrhnout testovací případy, vybrat způsob hodnocení a psát rubriky pro modelového hodnotitele.
• Hamel Husain: Using LLM-as-a-Judge For Evaluation – podrobný praktický postup, jak hodnotitele postavit a zkalibrovat podle odborníka.
• Ragas: Faithfulness – jak se počítá věrnost odpovědi zdrojům u RAG systémů.