Model nehľadá, model dopĺňa
Jazykový model nemá databázu, z ktorej by vyberal. Má odhad, aké slovo najpravdepodobnejšie nasleduje po predchádzajúcich. Keď sa ho opýtate na zákon, nejde pozrieť do zbierky – pokračuje v texte tak, ako sa taký text zvykne písať.
Väčšinou to dopadne dobre, lebo pravdepodobné pokračovanie býva aj pravdivé. Problém nastane vtedy, keď model správnu odpoveď nepozná. Nezastaví sa. Doplní niečo, čo znie ako správna odpoveď.
Prečo to v legislatíve bolí najviac
Právny text má pevnú, opakujúcu sa formu. Čísla paragrafov, odsekov, odkazy na iné predpisy, ustálené slovné spojenia. Presne túto formu sa model naučí dokonale – a dokáže ju vyrobiť aj tam, kde za ňou nie je žiadny obsah.
Výsledok je odpoveď, ktorá vyzerá ako citát zo zbierky zákonov, číslovanie sedí, štylistika sedí, a pritom je celá vymyslená. Pri otázke na varenie je nepresnosť vidieť. Pri paragrafe nie.
Tri podoby tej istej chyby
- Staré znenie. Model sa učil z textov, medzi ktorými sú aj roky staré. Zrušené ustanovenie v nich vyzerá rovnako platne ako súčasné.
- Cudzia jurisdikcia. Českých a slovenských textov je na internete premiešané množstvo. Odpoveď potom platí – len v inej krajine.
- Ustanovenie, ktoré neexistuje. Najhorší prípad, lebo sa nedá odhaliť ničím iným než overením v zdroji.
Čo s tým robíme
Ask Laika nestavia odpoveď z toho, čo si model pamätá. Pracuje výhradne so zverejnenými dokumentmi a s aktuálnym znením predpisov, a ku každej odpovedi pripojí citáciu – konkrétne miesto, ktoré si otvoríte a prečítate.
Druhá vrstva je oddelenie zdrojov. Nová právna úprava, pôvodný zákon z roku 1976, technické štandardy aj česká legislatíva majú vlastných asistentov. Nie sú zliate do jedného modelu, kde by sa znenia mohli pomiešať a citácia by stratila výpovednú hodnotu.
Tretia vrstva je človek. Zmeny v predpisoch sledujú ľudia z odboru, nie automatický zber, a oni rozhodujú o tom, čo sa do asistenta dostane.
Prečo ani my nesľubujeme neomylnosť
Bolo by pohodlné napísať, že náš asistent sa nemýli. Nenapíšeme to – a keby to tvrdil ktokoľvek iný, je to dôvod na opatrnosť.
Rozdiel nie je v tom, že by jeden nástroj bol neomylný a druhý nie. Je v tom, či odpoveď viete za pár sekúnd overiť, alebo ju musíte vziať na slovo. Pri podklade, pod ktorý sa podpisujete, je to celý rozdiel.