← Späť na blog

Prečo si všeobecná AI vymýšľa paragrafy

Keď vám chatbot vráti odkaz na ustanovenie, ktoré neexistuje, nejde o poruchu. Je to presne to, na čo bol postavený. Toto je vysvetlenie, prečo sa to deje a prečo je právny text na takú chybu najcitlivejší materiál, aký existuje.

Model nehľadá, model dopĺňa

Jazykový model nemá databázu, z ktorej by vyberal. Má odhad, aké slovo najpravdepodobnejšie nasleduje po predchádzajúcich. Keď sa ho opýtate na zákon, nejde pozrieť do zbierky – pokračuje v texte tak, ako sa taký text zvykne písať.

Väčšinou to dopadne dobre, lebo pravdepodobné pokračovanie býva aj pravdivé. Problém nastane vtedy, keď model správnu odpoveď nepozná. Nezastaví sa. Doplní niečo, čo znie ako správna odpoveď.

Prečo to v legislatíve bolí najviac

Právny text má pevnú, opakujúcu sa formu. Čísla paragrafov, odsekov, odkazy na iné predpisy, ustálené slovné spojenia. Presne túto formu sa model naučí dokonale – a dokáže ju vyrobiť aj tam, kde za ňou nie je žiadny obsah.

Výsledok je odpoveď, ktorá vyzerá ako citát zo zbierky zákonov, číslovanie sedí, štylistika sedí, a pritom je celá vymyslená. Pri otázke na varenie je nepresnosť vidieť. Pri paragrafe nie.

Tri podoby tej istej chyby

  • Staré znenie. Model sa učil z textov, medzi ktorými sú aj roky staré. Zrušené ustanovenie v nich vyzerá rovnako platne ako súčasné.
  • Cudzia jurisdikcia. Českých a slovenských textov je na internete premiešané množstvo. Odpoveď potom platí – len v inej krajine.
  • Ustanovenie, ktoré neexistuje. Najhorší prípad, lebo sa nedá odhaliť ničím iným než overením v zdroji.

Čo s tým robíme

Ask Laika nestavia odpoveď z toho, čo si model pamätá. Pracuje výhradne so zverejnenými dokumentmi a s aktuálnym znením predpisov, a ku každej odpovedi pripojí citáciu – konkrétne miesto, ktoré si otvoríte a prečítate.

Druhá vrstva je oddelenie zdrojov. Nová právna úprava, pôvodný zákon z roku 1976, technické štandardy aj česká legislatíva majú vlastných asistentov. Nie sú zliate do jedného modelu, kde by sa znenia mohli pomiešať a citácia by stratila výpovednú hodnotu.

Tretia vrstva je človek. Zmeny v predpisoch sledujú ľudia z odboru, nie automatický zber, a oni rozhodujú o tom, čo sa do asistenta dostane.

Prečo ani my nesľubujeme neomylnosť

Bolo by pohodlné napísať, že náš asistent sa nemýli. Nenapíšeme to – a keby to tvrdil ktokoľvek iný, je to dôvod na opatrnosť.

Rozdiel nie je v tom, že by jeden nástroj bol neomylný a druhý nie. Je v tom, či odpoveď viete za pár sekúnd overiť, alebo ju musíte vziať na slovo. Pri podklade, pod ktorý sa podpisujete, je to celý rozdiel.

Overte si to na vlastnej otázke

Položte Ask Laike otázku, na ktorej vás už raz všeobecný chatbot sklamal, a porovnajte citáciu so zdrojom.

Bez viazanosti Zrušenie kedykoľvek Bezpečná platba cez Stripe