O citare nu înseamnă verificare: cum poate AI-ul juridic să folosească greșit sursele
Olivia Stefania Cojanu · 7 octombrie 2026 · 4 min de citit
Un răspuns juridic generat de AI poate conține citări reale și totuși poate fi greșit. Un studiu recent arată că problema nu este doar existența sursei, ci și dacă pasajul invocat susține cu adevărat afirmația formulată.
O citare nu înseamnă verificare: cum poate AI-ul juridic să folosească greșit sursele
Un răspuns juridic generat de AI poate conține citări reale și totuși să fie greșit. Un studiu recent arată că problema nu este doar existența sursei, ci și dacă pasajul invocat susține cu adevărat afirmația formulată.
O citare nu este același lucru cu o verificare.
Un răspuns juridic poate conține trimiteri către legislație, jurisprudență sau alte surse și totuși să fie greșit. Faptul că o hotărâre sau un articol de lege există nu înseamnă automat că sursa este relevantă pentru problema analizată sau că susține concluzia formulată.
Aceasta este una dintre problemele mai subtile ale utilizării inteligenței artificiale în cercetarea juridică.
Ce înseamnă o citare greșită în AI juridic
Când vorbim despre „halucinații” juridice, cazul cel mai ușor de înțeles este cel în care un sistem AI inventează pur și simplu o hotărâre care nu există.
Dar erorile de citare pot fi mult mai greu de observat.
De exemplu:
- o trimitere către o cauză care nu există;
- un nume de cauză asociat cu citarea unei alte cauze;
- o trimitere la pagina sau pasajul greșit;
- un citat care nu apare, în realitate, în hotărârea invocată;
- o hotărâre reală folosită pentru a susține o concluzie pe care aceasta nu o susține.
Ultima situație este probabil și cea mai interesantă.
Sursa există. Citarea poate părea perfect legitimă. Problema devine vizibilă abia atunci când cineva verifică efectiv relația dintre afirmația formulată și conținutul sursei.
Ce a testat studiul Princeton
Un studiu recent, Who Checks the Citations? Benchmarking Legal Hallucination Detection, realizat de Patty Liu, Dominik Stammbach și Peter Henderson de la Princeton University, încearcă să măsoare exact această problemă.
Cercetătorii au construit un set de evaluare format din 1.300 de fragmente de documente juridice în care au introdus diferite tipuri de erori de citare și au testat capacitatea mai multor sisteme AI de a le identifica.
Rezultatul important nu este că verificarea automată ar fi imposibilă.
Sistemele mai noi și metodele de verificare în mai mulți pași obțin rezultate mai bune. Dar performanța scade atunci când eroarea devine mai subtilă, iar verificarea agentică presupune numeroși pași și depinde inclusiv de accesul sistemului la sursele juridice relevante.
Cu alte cuvinte, adăugarea unui al doilea sistem AI pentru verificare nu transformă automat rezultatul într-unul sigur.
Erorile evidente sunt mai simple decât cele subtile
Este relativ simplu să verifici dacă o hotărâre invocată există.
Este mai dificil să stabilești dacă numele cauzei corespunde citării.
Și mai dificil este să verifici dacă pasajul indicat spune într-adevăr ceea ce susține răspunsul.
Aici apare o distincție importantă pentru sistemele de AI juridic:
retrieval-ul unei surse corecte și utilizarea corectă a acelei surse sunt două probleme diferite.
Un sistem poate găsi documentul potrivit și totuși să interpreteze greșit un pasaj, să generalizeze excesiv sau să folosească o regulă juridică într-un context în care nu este aplicabilă.
De aceea, simpla prezență a unei liste de citări la finalul unui răspuns spune relativ puțin despre calitatea cercetării.
De la „are surse?” la „ce demonstrează sursele?”
Pentru cercetarea juridică, întrebarea utilă nu este doar:
„Răspunsul are citări?”
Ci mai degrabă:
„Pot urmări suficient de clar ce sursă susține afirmațiile importante și dacă pasajul invocat justifică într-adevăr concluzia?”
Diferența poate părea mică, dar schimbă modul în care poate fi evaluat un sistem juridic bazat pe AI.
Nu mai verificăm doar dacă sistemul a produs un răspuns plauzibil sau dacă a atașat câteva referințe. Verificăm procesul prin care acel răspuns a fost construit.
Citarea este punctul de plecare, nu finalul verificării
Ideea aceasta este și una dintre premisele pe care am construit ȘtieLegi.ro.
Sistemul separă planificarea problemei, identificarea surselor, analiza textelor și verificarea afirmațiilor în etape distincte. Sursele utilizate în analiză sunt puse la dispoziția utilizatorului tocmai pentru ca rezultatul să poată fi confruntat cu textele pe care se bazează.
Dar existența unei surse nu este, în sine, o garanție.
O citare nu înlocuiește judecata juridică și nici verificarea profesională. Chiar și atunci când documentul este real și relevant, rămâne de verificat dacă este în vigoare, dacă este aplicabil situației analizate și dacă interpretarea dată de sistem este corectă.
Pentru noi, aceasta este una dintre diferențele dintre un răspuns care pare documentat și unul care poate fi efectiv verificat.
Citarea face verificarea posibilă.
Nu o face inutilă.
Studiu: Who Checks the Citations? Benchmarking Legal Hallucination Detection — Patty Liu, Dominik Stammbach și Peter Henderson, Princeton University, 2026.