Justiţia şi inteligenţa artificială. Judecător sau „judecător-robot”?

Utilizarea inteligenței artificiale (IA) în sistemele judiciare nu este nici noutate, nici surpriză. Principalul punct de dezbatere al acestui subiect-realitate nu îl constituie beneficiile aplicațiilor inteligenței artificiale pentru sistemul judiciar, pentru avocați, pentru părți, pentru participanții la proces – adică avantajele pentru celeritatea, accesibilitatea și transparența actului de justiție -, ci consecințele asupra substanței activității de judecată.

Preocuparea pentru acest subiect a fost reflectată concret și în demersurile Asociației Internaționale a Judecătorilor (IAJ-UIM), prin tema abordată de Comisia de Studii nr. 1 în anul 2024, și anume „Efectele inteligenței artificiale asupra sistemului judiciar”, discutată la cea de-a 66-a Reuniune Anuală a IAJ-UIM, desfășurată la Cape Town, în perioada 17-22 octombrie 2024. Aspectele esențiale ce trebuiau tratate de asociațiile membre au vizat modalitățile efective de utilizare a IA în sistemele judiciare, argumentele pro și contra folosirii IA, posibilele efecte asupra independenței justiției, precum și dacă este sau nu necesară limitarea utilizării IA de către judecători. Concluziile dezbaterilor, scrise și orale, au fost cuprinse în Raportul general al Comisiei de Studii nr. 1 a Asociației Internaționale a Judecătorilor (IAJ-UIM).

Printre asociațiile membre care au participat activ la dezbatere s-a aflat, la fel ca în fiecare an, și Asociația Magistraților din România (AMR).

În sistemul nostru judiciar reperul este nedelegarea procesului decizional unui algoritm, nici măcar pentru cazurile cu un impact minor. De altfel, aceasta este situația în majoritate a țărilor din care provin zecile de asociații ale judecătorilor ce au transmis răspunsuri la chestionarul Comisiei de Studii nr. 1 a IAJ-UIM.

Dar inteligența artificială este deja prezentă în sistemul nostru judiciar prin intermediul mai multor aplicații software. Cred că o sistematizare a acestora (fără pretenția de a fi limitativă), însoțită de o prezentare-flash, nu ar putea să omită:

1. ECRIS (Electronic Court Register Informational System) – bază de date care conține informații privind dosarele și hotărârile judecătorești. Platforma este accesibilă judecătorilor, grefierilor, precum și părților sau reprezentanților acestora, în cauzele care îi privesc direct și în anumite condiții. ECRIS realizează repartizarea automată și aleatorie a cauzelor pe completuri de judecată și stochează date privind dosarele, de la începutul până la sfârșitul fiecărei proceduri judiciare. ECRIS și StatisECRIS stochează și prelucrează date care pot genera rapoarte cu privire la: complexitatea cauzelor, stadiul soluționării cauzelor, selectarea cauzelor în funcție de obiect (ECRIS conține o listă de obiecte ale cauzelor, în materie civilă, penală, administrativă, de muncă, de insolvență), selectarea datelor în funcție de statutul părților (reclamant, pârât, apelant, intimat, contestator etc.).

ECRIS și StatisECRIS – în esență, un program de măsurare cantitativă a eficienței – stochează și prelucrează date, generând rapoarte privind indicatorii statistici de eficiență ai instanței și ai fiecărui judecător.

În aceste aplicații informatice există algoritmi care ajută grefierii în gestionarea cazurilor, evitând pierderea de timp cu sarcini repetitive^[1].

2. EMAP este un program al Consiliului Superior al Magistraturii, adiacent aplicației informatice ECRIS, prin care judecătorii pot accesa jurisprudența altor instanțe (cu condiția ca acestea să fi consimțit la schimbul de informații), pentru studiu. Utilizarea IA în acest domeniu se poate materializa prin programarea unui software care să citească o serie de hotărâri în funcție de anumite cuvinte sau fraze-cheie și să genereze un raport relevant cu privire la informațiile analizate.

3. Instanțele utilizează aplicații informatice legate de dosarul electronic. Este vorba despre trei aplicații informatice create prin efortul propriu al Tribunalului Arad – Dosarul electronic și TDS (Transmitere Document Securizat) – și al Curții de Apel Cluj – Info dosar. Acestea au fost preluate și implementate de multe instanțe din țară.

Dosarul electronic permite accesul judecătorilor, părților/avocaților la toate documentele din dosar, în format electronic, prin utilizarea unei parole alocate în acest scop de către instanță, în condiții de securitate a datelor.

4. O serie importantă de programe de inteligență artificială – modele de rețele neuronale – a fost concepută și dezvoltată la Curtea de Apel Galați, iar, apoi, extinsă la curțile de apel din țară^[2].

• Modul central – utilizează documentele scanate, depuse sau primite la instanță, le sortează, le prelucrează și le încarcă automat în baza de date a instanței (aplicație web CDMS ECRIS, care stă și în spatele dosarului electronic). Aplicația este instalată la toate curțile de apel și procesează două milioane de documente pe lună, integrând o rețea neuronală de prelucrare a imaginilor care clasifică documentele în citații, dovezi de predare a actelor, dovezi de publicare în Buletinul Insolvenței și alte documente, livrându-le robotului pentru prelucrare.
• RobotDoc – încarcă documentele scanate de utilizatori (grefieri și grefieri-arhivari), direct în aplicația informatică ECRIS și, de aici, în dosarul electronic. Poate fi utilizat chiar dacă sunt scanate mai multe documente, în aceeași zi și în același dosar, fără să necesite crearea de foldere pentru fiecare zi de utilizare.
• RobotCitatii – împarte automat documentele (citații, dovezi de predare a actelor și dovezi de publicare în Buletinul Insolvenței) care ajung în fiecare zi la instanță în documente individuale, identifică numărul dosarului pentru fiecare document, creează intrarea în ECRIS pentru documentul respectiv și încarcă documentul scanat.
• OCRD – mod de recunoaștere optică a caracterelor. Poate fi folosit de o instanță sau de mai multe instanțe împreună pentru a transforma fișiere PDF sau imagini în fișiere text (comparativ cu ABBYY 12, rata de eroare este aceeași sau mai mică, dar viteza este mult mai mare, ajungând la 130 de pagini pe minut).
• LogRobot – modul de logare pentru operațiunile efectuate de RobotDoc și RobotCitatii. Pagină accesibilă în browser, actualizată rapid cu cele mai recente informații (nefiind necesară actualizarea paginii în browser), personalizată automat pentru fiecare instanță, arătând grefierului-registrator și grefierului-arhivar stadiul actualizat al operațiunilor efectuate (documente încărcate cu succes în ECRIS, documente care au dat erori, tipul și cauza erorii). Pagina poate fi configurată astfel încât administratorii sau specialiștii IT să poată urmări activitatea tuturor instanțelor din aria lor de competență.
• StatisticiTDS – modul pentru statistici privind utilizarea comunicațiilor electronice, putând identifica documentele trimise prin poștă, care ar fi trebuit să fie trimise electronic, fiind destinată, în principal, președinților de instanță sau de secție, primilor-grefieri, grefierilor-șefi, și specialiștilor IT.

5. Portalul pentru depunerea documentelor și plata taxelor judiciare, sub egida Consiliului Superior al Magistraturii, la adresa https://registratura.rejust.ro. Dezvoltat inițial de Curtea de Apel Galați, a fost extins la nivel național, în colaborare cu Autoritatea pentru Digitalizarea României, în scopul de a permite plata taxelor judiciare direct la primăria competentă, prin hub-ul online Ghiseul.ro.

6. Speech2text este un proiect derulat de Ministerul Justiției și se referă la un program care convertește vorbirea în text cu o precizie ridicată. În data de 19 decembrie 2023, Ministerul Justiției a început implementarea proiectului „Dezvoltarea de sisteme integrate de înregistrare audio în sălile de judecată și a componentelor de transcriere automată (speech2text)”, durata de implementare fiind de 31 de luni. Se așteaptă ca procesul de corectare a unui document transcris automat voce în text (speech2text), să fie considerabil mai eficient decât transcrierea lui manuală, reducând efortul utilizatorului final de cel puțin 5-6 ori în raport cu media actuală^[3].

7. ReJUST. Aceasta este, în esență, o interfață modernă, orientată către utilizator, a aplicației web ECRIS, ce reprezintă ideea principală din spatele conceptului^[4]. Portalul de jurisprudență reprezintă o aplicație concepută și dezvoltată de Consiliul Superior al Magistraturii pentru a permite cetățenilor și practicienilor din cadrul sistemului judiciar accesul mai facil la hotărârile judecătorești pronunțate de instanțele naționale, portalul incluzând, în format anonimizat, atât hotărârile judecătorești prin care s-au soluționat litigiile, cât și încheierile de ședință pronunțate de instanțe în cursul procesului^[5].

• Personalizarea aplicației pentru a afișa numai informațiile relevante pentru judecător.
• Programarea cauzelor în funcție de termenele de judecată: gestionarea în ordine cronologică a listelor cu ședințele de judecată viitoare, cu numerele cauzelor și termenele de judecată; stabilirea termenelor de judecată și repartizarea cauzelor pe intervale de timp;
• Registrul personal: aspecte importante din dosarul cauzei, inclusiv obiecții, probe, partea care le-a propus, dacă au fost discutate, dacă judecătorul s-a pronunțat asupra lor etc.; observații generale; aceste informații sunt, de asemenea, disponibile pentru consultare ulterioară; întocmirea listei de ședință cu informațiile din observațiile generale din dosarul cauzei;
• Șablon: crearea cu ușurință de documente care pot fi reutilizate prin preluarea tuturor informațiilor necesare din aplicația web ECRIS; șablonul permite, de asemenea, adăugarea de câmpuri variabile la document în funcție de specificul fiecărui șablon;
• Dosar electronic: acces ușor la documentele editabile din aplicația web ECRIS, precum și la documentele scanate, cu posibilitatea de a le converti în format Word;
• Rezoluție generală: generați rezoluțiile judecătorilor direct din aplicația web și calculați cu ușurință taxa de timbru, rezoluțiile generate fiind salvate în ECRIS;
• Registrul căilor de atac: căutarea hotărârilor de apel pentru o cauză sau o listă de cauze, generând linkuri către hotărârile tuturor instanțelor implicate pentru vizualizare;
• Stabilirea termenelor de judecată, individual sau în bloc: se pot selecta mai multe cauze în bloc, stabilindu-se termenul de judecată pentru toate aceste cauze într-o singură operațiune;
• Înregistrarea sesiunii – funcție care permite introducerea intuitivă a soluțiilor, individual sau în bloc într-o singură operațiune; în cazul cauzelor repetitive sau al cauzelor cu soluții identice, aceeași soluție poate fi introdusă în bloc pentru toate cauzele.

8. La nivelul Înaltei Curți de Casație și Justiție este funcțional un concept modern și complex, în totalitate digital, care îmbunătățește comunicarea și accesarea documentelor instituționale sau de interes public atât de către judecători și personalul intern, cât și de către părțile din procese sau cetățeni. Instanța supremă dispune de o nouă identitate vizuală și un nou site (www.iccj.ro/) cu o platformă de servicii digitale, precum afișarea calendarului ședințelor de judecată sau accesul la arhiva electronică a dosarelor, a ședințelor de judecată și a hotărârilor.

În ceea ce privește reglementarea utilizării IA, mă refer, de exemplu, la următoarele norme juridice: i) prin Ordinul nr. 20.484/4 mai 2023 al ministrului cercetării, inovării și digitalizării a fost înființat Comitetul Român pentru Inteligență Artificială. Obiectivul principal al Comitetului este crearea unui ecosistem de Inteligență Artificială bazat pe excelență, încredere și principii etice, coerent, performant și sustenabil; ii) prin Hotărârea Guvernului nr. 832/2024, în vigoare din 25 iulie 2024, a fost aprobată Strategia Națională în domeniul inteligenței artificiale 2024-2027; iii) în vederea asigurării actualizării permanente a jurisprudenței în cadrul portalului ReJust, instanțele judecătorești sunt obligate să asigure conexiunea neîntreruptă între bazele de date proprii și centrul de date al Consiliului Superior al Magistraturii, în parametrii tehnici stabiliți de direcția de specialitate IT din cadrul Consiliului (art. 23, alin. 1 din Regulamentul de ordine interioară al instanțelor judecătorești – ROIIJ -, aprobat prin Hotărârea nr. 3243/2022 a Secției pentru judecători a Consiliului Superior al Magistraturii); iv) înregistrările din registrele fiecărei instanțe sunt ținute, de regulă, în format informatizat. La sfârșitul fiecărei zile de lucru, baza de date va fi securizată prin salvarea acesteia pe un suport extern, în conformitate cu instrucțiunile de operare a bazei de date computerizate (art. 83 din ROIIJ); v) repartizarea cauzelor se realizează în mod informatizat, prin intermediul sistemului ECRIS. Orice modificare a componenței completului de judecată sau a repartizării cauzelor în condițiile prezentului regulament se înregistrează în programele informatice de repartizare aleatorie [art. 101, alin. (1) și (7) din ROIIJ]; vi) Curțile de Apel și Înalta Curte de Casație și Justiție dispun de un departament de informatică juridică. De asemenea, departamentele de informatică juridică pot fi organizate în structura tribunalelor județene, a tribunalelor specializate și a tribunalelor districtuale [art. 127, alin. (3) din Legea nr. 304/2022 privind organizarea judiciară]; vii) în vederea creării unui sistem informatic unitar și funcțional, instituțiile sistemului judiciar sunt obligate să pună în aplicare măsurile prevăzute în strategia de informatizare a sistemului judiciar, care este aprobată prin hotărâre a Guvernului, la propunerea Ministerului Justiției [art. 131, alin. (4) din Legea nr. 304/2022 privind organizarea judiciară]; viii) Ordinul Ministerului Justiției nr. 1554/2024 pentru aprobarea Normelor privind aprobarea și autorizarea, din punct de vedere tehnic și al securității tehnologiei informației, a soluțiilor informatice dezvoltate de specialiștii IT din cadrul instanțelor judecătorești; ix) la nivelul instanțelor judecătorești este în curs de implementare Dosarul Electronic Național pentru a permite, în conformitate cu legea, accesul părților la dosarul cauzei prin intermediul internetului, comunicarea electronică a actelor de procedură, precum și posibilitatea depunerii, în aceeași manieră, a actelor din dosarul cauzei (art. 6 din Legea nr. 304/2022 privind organizarea judiciară).

Implementarea, utilizarea și dezvoltarea IA își găsesc relevanța în măsura în care, cum subliniam la început, contribuie la creșterea accesibilității sistemului judiciar și la reducerea duratei medii de soluționare a cauzelor, fără a duce însă la sincope de calitate.

Anul trecut, directorul Institutului de Cercetări Juridice al Academiei Române a relevat și argumentat probleme esențiale privind implementarea IA în sistemul judiciar, dintre care am în vedere, cu precădere, următoarele: a) „reticența judecătorului de a se separa de majoritate și de a formula o opinie separată”, inspirată de justiția algoritmizată, perspectivă ce nu ar face parte dintr-o justiție mai echitabilă, ci, dimpotrivă, ar include și o „prejudecată a automatizării” – iar dacă toate instanțele ar utiliza o IA afectată, întregul sistem judiciar ar fi „virusat”; b) temerea în rândul profesioniștilor dreptului și al opiniei publice, în general, că aplicațiile IA ar putea duce la „guvernarea” justiției de către companii private, în condițiile în care, dacă justiția este dependentă de mașini, cei ce concep și alimentează instrumentele de IA ar putea influența și controla indirect procesul judiciar, chiar și fără intenția explicită de a face acest lucru^[6].

Faptul că procesul de introducere a tehnologiilor de IA trebuie făcut în mod responsabil și cu respectarea drepturilor omului, prin menținerea unui echilibru adecvat între transparență și imparțialitate, pe de o parte, și integritatea intelectuală, pe de altă parte, precum și prin necesitatea ca utilizatorii, iar nu un sistem algoritmic să dețină controlul, responsabilitatea în caz de funcționare defectuoasă a IA, a fost subliniat și la nivelul Ministerului Justiției^[7].

Pe de o parte, IA este percepută pe scară largă ca instrument de îmbunătățire a eficienței, coerenței și accesului la informații, având potențialul de a accelera procedurile, de a îmbunătăți capacitatea de cercetare și de a ajuta la gestionarea unui volum mare de date. Instrumentele IA pot asista judecătorii în îndeplinirea sarcinilor administrative sau a sarcinilor repetitive, cronofage, oferindu-le, astfel, mai mult timp pentru a se concentra asupra sarcinilor judiciare complexe.

Pe de altă parte, există o serie de riscuri care nu pot fi ignorate, pentru că determină consecințe ce pervertesc rolul și locul justiției:

1. Încrederea excesivă în IA, care ar putea submina judecata umană și înțelegerea nuanțată pe care judecătorii o aduc cauzelor, iar acestea ar putea duce la un sistem judiciar mai puțin uman, erodând încrederea publicului în instanțe. Dependența excesivă de IA ar putea, de asemenea, să facă procesele mentale ale judecătorilor mai pasive, ceea ce ar putea conduce la erori, deoarece instrumentele AI au capacitatea de a „halucina”, adică de a oferi răspunsuri false sau eronate.

2. Prejudecățile din sistemele IA: dacă un sistem are prejudecăți în datele sale de formare, acesta poate reproduce sau chiar amplifica respectivele prejudecăți, conducând la decizii incorecte^[8].

3. Lipsa transparenței sistemelor IA în privința modului de luare a anumitor decizii, fapt care ar putea să afecteze încrederea publicului în sistemul judiciar.

4. Confidențialitatea și securitatea datelor: utilizarea datelor personale ale justițiabililor de către sistemele IA ridică probleme legate de viața privată și confidențialitate, în condițiile în care, în general, instrumentele IA trebuie să colecteze cantități mari de date de la părți, ceea ce poate duce la dezvăluirea de informații personale sau private în mod nejustificat sau nepotrivit.

O situație concretă privind necesitatea respectării confidențialității și a asigurării securității datelor s-a pus, de curând, în contextul procesului de centralizare a sistemului informatic ECRIS și a calculatoarelor judecătorilor tuturor instanțelor pe un server administrat de Ministerul Justiției. Prin circulara nr. 2/13760/28 august 2024, Consiliul Superior al Magistraturii a atras atenția asupra „vulnerabilităților generate de procesul de înrolare a echipamentelor din instanțe într-un sistem centralizat, administrat din exteriorul autorității judecătorești”, arătând că există riscul ca funcționari ai unei instituții din afara autorității judecătorești să aibă acces la informații din dosare. Totodată, CSM a evidențiat faptul că această modalitate tehnică de creare a unui sistem informatic centralizat în afara autorității judecătorești conține premisele afectării principiului separării puterilor în stat și este de natură să afecteze percepția asupra independenței sistemului judiciar. Este importantă sublinierea potrivit căreia până în prezent, instanțele au avut la bază un sistem tehnic descentralizat, fără a exista probleme majore raportate la nivel de securitate sau funcționare^[9].

Demersul CSM a fost susținut printr-o scrisoare deschisă semnată de președinții curților de apel și adresată ministrului justiției, în care s-a menționat că este ofensator să se pună la îndoială capacitatea instituțională a conducerii instanțelor de a evalua un risc sistemic major pentru independența justiției, reprezentat de accesul nelegal la sistemele informatice și inclusiv la bazele de date ale instanțelor, care operează cu documente secrete, de a căror integritate și securitate sunt responsabile, în calitate de operatori ai acestor date. Subminarea independenței justiției prin intervenția unui funcționar de rang inferior, în ale cărui competențe nu intră atribuția de a da dispoziții conducerii instanțelor, nu poate fi tolerată, context în care s-a apreciat că se impune a se reveni asupra circularei Ministerului Justiției (adresa nr. 7/56128/30 august 2024), chestiunile tehnice care generează aceste riscuri (și care au fost constant semnalate de Consiliul Superior al Magistraturii, precum și de instanțele judecătorești) urmând a fi remediate în cadrul instituțional adecvat^[10].

Recent, la 15 noiembrie 2024, Comitetul executiv al Rețelei Europene a Consiliilor Judiciare (RECJ) a publicat o declarație în care își exprimă îngrijorarea cu privire la reforma IT în justiție, care are ca scop centralizarea găzduirii și administrării bazelor de date judiciare în subordinea Ministerului Justiției. RECJ a subliniat că, sub rezerva mandatului lor, consiliile judiciare ar trebui să aibă o putere de decizie atât în privința gestionării bazelor de date ale sistemului judiciar (din perspectiva accesului la datele cauzelor și a atribuțiilor vizând protecția datelor cu caracter personal), cât și în privința aplicațiilor utilizate în sistemul judiciar^[11].

5. Responsabilitatea: sistemele IA nu sunt responsabile în același mod ca judecătorii, neavând o răspundere care să le poată incumba, reglementată, ca atare, de lege.

Există, de asemenea, riscuri ridicate pentru independența justiției și pentru confidențialitate, în cazul recurgerii la IA neintegrată într-un sistem intern închis și, mai general, în cazul pirateriei informatice. Dependența de IA prezintă și un pericol serios de paralizie pe termen mai scurt sau mai lung (cu toții am experimentat numeroasele dificultăți cauzate de defecțiuni ale calculatorului, ale rețelei sau chiar ne-am temut să nu putem lucra în cazul unei pene de curent). Nu trebuie să subestimăm nici dependența de furnizori, în cazul în care autoritățile judiciare nu au controlul asupra instrumentelor IA^[12]. Acestea constituie și o modalitate necorespunzătoare de a efectua cercetări juridice pentru a găsi informații noi pe care nu le putem verifica în mod independent, recomandându-se să nu fie utilizate pentru a efectua analize judiciare doar pe baza lor: chatbot-urile publice actuale nu produc analize convingătoare^[13].

Riscurile anterior expuse au legătură cu independența judecătorului și cu calitatea actului de justiție, iar acestea nu pot fi nici diminuate, nici sacrificate în numele tehnologiei.

---