Discursul domnului Ovidiu Predescu cu ocazia Zilei Justiției 2023

Cea mai importantă descoperire tehnologică în curs este apariția inteligenței artificiale (IA) cu aplicabilitate în lumea reală.

Discuția despre viitorul vieții cu IA este cea mai semnificativă dezbatere a epocii noastre.

Nimic din ceea ce s‑a întâmplat până acum nu s‑ar putea compara „cu progresul pe care l‑ar putea aduce IA”.

De ceva timp suntem martori, mai mult ori mai puțin avizați, ai unei nemaivăzute revoluții digitale, iar „sistemele de IA generează oportunități, dar și riscuri pentru indivizi și societate”. Așadar, lumea se îndreaptă spre ordinea digitală, care devine un factor determinant al modului în care trăim, în ce credem, ce dorim… și ce suntem dispuși să facem pentru a o obține.

Dacă spațiul digital în sine devine cea mai importantă arenă a competiției marilor puteri, puterea guvernelor continuând să se erodeze în raport cu puterea companiilor de tehnologie, atunci ordinea digitală în sine va deveni ordinea globală dominantă. Dacă se întâmplă acest lucru, vom avea o lume post-Westphaliană – o ordine tehnopolară dominată de companiile tehnologice ca actori centrali în geopolitica secolului al XXI-lea, declara cu drept cuvânt Ian Bremmer, doctor al Stanford University, președintele Eurasia Group și GZERO Media la televiziunea americană TED^[1].

Putem spune fără riscul de a greși că ne îndreptăm într-un ritm amețitor către era IA, cu puține răspunsuri și multe întrebări.

Așa stând lucrurile, ne aflăm în prezența unor noi și relevante aspecte juridice, tehnologice și existențiale care vor trebui într-un final, prin reglementări și măsuri complexe adecvate, să găsească un răspuns la întrebarea, se pare devenită un laitmotiv al zilelor noastre, și anume dacă IA reprezintă o amenințare pentru societatea omenească sau, dimpotrivă, tehnologia IA aduce un progres colosal pentru viitorul speciei noastre? Însă, mai înainte de orice, apreciez că IA este un accelerator al istoriei societății omenești, poate cel mai important de până acum.

1. Fără a intra în amănunte, arătăm că progresul excepțional al IA și, mai ales, apariția și răspândirea pe scară largă a IA generative au grăbit la nivelul UE preocupările de instituire a unui control etico-juridic adecvat, cu scopul de a preveni și combate posibilele riscuri pe care IA le-ar reprezenta pentru specia noastră. Modelul european preconizat de reglementările în curs de dezvoltare în cadrul UE – regulamentul și directiva propuse – prevede o „abordare etică concentrată pe om” și propune drept cheie a problemei „un control uman, sigur, transparent, trasabil, nediscriminatoriu și respectuos cu mediul” (…) „După adoptarea și intrarea în vigoare a reglementărilor preconizate în planul dreptului UE se impune ca, pe de o parte, măsurile astfel stabilite să fie însoțite de mecanisme pentru care îndeplinirea lor să devină efectivă, iar, pe de alta, să se coordoneze cu cele instituite în alte regiuni ale globului, așa încât să se configureze un răspuns comun, adecvat și coerent la nivel global la această nouă și majoră provocare a întregii umanități”^[2].

Prin urmare, în ziua de 14 iunie 2023, Parlamentul European a aprobat cu unele amendamente propunerea de regulament european pentru „stabilirea unor norme armonizate privind inteligența artificială”. Această propunere de lege va intra urgent în negocierile interinstituționale, între Parlamentul European și Consiliul UE, precum și Comisia Europeană.

În plus, concluziile summitului G7 care a avut loc în Hiroshima, Japonia, în perioada 19-21 mai 2023, au evidențiat nevoia construirii unei viziuni comune, având în centrul său obiectivul unei IA de încredere, promovată printr-o guvernanță a economiei digitale conforme exigențelor valorilor democratice occidentale.

Așa fiind, liderii celor mai dezvoltate țări din lume, influențați de plănuita și cuprinzătoarea reglementare UE referitoare la IA, având ca vectori principali respectarea drepturilor și libertăților fundamentale ale omului și crearea unor sisteme de IA „fiabile, sigure și nediscriminatorii, indiferent de originea lor”, au analizat oportunitățile și provocările aferente IA generative. În acest context, nu e lipsită de importanță teza instituirii unei agenții internaționale pentru IA, globală, neutră, care să se bazeze pe orientarea și participarea guvernelor, cu implicarea corespunzătoare a marilor întreprinderi tehnologice, a ONG, a societății civile în general, a lumii academice și a altor părți interesate.

Totodată, semnalele de alarmă trase de unii directori de companii importante de IA, precum și de prestigioși cercetători ai domeniului nu au rămas fără ecou nici la ONU. Așadar, pe 12 iunie 2023, Antonio Guterres, secretarul general al ONU, a susținut o propunere pentru crearea unui organism internațional de supraveghere a IA, după modelul Agenției Internaționale pentru Energie Atomică (AIEA). După ce a subliniat că doar statele membre pot înființa un asemenea tip de organism internațional, Guterres a relevat intenția sa de a înființa cât mai curând un consiliu științific consultativ format din experți în IA și din oameni de știință de la agențiile ONU^[3].

Din punctul nostru de vedere, într-un viitor nu prea îndepărtat, ar trebui să existe voința politică necesară pentru elaborarea și adoptarea unor norme de drept european și internațional al IA. În consecință, fenomenul juridic în toate fațetele sale constitutive se află „în fața  unui moment istoric” al dezvoltării sale, semnificativ fiind faptul de a găsi căile, mijloacele și metodele pentru edificarea cadrului juridic complet și adecvat al domeniului, cheia spre acea IA benefică evoluției speciei umane (GoodIA)^[4].

3. În plus, apreciem că ar fi utilă o tratare și o înțelegere de ansamblu a influenței IA asupra dreptului în deplinătatea dimensiunilor sale. Poate că, în acest sens, nu ar fi lipsită de interes și o abordare serioasă a implicațiilor IA cu referire la cultura dreptului.

Un lucru însă pare a fi cert: schimbarea de paradigmă. Și o întrebare: cum vor reacționa „elitele momentului”, de pe pozițiile pe care le ocupă, în fața beneficiilor și neajunsurilor deopotrivă propuse de modelul IA? Să sperăm că acestea nu vor urmări ca și mai înainte în istoria civilizației adamice păstrarea pozițiilor avantajoase prin supralicitarea unor crize și clamarea obsesivului declin general al societății omenești. Pentru a nu mai fi așa, dreptul și cultura juridică trebuie să reacționeze rapid prin reglementări care să facă din tehnologiile IA adevărate surse de progres pentru specia umană și să prevină alunecarea acestora în direcții contrare intereselor comune ale umanității prin folosirea abuzivă a lor.

4. Ne îndreptăm spre un Drept al IA?

Problematica juridică generată de dezvol­tarea IA se extinde din ce în ce mai mult și devine din ce în ce mai complexă, implicând reacții pe măsură pentru a ține pasul cu progresul remar­cabil din ultimele decenii al IA.

Întrebarea firească este dacă acest proces de reacție, dezvoltare și adaptare a dreptului în raport cu avansul aplicațiilor și implicațiilor tehnologiilor IA va duce în final la crearea unei discipline noi – Dreptul IA?

Un prim demers în acest sens a fost făcut de unii universitari de renume din Franța care „și‑au unit eforturile creatoare așa încât să studieze, fiecare în sectorul său de competență, proble­ma­tica suscitată de dezvoltarea inteliginței artificiale, iar rezultatele să fie alăturate și publicate într‑un volum comun sub titlul Droit de l’intelligence artificielle, care a apărut în 2019, urmat de o a doua ediție în anul 2022.

Într‑o primă aproximație dreptul inteligenței artificiale ar viza încadrarea juridico‑instituțională a acestor procedee tehnice pentru a garanta în special eficacitatea, transparența și echitatea utili­zării lor, nediscriminarea, protecția datelor perso­nale și a vieții private în același context. Este prea devreme de a ne imagina și a decreta că regle­mentările deja existente în materie ar constitui deja o ramură de drept în sensul său clasic ori că ar trebui să acceptăm cel puțin existența unui ansamblu autonom și coerent de norme juridice specifice. Și aceasta cu atât mai mult cu cât între­gul proces implică în sine regândirea de noțiuni și concepte, prefigurări de principii și adaptări ale sistemului juridic în întregul și prin natura sa”^[5].

Însuși procesul de edificare a noului drept, care poate să poarte și numele „cel al IA”, are particularitățile sale, dar urgența declanșării lui e evidentă. Semnalul în acest sens a fost dat la apelul la un moratoriu de 6 luni vizând cercetările privind sistemele de inteligență artificială mai puternice decât ChatGPT-ul.

Dincolo de atari abordări și evoluții posibile și probabile, este de domeniul evidenței că reglementarea constituie singurul levier care dispune de forța și capacitatea necesare spre a încadra eficient problemele determinate de utilizarea IA generativă.

Ce știm acum este faptul că, adoptată sub pretextul concurenței tehnologico-comerciale și de supremație strategică chino-occidentală, reglementarea IA începe, prin urmare, sub forma normelor și standardelor voluntare comune de soft-law, sub presiunea urgenței, ca etapă premergătoare fazei juridice, a reglementărilor de hard-law, care nu poate fi evitată.

În ceea ce ne privește, considerăm că, pe măsură ce societatea IA va atinge un anume grad de dezvoltare, chiar ajungând la nivelul de inteligență conștientă, se va impune cu necesitate crearea unui Drept al IA. Însă, deosebit de important și de luat aminte pentru viitorul speciei noastre este faptul că atât societatea IA, cât și dreptul IA nu sunt inevitabile, ci ele sunt produsele deciziilor noastre.

Bineînțeles, dacă nu vrem să generăm cea mai mare criză și poate, din  nefericire, ultima din istoria umanității – CRIZA IA.