Inteligența artificială între oportunitate și anxietate. Impactul asupra sistemului de drept

Inteligența artificială între oportunitate

și anxietate. Impactul asupra sistemului de drept

Articol de Alina Mioara Cobuz Băgnaru, Partener Fondator, Cobuz și Asociații

Am putea spune că Inteligența Artificială (IA)[1] a acaparat pur și simplu viața cotidiană, pătrunzând în toate domeniile vieții sociale, devenind o temă de actualitate în doctrina juridică internațională. Viitorul omenirii se centrează pe IA, de aceea trebuie tratate cu seriozitate riscurile la care se supune omenirea și orice rezultate nedorite, erori, disfuncții, care în final ne pot fi imputabile numai nouă, în calitate de actori umani.

Se poate observa o preluare de către IA a rolului de lider în procesul de luare a deciziilor rezervat până nu demult acest rol actorilor umani, precum și un instrument de urgentare și facilitare a luării unor decizii.

Atunci când vorbim de diferite sarcini precum programarea ocupării forței de muncă, stabilirea rutelor de zbor ale avioanelor sau asistență juridică automată pentru imigranți, trebuie să luăm în considerare dacă sistemele informatice sunt părtinitoare sau nu[2].

Plecând de la o definiție a termenului “bias” acesta se referă la sistemele informatice care furnizează rezultate discriminatorii sau părtinitoare, cu alte cuvinte se discriminează sistematic și nedrept anumiți indivizi sau grupuri de indivizi în favoarea altora, prin negarea oportunităților acestora sau atribuirea unui rezultat nedorit unui individ, sau a unui grup de indivizi, pe considerentul că nu corespund unor standarde prestabilite.

Domenii în care inteligența artificială a început să fie implementată

Utilizarea sporită a IA la locul de muncă a stârnit dezbateri cu privire la faptul dacă tehnologiile digitale sunt aici pentru a înlocui forța umană definitiv.

Viziunea optimistă susține că IA are capacitatea de a face sarcinile de lucru zilnice mai ușor de gestionat, mai degrabă decât să înlocuiască complet oamenii. Inteligența artificială și oamenii excelează la diferite tipuri de inteligență, iar cele mai bune rezultate provin din menținerea ambilor la locul de muncă.

Procedurile de recrutare

IA a devenit un instrument extrem de util în procedurile de recrutare. Așa cum multe companii mari sunt deja conștiente, IA devine un instrument din ce în ce mai obișnuit în pre-screening și selectarea candidaților pentru locurile de muncă.

Dincolo de recrutarea de candidați în sine, anumite servicii de angajare IA oferă, de asemenea, programarea automată și redirecționarea candidaților puternici, către alte poziții adecvate într-o companie.

Securitatea cibernetică

Una dintre cele mai complexe utilizări ale IA este gestionarea securității cibernetice. IA poate fi învățat să detecteze malware și viruși, de exemplu.

În timp, poate deveni mai rapid decât oamenii la detectarea amenințărilor cibernetice asupra sistemelor computerizate, prin detectarea automată a amenințărilor[3]. În medie, s-a constatat că implementările IA reduc costul mediu al scenariului de încălcare a datelor unei organizații cu 230.000 USD.

O mare parte din activitatea forțelor de poliție în prevenirea infracțiunilor – inclusiv toate formele de supraveghere, cum ar fi interceptarea, colectarea și analizarea datelor (text, audio sau video) precum și analiza probelor fizice (probe ADN, infracțiuni informatice, declarații ale martorilor, etc.) – sunt astăzi de neconceput fără utilizarea IA.

Recunoașterea facială- plusuri și minusuri

Tehnologia de recunoaștere facială (FRT) permite identificarea automată a unei persoane prin potrivirea a două sau mai multe fețe, din imagini digitale. Face acest lucru prin detectarea și măsurarea diferitelor trăsături faciale, extragându-le din imagine și, într-o secundă comparându-le cu caracteristici preluate de la alte chipuri.

Utilizarea tehnologiei de recunoaștere facială presupune atât riscuri cât și oportunități, ea implicând multe provocări legate de drepturile fundamentale care rezultă din poziția slabă a unor indivizi ale căror imagini faciale sunt surprinse și apoi verificate cu o „listă de urmărire”.

În acelasi timp, tehnologia de recunoaștere facială poate oferi mai mult protecție în timp util – de exemplu, ajutând la găsirea unor copii dispăruți –dar poate ajuta și la detectarea fraudei și identificarea furtului.

Utilizarea instrumentelor IA în domeniul juridic

Printre tehnologiile care funcționează în această extraordinară transformare digitală, inteligența artificială pare a fi cea mai spectaculoasă. În Statele Unite, „avocații robot” sunt deja la locul de muncă și par să discute în limbaj natural cu oamenii, având o rapiditate și o acuratețe mult superioare celei umane.

Tehnologia juridică specializată în proiectarea de noi servicii juridice oferă noi aplicații profesiilor juridice, în special avocaților, serviciilor juridice și asigurătorilor, permițând accesul aprofundat la informațiile judiciare și la jurisprudență. Aceste companii private își propun chiar să prezică deciziile judecătorilor cu instrumente de „justiție predictivă”.

Printre domeniile conexe în care s-a pus problema utilizării IA cu scopul de a realiza un management eficient al fenomenului infracțional se numără: managementul sistemului judiciar, predicția jurisprudențială, securitatea digitală, supravegherea.

Una dintre principalele caracteristici ale procesului actual de luare a deciziilor în instanțele judecătorești este aceea că judecătorul (judecătorul unic sau un complet de judecată) se bazează pe informațiile date de părți. Părțile sunt cele care furnizează judecătorului materialul pentru luarea deciziei: fapte, probe, argumente, jurisprudență, etc. Este vorba de principiul contradictorialității, respectiv că într-o cauză ambele părți la un proces penal sau civil trebuie să fie ascultate și trebuie să aibă posibilitatea de a lua la cunoștință și de a răspunde cu privire la toate probele prezentate sau notele scrise depuse în vederea influențării deciziei curții.

De asemenea, se poate ajunge la situația că judecătorul, în condițiile definite de sistemele judiciare care prevăd această posibilitate, să solicite expertiza tehnică a unui expert care nu este inclus în lista părților. Într-un astfel de caz, munca prestată de expert va fi introdusă în dezbatere, astfel încât părțile să poată discuta despre calitatea și relevanța sa în fața judecătorului înainte ca acesta să ajungă la o decizie. Principiul fundamental impune ca toate elementele pe care judecătorii își vor baza decizia să fie dezbătute de părți într-o manieră contradictorie[4].

Totuși în urma introducerii instrumentelor IA, s-au observat următoarele  dezavantaje: utilizarea datelor și a elementelor care nu au făcut obiectul unei dezbateri contradictorii; exploatarea unor concluzii (chiar și parțiale) care nu au fost obținute prin raționamentul judecătorului (ceea ce conduce la transferul unei părți din puterea decizională) și la lipsa de transparență a procesului.

În concluzie devine imposibil de știut ce ar trebui să fie atribuit judecătorului și ce provine de la o mașină.

Este necesară o dezbatere fundamentală pentru a evalua în mod critic ce rol ar trebui să joace, dacă este cazul, instrumentele IA în sistemele noastre de justiție.

Creșterea accesului la justiție, prin reducerea costurilor procedurilor judiciare ca urmare a utilizării instrumentelor IA, poate părea un rezultat dezirabil, însă este un preț mare dacă se compromite calitatea justiției. Prin urmare, instrumentele IA trebuie adaptate corespunzător mediului justiției.

Pe plan internațional nu există nicio îndoială asupra faptului că IA este deja utilizat în domeniul justiției[5].

Din perspectiva aspectelor de etică

Pentru a respecta drepturile fundamentale ale cetățenilor și pentru a evita răspunderea, utilizarea IA și robotica în aplicarea legii ar trebui să fie caracterizată prin următoarele caracteristici: Corectitudine[6],  Responsabilitate[7], Transparență[8]; Explicabilitate[9].

Rolul principal al aplicării legii este, în esență, protejarea comunității și a cetățenilor săi, de daune și, făcând acest lucru, în final se identifică un echilibru între securitate și confidențialitate.

[1] Inteligența artificială (IA) este o ramură complexă a informaticii care se ocupă de construirea mașinilor inteligente capabile să îndeplinească sarcini care necesită de obicei inteligența umană. Într-un sens larg Inteligența Artificială este orice tehnologie proiectată să imite, într-un fel sau altul, modul în care funcționează un om.

[2] Doctrina a clasificat rezultatele de tip Bias după cum urmează: bias preexistent, bias tehnic si bias emergent- B. Fiedman, H. Nissenbaum, Bias in Computer Systems, ACM  Transaction on Information Systems, vol.14, nr.3, 330-347, iulie 1996, pag.331.

[3] În medie, s-a constatat că implementările IA reduc costul mediu al scenariului de încălcare a datelor unei organizații cu 230.000 USD.

[4] Una dintre condițiile unui proces echitabil este ca judecătorul să decidă asupra documentelor și argumentelor care i-au fost prezentate de părți. Fiecare parte trebuie să fi avut ocazia, înainte de deliberare, să citească și să discute documentele și argumentele părții adverse. Obiectul deciziei judecătorului se regăsește în probele furnizate de părți și discutate anterior în fața judecătorului.

[5] O astfel de utilizare în cadrul sistemului judiciar este deja menționată în rezoluția Parlamentului European din 12 februarie 2019 pentru „O politică industrială europeană completă privind Inteligența Artificială și robotica”.

[6] Acesta presupune că nu ar trebui să se încalce drepturile și libertățile cetățenilor, precum dreptul la un proces echitabil, prezumția inocenței, a libertății de exprimare și a discriminării;

[7]  Trebuie instituită o cultură a responsabilității la un nivel instituțional și la nivel organizațional;

[8]  Calea parcursă de sistem pentru a ajunge la o anumită concluzie sau decizie nu trebuie să fie o „cutie neagră”

[9]  Deciziile și acțiunile unui sistem trebuie să fie ușor de înțeles de utilizatorii umani.

Cobuz și Asociații

Str. Mărgăritarelor 14, Sector 2, București

Telefon:          +4 021 210 42 69

Fax:                +4 021 210 42 64

Email:            office@cobuz.ro

Articol apărut în revista Club Antreprenor, ediția septembrie 2021