♦ „Au apărut primele procese pe subiectul AI, legate de copyright şi date dezvăluite, neautorizate. Adică încep încet-încet să apară astfel de probleme şi e bine să încercăm să le ţinem sub control, să le avem în vedere şi să încercăm să ţinem cont de ele.“
Start-up-urile care folosesc tehnologia inteligenţei artificiale în dezvoltarea produselor lor software nu vor fi restricţionate în a-şi antrena sistemele şi a le implementa, odată ce va intra în vigoare AI Act – prima lege la nivelul Uniunii Europene privind utilizarea tehnologiei de inteligenţă artificială, însă acestea trebuie să ţină cont de o serie de aspecte de etică şi moralitate, astfel încât să nu se expună riscurilor din punct de vedere juridic, consideră Monica Stătescu, avocat şi partener în cadrul casei de avocatură Filip & Company.
„AI Act are şi un capitol prin care încearcă să încurajeze companiile mici şi mijlocii şi start-up-urile în direcţia asta şi prevede ceea ce se numeşte un «sandbox» de reglementare, adică un cadru mai lax, încercând să ofere instrumente care să permită testarea în condiţii de piaţă a sistemelor dezvoltate de start-up-uri şi de companiile mici şi mijlocii, tocmai ca să le permită totuşi să acceseze industria asta în nişte condiţii acceptabile pentru ei.“
„Se are în vedere crearea unui cadru mai permisiv şi a unor instrumente şi structuri care să le permite să testeze în condiţii de siguranţă sistemele AI. Sigur, va conta şi cum implementează fiecare ţară pentru că AI Act va intra în vigoare, dar sunt multe aspecte care vor trebui implementate la nivel de stat membru. Deci va conta probabil şi care ţară este mai inspirată în felul în care implementază şi pune în aplicare AI Act. Dar intenţia există acolo, adică este evident că la nivel european este luat în calcul şi se doreşte să existe mai multă deschidere pentru cei care vor să intre pe piaţă, să nu fie atât de restricţionaţi“, a spus ea în cadrul emisiunii ZF IT Generation.
Până la intrarea în vigoare a legii AI Act, care mai trebuie să fie adoptat şi de Consiliul European, este important ca start-up-urile şi companiile care folosesc AI în dezvoltarea produselor lor software să ţină cont de o serie de măsuri prin care să se asigure că nu se expun la riscuri din punct de vedere juridic. În primul rând, este foarte important ce baze de date folosesc companiile pentru a-şi antrena sistemele.
„Este foarte importantă baza de date pe care o foloseşti ca să antrenezi sistemul - de unde ţi-o iei, cât de bună este baza de date, trebuie să ai dreptul să o foloseşti, evident, în scop de training a acestor sisteme, să te asiguri că datele sunt colectate şi folosite folosind nişte principii corecte, etice şi nediscriminatorii. Pentru că în momentul în care noi introducem date sau îi dăm acces la numite date, inclusiv putem noi ca oameni să avem un bias, să avem nişte idei preconcepute, nişte prejudecăţi în felul în care noi înşine ne raportăm la lucruri. Şi există posibilitatea să iasă un rezultat discriminatoriu din sistem din cauză că s-au introdus date de către cineva sau cineva a dat voie sistemului să aibă acces doar la anumite categorii de date, fără să realizeze neapărat. Adică nu e neapărat din rea intenţie, dar de multe ori noi înşine nu ne dăm seama că avem prejudecăţi, că avem nişte idei preconcepute“, a explicat Monica Stătescu.
De asemenea, pentru a se proteja împotriva unor riscuri legale, companiile care dezvoltă soluţii AI ar trebui să aibă consultanţi sau specialişti în echipă pe zona de etică.
“Nu văd dezvoltatori de AI care să aibă în echipă şi specialişti în etică şi moralitate. Dar mie mi se pare că e foarte important să existe, mai ales, în companiile care dezvoltă soluţii AI în zona de HR, educaţională, pentru că atunci când vorbim de exemplu despre notarea elevilor, notarea examenelor ş.a.m.d., e important să ne asigurăm că rezultatul nu este discriminatoriu. Şi aici aş spune inclusiv să îşi ia în echipă un expert în etică şi există experţi în etică AI. Adică fix asta este specializarea şi eu cred că este de foarte mare viitor şi cred că e foarte important să luăm în calcul lucrul acesta”, a punctat ea.
Nu în ultimul rând, este important ca dezvoltatorii de soluţii AI să comunice transparent cu clienţii lor, astfel încât aceştia să ştie exact ce poate şi ce nu poate respectiva soluţie şi cât de mare trebuie să fie implicarea sau supervizare de către un operator uman.
“Trebuie să explicăm foarte bine celor care ne cumpără soluţia la ce să se aştepte, ce face şi ce nu face sistemul nostru sau <<acest lucru este posibil să nu îl facă bine şi atunci vă recomandăm foarte puternic să aveţi un angajat care verifică partea asta>>. De exemplu, mi se pare mult mai corect să spui: <<partea asta de etică noi nu am reuşit să o implementăm foarte bine, nu ştim dacă nu cumva sistemul nostru va da un rezultat care nu este tocmai în linii cu valorile morale şi etice, deci noi vă recomandăm foarte puternic să fie o persoană umană care să verifice chestiunea asta înainte să meargă mai departe>>. Acesta este felul în care, ca producător, te poţi proteja. Să faci pe cât de bine poţi, să antrenezi pe cât de bine poţi sistemul. Este evident că nu poţi să faci un produs ideal, dar măcar să ştii ce n-ai reuşit să faci, ce nu ai perfectat şi pentru acele părţi să pui acolo recomandarea să fie verificate de un operator uman. Dacă fac asta, în mod normal producătorii ar trebui să fie pe cât de protejaţi se poate într-un domeniu foarte nou. Dar, eu zic că nu trebuie să ne fie teamă de riscuri, ci să ne protejăm pe cât putem împotriva lor”, a conchis Monica Stătescu.
