Viteza cu care evoluează tehnologia aduce tot mai aproape scenarii precum calcularea primei de asigurare de sănătate pe baza comportamentului fiecărei persoane sau a asigurării auto RCA în funcţie de stilul de condus şi de datele colectate de la autoturism în acest sens. Aceste ipoteze presupun utilizarea tehnologiilor de tipul AI (inteligenţă artificială) care, dincolo de beneficiile semnificative pe care le oferă, presupun şi riscuri cu privire la respectarea drepturilor şi libertăţilor fundamentale ale persoanelor vizate. La nivel european există, în ultimii ani, preocupări intense în legătură cu acest subiect, cu scopul de a proteja consumatorii, însă fără a frâna utilizarea tehnologilor de acest tip.
Inteligenţa artificială este deja intens utilizată în domenii diverse, iar avantajele sunt evidente. Oficialii europeni susţin însă că folosirea inteligenţei artificiale trebuie să ţină cont şi de faptul că aceasta poate aduce prejudicii semnificative persoanelor vizate, atât de ordin material, cât şi moral. Totodată, aceştia recunosc că, în practică, persoanele afectate pot întâmpina dificultăţi în exercitarea drepturilor lor în legătură cu anumite decizii luate de inteligenţa artificială.
În zona de publicitate şi marketing, în comerţul online, în procesele de segmentare a audienţei vizate şi de personalizare a mesajelor de promovare folosite de platforme online, aplicaţii sau site-uri, se utilizează deja diferite procese decizionale automate, inclusiv de tipul inteligenţei artificiale. Aşa cum arată şi Comisia Europeană în documentele emise în legătură cu acest subiect, AI este utilizată de intermediarii online pentru a stabili prioritatea informaţiilor destinate clienţilor şi pentru a asigura modelarea conţinutului. Dar datele prelucrate, modul în care sunt concepute aplicaţiile şi posibilităţile de intervenţie umană pot afecta drepturile la libertatea de exprimare, la protecţia datelor cu caracter personal şi a vieţii private, precum şi libertăţile politice. Din ce în ce mai multe programe de calculator personalizează experienţa utilizatorilor în mediul online, pe baza informaţiilor colectate despre aceştia referitoare la activitate, modul de petrecere a timpului, preferinţe, informaţii tranzacţionale etc.
Implicaţiile utilizării AI şi conformarea cu legislaţia în vigoare
Având în vedere că, din perspectiva protecţiei datelor cu caracter personal, există riscuri de prelucrare intruzivă şi de „etichetare” a utilizatorilor, discuţiile cu privire la folosirea unei soluţii sau aplicaţii software care poate presupune şi AI se concentrează în jurul a două idei. Prima este legată de etica juridică, în contextul potenţialului conflict dintre perspectiva de business şi perspectiva utilizatorului. Din acest punct de vedere, instrucţiunile transmise clienţilor trebuie să respecte anumite criterii de transparenţă şi să nu fie discriminatorii, îndeplinind în acelaşi timp aşteptările acestora, în special legate de UI – user infrastructure design (o comunicare vizuală estetică şi interacţiune plăcută pentru utilizatori) şi UX – user experience (atenţie la detalii, empatie şi simplificarea proceselor pe care clienţii sunt nevoiţi să le parcurgă).
A doua idee este legată de conformarea cu legislaţia aplicabilă în zone precum protecţia consumatorilor, a drepturilor de proprietate intelectuală şi, mai ales, a datelor cu caracter personal. În această ultimă privinţă, conformarea nu reprezintă doar bifarea unor „termeni şi condiţii” sau redactarea unei „privacy policy” ori a unei note de informare. În acest caz, sunt relevante aspecte precum alegerea sau validarea unui temei de prelucrare, recomandări în ceea ce priveşte instrucţiunile date motorului de personalizare (diferite de la un model de business la altul), clarificări în legătură cu criteriile de profilare, cum se realizează efectiv profilarea şi gradul de intruziune, modalitatea în care se asigură intervenţia umană, asigurarea unui echilibru între ce înseamnă intruziv şi non-intruziv.
În acest context, având in vedere beneficiile semnificative pe care le implică economia bazata pe date (data-driven economy), care includ şi dezvoltarea tehnologiilor de tipul AI, este apreciabilă preocuparea forurilor europene pentru definirea unui cadru legislativ care să garanteze că progresul tehnologic în domeniul digitalizării respectă drepturile şi libertăţile fundamentale ale persoanelor vizate.
Regulamentul general privind protecţia datelor cu caracter personal (GDPR) impune o serie de reguli şi pune la dispoziţia persoanelor vizate mecanisme menite să le protejeze de riscurile ce pot apărea în legătură cu deciziile luate de AI (de exemplu, riscuri de discriminare, practici neloiale şi efecte de blocare). Cu toate acestea, mai sunt necesare iniţiative legislative sau, cel puţin, recomandări şi bune practici pentru identificarea celor mai potrivite mijloace care trebuie puse la dispoziţia persoanelor vizate pentru a-şi exercita drepturile, precum şi pentru adaptarea mecanismelor existente la provocările specifice utilizării AI în diferite sectoare.
Material de opinie de Silvia Axinescu, Senior Managing Associate la Reff & Asociaţii Deloitte Legal
