Începând cu 2 februarie 2025, dispoziţiile capitolului I şi II ale Regulamentului UE 2024/1689 de stabilire a unor norme armonizate privind inteligenţa artificială, cunoscut şi drept EU AI Act („Actul privind IA”), referitoare la alfabetizarea privind utilizarea inteligentei artificiale („IA”) şi interzicerea utilizării sistemelor IA care prezintă riscuri inacceptabile, au intrat în vigoare.
Actul privind IA prevede o abordare etapizată privind intrarea sa în vigoare, diferite părţi ale actului fiind aplicabile la 6, 12, 18, 24 şi 36 de luni de la adoptarea iniţială a actului, pe 1 august 2024. Primul astfel de prag de timp a fost atins la 2 februarie 2025, marcând intrarea în vigoare a Capitolului I („Dispoziţii generale”) şi Capitolului II („Practici interzise în domeniul IA”) ale Actului privind IA.
- OBLIGAŢII PRIVIND ALFABETIZAREA în domeniul IA
Începând cu 2 februarie 2025, furnizorii de sisteme IA (entităţi care dezvoltă sisteme IA, introduc sisteme IA pe piaţă sau pun în funcţiune sisteme IA sub propriul nume sau marcă) precum şi implementatorii de sisteme IA (entităţi care folosesc sisteme IA sub autoritatea lor în cursul activităţilor profesionale) au obligaţia de a lua măsuri pentru a asigura, în cea mai mare măsură posibilă, un nivel suficient de alfabetizare în domeniul IA al personalului şi al altor persoane care se ocupă de operarea şi utilizarea sistemelor IA în numele lor. Actul privind IA defineşte alfabetizarea în domeniul IA ca fiind competenţele, cunoştinţele şi înţelegerea necesare pentru a facilita implementarea sistemelor IA în cunoştinţă de cauză şi conştientizarea oportunităţilor, riscurilor şi prejudiciilor posibile pe care utilizarea IA le presupune.
În prezent, nu sunt prevăzute sancţiuni specifice pentru încălcarea obligaţiilor privind alfabetizarea în domeniul IA, însă se poate presupune în mod rezonabil că îndeplinirea sau neîndeplinirea acestor obligaţii poate fi avută în vedere de către autorităţile competente drept un factor în determinarea sancţiunii corespunzătoare aplicate unui furnizor sau implementator pentru alte încălcări ale Actului privind IA.
- PRACTICI interZIse în domeniul IA
De asemenea, începând cu 2 februarie 2025, sistemele IA care prezintă riscuri inacceptabile pentru drepturile fundamentale, statul de drept şi valorile Uniunii Europene, sunt interzise conform Capitolului 2 al Actului privind IA. Practicile IA interzise sunt următoarele:
- Manipularea şi tehnicile înşelătoare: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA care folosesc tehnici subliminale, manipulative sau înşelătoare cu scopul sau efectul de a denatura semnificativ comportamentul uman, afectând capacitatea acestora de a lua o decizie informatizată.
- Exploatarea vulnerabilităţilor: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA care exploatează vulnerabilităţile persoanelor fizice datorate vârstei, dizabilităţilor sau condiţiilor socio-economice, cu scopul sau efectul de a denatura semnificativ comportamentul acestora într-un mod care provoacă sau este susceptibil să provoace prejudicii semnificative.
- Scor social: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA pentru aplicarea de scoruri sociale (adică evaluarea sau clasificarea persoanelor) pe baza atributelor comportamentale sau personale, cu un punctaj social, conducând la tratament nefavorabil în contexte care nu sunt legate de cele în care au fost colectate datele sau care sunt nejustificate în raport cu comportamentul social sau gravitatea acestuia.
- Evaluarea şi predicţia riscurilor de infracţiuni ale indivizilor: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA exclusiv pentru profilarea indivizilor în vederea evaluării sau predicţiei riscului de comportament infracţional.
- Baze de date de recunoaştere facială: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA care creează sau extind baze de date de recunoaştere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau din înregistrările TVCI (CCTV).
- Recunoaşterea emoţiilor la locul de muncă şi în educaţie: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA pentru deducerea emoţiilor în sfera locului de muncă sau de învăţământ este interzisă, cu excepţia cazurilor justificate din motive medicale sau de siguranţă.
- Clasificare biometrică: introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor IA pentru clasificarea indivizilor pe baza datelor biometrice pentru a intui informaţii sensibile, precum rasa, opiniile politice, religia, apartenenţa la sindicate sau orientarea sexuală, sunt restricţionate.
- Utilizarea de către forţele de ordine a identificării biometrice la distanţă, în timp real: utilizarea sistemelor de identificare biometrică de la distanţă, în timp real, în spaţii accesibile publicului, de către forţele de ordine este în mare parte interzisă, cu excepţii definite strict.
Sancţiunile pentru nerespectarea interdicţiilor de mai sus nu au intrat încă în vigoare, acestea fiind amânate până la 2 august 2025 conform abordării etapizate a Actului privind IA. După intrarea în vigoare, sancţiunile constă în amenzi administrative de până la cea mai mare dintre valorile următoare: 35.000.000 EUR sau 7% din cifra de afaceri anuală totală la nivel mondial a entităţii în culpă.
- VI SE APLICĂ CELE DE MAI SUS?
Domeniul de aplicare al Actului privind IA este cuprinzător, acoperind o gamă largă de activităţi şi părţi interesate din domeniul IA. Se aplică furnizorilor care introduc pe piaţa UE sisteme sau modele IA, indiferent de ţara lor de origine, precum şi utilizatorilor de sisteme IA din UE şi chiar entităţilor stabilite în ţări terţe care utilizează IA ale căror rezultate sunt utilizate în UE.
Fabricanţii de produse care introduc pe piaţă sau pun în funcţiune un sistem de IA împreună cu produsul lor sunt, de asemenea, supuşi cerinţelor Actului privind IA. Mai mult, Actul privind IA se aplică şi persoanelor afectate care sunt situate în UE.
