ZF Tech Day. Răzvan Rughiniş, profesor la Politehnica din Bucureşti: Antreprenorii trebuie să fie deschişi la noile tehnologii, precum AI, dar să facă o evaluare onestă a promisiunilor făcute, sunt şi multe exagerări

Autor: Adrian Seceleanu 17.03.2023

„În zona de tehnologie există şi un nivel de exagerare - una vine de la producători, dar alta vine şi de la noi. Ne dorim o lume mai predictibilă, iar tehnologia pare să ne ofere o cale către o predictibilitate“.

Antreprenorii, indiferent de domeniul în care activează, ar trebui să fie deschişi la nou şi să testeze noile tehnologii - aşa cum sunt noile platforme de inteligenţă artificială, dar ar trebui să le testeze şi să le evalueze performanţele cu multă atenţie, pentru că de multe ori calităţile acestora sunt prezentate în mod exagerat.

„Tehnologia va juca un rol mai important în societate, ceea ce, din punctul meu de vedere, înseamnă că pentru fiecare antreprenor trebuie să fie o deschidere în a înţelege în primul rând promisiunea pe care fiecare dintre aceste tehnologii o face şi apoi să facă o evaluare onestă faţă de această promisiune. Pentru că de multe ori ne lăsăm purtaţi de acest entuziasm şi de această exagerare a dorinţei noastre de progres şi aşteptăm prea mult la tehnologie, facem salturi care nu se susţin şi după aceea trebuie să revenim la metodele bazate pe procese validate de zeci de ani de zile“, a spus în cadrul emisiunii ZF Tech Day Răzvan Rughiniş, profesor la Politehnica din Bucureşti şi cofondator al Innovation Labs, primul program local de preaccelerare pentru start-up-uri tehnice de pe plan local.

Rughiniş a adăugat că de multe ori şi clienţii sunt cei care exagerează beneficiile unei platforme, pentru că îşi doresc să aibă o viaţă mai simplă. „Şi din punctul meu de vedere, un antreprenor în orice domeniu se află, de la agricultură, domenii foarte întemeiate pe contactul cu realitatea directă, trebuie să aibă deschiderea pe sectorul său, să vadă noile soluţii şi să vadă cum realitatea este servită de promisiuni. Pentru că, evident, în zona de asta de tehnologie există şi un nivel de exagerare. Una vine de la producătorii acestora, de la companiile de tehnologie dar alta vine şi de la noi. Ne dorim o lume mai predictibilă, iar tehnologia pare să ne ofere o cale către o predictibilitate. Până la urmă, asta este esenţa. Trebuie să ai o cuantă de timp. Cum ai cuantă de timp în a explora riscuri de business, riscuri de competiţie, să explorezi şi promisiunile tehnologiei şi modul cum îţi vor afecta specific industria, businessul tău.“

Răzvan Rughiniş atrage atenţia şi că foarte multe entităţi discută despre tehnologie, dar nu toate au cu adevărat competenţa de a o face, şi atunci este rolul antreprenorilor să fie atenţi la cei pe care-i ascultă şi la modul în care aceştia livrează în raport cu promisiunile. „De multe ori tehnologia nu este liniară. Ai acumulări cantitative pentru salturi calitative. Suntem într-o lume cu foarte mult zgomot. Toată lumea vorbeşte despre tehnologie, despre progres, dar nu toţi aceşti actori au ceva de spus. Şi atunci nu poţi mâine să decizi: vreau să-mi digitalizez businessul, dau o căutare pe Google, am făcut un click şi businessul meu e digital. Nu se întâmplă aşa. Un business, în primul rând, trebuie să pornească de la specificităţile, de la piaţa în care se află, de la contextul cultural, la relaţiile cu clienţii, actorii principali şi în timp poţi să-ţi dai seama care dintre numeroasele soluţii tehnologice se apropie cel mai mult de ceea ce ai nevoie.“

Pe măsură ce platformele de inteligenţă artificială şi algoritmii lor încep să fie din ce în ce mai prezenţi, chiar şi în interacţiunile clienţilor din România cu diferite companii, cu toţii trebuie să fim atenţi la aceste decizii automatizate, pentru că ele pot conţine erori, pentru că aşa au fost introduse datele în sistem. „Dar iarăşi trebuie să ne dea de gândit, pentru că atâta vreme cât le înlocuim aceste decizii umane cu cutii negre, care de multe ori nu sunt în puterea noastră de a le inspecta, nu putem să deschidem multe dintre aceste modele, să vedem cum sunt acele date pe care modelele au fost antrenate, care sunt premisele pe care autorii modelelor le-au folosit ca să le construiască, vom avea erori şi dacă, pe termen scurt, aceste erori vor fi într-un spectru foarte rar, foarte benign, există riscul unor acumulări masive. Şi ce face Uniunea Europeană, şi este un aspect important discutat în carte, este că încearcă să definească arii în care inteligenţa artificială ar trebui să fie îmbrăţişată cu cât mai puţine obstacole. Dar şi acestea, bineînţeles, sunt cele de impact scăzut asupra cetăţenilor.“

Una este ca eMAG sau Netflix să-ţi recomande ceva ce de fapt nu-ţi place, şi alta este ca banca să-ţi refuze un credit, pentru că un algoritm, încărcat cu date eronate, a făcut o eroare, a spus Rughiniş. „Da, dacă vorbim de domeniul de divertisment, n-o să fie o mare problemă dacă algoritmul de recomandări de pe Netflix sau de pe eMag îmi spune s-ar putea să fii interesat de acest produs, iar produsul să fie total în afara intereselor mele - dar nu mă voi simţi vătămat, nu o să mă duc la terapie. Pur şi simplu pot să dau un refresh să-mi ofere alte 5-10 produse eMag. Dar în momentul în care, cum spune Uniunea Europeană, vorbim de decizii algoritmice cu un impact extraordinar de important asupra cetăţenilor şi aici unele le putem intui, pot fi cele legate de sănătate. Da, sănătatea este un domeniu care va va avea mult de beneficiat în diagnoză asistată, dar sunt şi lucruri pe care noi nu le înţelegem foarte bine. De exemplu zona de creditare. Da, multă lume pentru achiziţia unei case apelează la la o bancă, la un credit. Modul cum acest credit ajunge să fie construit, dobânda oferită unui client faţă de alt client adesea se va baza pe recomandări, dacă nu chiar decizii ale acestor modele de inteligenţă artificială. Şi Uniunea Europeană spune că achiziţia unei case nu este o opţiune pe care ar trebui să o tratăm cu uşurinţă. Este un lucru care defineşte foarte mult din cea ce ce poţi să faci tu ca cetăţean iar pentru astfel de credite esenţiale trebuie să poată să fi oferite explicaţii privind acordarea lor sau nu, dacă cetăţenii se simt discriminaţi. S-ar putea să existe o discriminare masivă în aceşti algoritmi. În Statele Unite au fost astfel de cazuri. JP Morgan s-a confruntat cu o diferenţă masivă în ceea ce înseamnă credit, ratingul, posibilitatea, plafonul de credit pe care o doamnă putea să-l obţină faţă de soţul acesteia, deşi toate bunurile erau la comun. Cu alte cuvinte, în cazul acela, a fi bărbat însemna că eşti de cinci ori mai responsabil cu banii, lucru pe care încă o dată, datele nu le susţin. Şi oricum, discriminarea pe bază de sex nu ar trebui să fie parte dintr-o decizie de acordare a unui credit. Datele financiare trebuie să fie cele pe care să semnezi o astfel de decizie. Dar în momentul când cei JP Morgan şi Apple, care era intermediari ai acestui credit au fost investigaţi, au ridicat pur şi simplu din umeri dând vina pe algoritm. Acest tip de răspuns nu va mai fi tolerat în Uniunea Europeană. Vom defini arii în care inteligenţa artificială va avea o exigenţă foarte ridicată, în care poate chiar nu vom folosi sau măcar vom avea ceea ce numeşte Uniunea Europeană şi o decizie umană bazată pe date“.

 

Ce a mai declarat Răzvan Rughiniş în cadrul emisiunii:

Tehnologia poate să vină ca o augmentare a deciziei umane şi în timp, trebuie să vină cu un număr mai mic efectiv de joburi în foarte multe sectoare mai ales în acesta de colectare, interpretare şi până la urmă decizii bazate pe date. Pentru că asta ne dorim până la urmă de la politicieni, nu doar politicieni inspiraţionali, carismatici, dar politicieni care să fie conectaţi la realitatea ţării, o realitate reflectată în date. Şi pe baza acestei realităţi să putem construi astfel de politici care să ajute, bineînţeles, cât mai mult societatea. Realitatea, bineînţeles, este că la noi există, mai ales în sectorul public, lucru documentat de Uniunea Europeană pe acest indicator important - DESI - o lipsă de apetit pentru toate aceste soluţii. Inclusiv lansarea recentă a consilierului virtual ION al primului ministru este de domeniul amuzamentului. Ne bucură deschiderea, dar este mai degrabă un efort de marketing. Nu oferă ceea ce ofereau agenţii conversaţionali de pe site-urile comerciale în urmă cu 10 ani. Nu îţi oferă un mic feedback, o rezumare şi avem doar această promisiune că dacă în mod voluntar şi fără niciun fel de feedback oferim astfel de opinii, acestea vor fi folosite într-un mod înţelept.

E un proiect de cercetare prezentat ca o realitate, ceea ce nu este. Eu mă bucur pentru că Guvernul acum îmbrăţişează, măcar în zona aceasta de imagine, această viziune a unei guvernări în care tehnologia are un rol central. Dar iarăşi aş vrea să urmeze paşi şi atunci să avem o comunicare şi speranţa mea este că şi jurnaliştii să totuşi urmărească acest demers şi să nu uităm de promisiunile pe care în momentul acesta actorii politici le fac.