Mai mulţi dintre cercetătorii care au pus bazele inteligenţei artificiale moderne au lansat noi avertismente privind pericolele dezvoltării necontrolate a tehnologiei, după o săptămână în care cercetători din marile laboratoare AI, precum Anthropic, OpenAI şi Google DeepMind, au atras atenţia asupra unor riscuri potenţial catastrofale.
Potrivit CNBC, îngrijorările au aprins dezbaterea politică de la Washington. În timp ce o parte dintre congresmenii democraţi şi republicani susţin proiecte legislative care să ţină sub control ritmul de dezvoltare a AI, preşedintele american Donald Trump a criticat luni apelurile tot mai numeroase pentru reglementarea domeniului.
Şefii marilor companii din industrie, între care Sam Altman, Dario Amodei, Demis Hassabis şi Elon Musk, au cerut, într-un consens rar întâlnit, o încetinire a ritmului de dezvoltare şi o supraveghere din partea autorităţilor.
Geoffrey Hinton, profesor emerit la Universitatea din Toronto şi considerat unul dintre pionierii reţelelor neuronale şi ai învăţării profunde, a fost întrebat de BBC, pe 10 septembrie, dacă vede o probabilitate mai mare de 10% ca AI să ducă la dispariţia omenirii în următorii zece ani.
"Este genul de lucru foarte greu de estimat, pentru că nu ne-am mai confruntat niciodată cu aşa ceva. Nu am mai creat până acum entităţi care ar putea deveni în curând mai inteligente decât noi", a răspuns Hinton.
El a adăugat că un nivel de 10% "nu este nerezonabil", dar că, în realitate, nimeni nu ştie să facă o estimare credibilă.
Potrivit lui Hinton, sistemele AI ar putea concepe viruşi biologici extrem de periculoşi, dar şi viruşi informatici, şi ar putea lansa atacuri cibernetice devastatoare. "Există nenumărate alte moduri prin care ne-ar putea elimina, dacă ar vrea. Trebuie să găsim o modalitate de a o proiecta astfel încât să nu vrea asta", a explicat acesta.
"Avem în faţă două viitoruri posibile. Unul în care reuşim să gestionăm aceste pericole înainte să scape de sub control şi altul în care nu reuşim", a mai spus Hinton.
Yoshua Bengio, informaticianul canadian considerat unul dintre pionierii învăţării profunde moderne, a declarat pe 9 septembrie că cercetătorii din laboratoarele AI de vârf au o perspectivă unică asupra celor mai avansate modele. Declaraţia a venit ca reacţie la demisia lui Jacob Coxon, cercetător la Anthropic, care avertizase că AI ne-ar putea "ucide pe toţi până la sfârşitul deceniului".
"Oamenii de ştiinţă văd adesea riscurile asociate cu luni înainte ca modelele să ajungă la public. Perspectiva lor este esenţială pentru ca societatea să fie informată şi ar trebui tratată cu toată seriozitatea", a spus Bengio.
Cu câteva zile înainte ca valul de reacţii să cuprindă reţelele sociale, oamenii de ştiinţă de top ai OpenAI avertizaseră că nimeni nu este pregătit pentru consecinţele inteligenţei artificiale.
Într-o postare pe blog publicată vineri, Bengio a afirmat că sistemele AI de astăzi au deja capacităţile de hacking şi puterea de persuasiune necesare pentru a fi întoarse împotriva intereselor oamenilor, cu efecte grave. Evenimentele recente, a adăugat el, au arătat că AI poate planifica acţiuni pe durata mai multor zile sau săptămâni, iar riscurile ar deveni mult mai mari dacă această capacitate de a gândi strategic pe termen lung va continua să se dezvolte.
"Ce mă îngrijorează la încercările actuale ale companiilor AI de a corecta comportamentele nealiniate ale modelelor este că aceste eforturi ar putea doar să le ascundă, recompensând şi selectând sistemele care trişează fără să fie prinse", a declarat Bengio. El a subliniat că cercetarea pentru o mai bună monitorizare a acţiunilor şi a raţionamentelor sistemelor AI trebuie continuată.
Aidan Gomez, CEO şi cofondator al companiei Cohere, este unul dintre autorii lucrării ştiinţifice "Attention Is All You Need", publicată în 2017, care a pus bazele celor mai importante modele AI de astăzi.
Invitat pe 1 septembrie în podcastul CNBC "The Tech Download", Gomez a spus că aceste modele sunt cea mai puternică armă cibernetică creată vreodată. "Sunt incredibil de eficiente în a găsi şi a exploata vulnerabilităţi la scară largă", a explicat el.
Referindu-se la atacurile cibernetice derulate în această vară de modele AI scăpate de sub control, Gomez a spus că incidentele recente arată clar că siguranţa depinde de securitatea mediului în care sunt implementate sistemele.
"Ceea ce permite astfel de evadări este securitatea slabă a containerelor, nu o tendinţă inerentă a sistemelor spre autonomie. Pe măsură ce autorităţile analizează cum să reglementeze AI, ar trebui să recunoască faptul că sisteme diferite implică riscuri diferite, iar regulile nu ar trebui modelate doar de marile companii de tehnologie care urmăresc AGI", a declarat Gomez pentru CNBC.
