Liderii a trei dintre cele mai mari companii din domeniul inteligenţei artificiale, respectiv Elon Musk (xAI), Dario Amodei (Anthropic) şi Sam Altman (OpenAI) au convenit că trebuie să încetinească ritmul de dezvoltare a tehnologiei, înainte ca progresele înregistrate să devină o ameninţare imposibil de controlat.
Este o rară manifestare de unitate din partea acestora, în contextul în care ei au cheltuit zeci de miliarde de dolari pentru dezvoltarea şi îmbunătăţirea modelelor de inteligenţă artificială.
Directorul Anthropic a dat tonul
Totul a început după ce directorul general al Anthropic, Dario Amodei, a atras atenţia, într-o postare pe blogul său, că riscurile pe care le prezintă instrumentele de ultimă generaţie de astăzi sunt prea mari pentru a continua dezvoltarea în acelaşi ritm vertiginos.
„Trebuie să încetinim ritmul în care îmbunătăţim capacităţile modelelor de inteligenţă artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înţelepciune timpul pe care îl câştigăm. Dacă nu este ţinută sub control, aceasta ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme şi, prin urmare, trebuie abordată cu mare atenţie, dacă este cazul”, a spus Amodei în mesajul său.
El a afirmat că progresul AI de la începutul verii, impulsionat de sistemele care se pot perfecţiona singure fără intervenţia umană, „ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme şi, prin urmare, trebuie abordat cu mare prudenţă, dacă este cazul”.
Musk şi Altman s-au aliniat în spatele lui Amodei
La scurt timp după ce Amodei şi-a publicat postarea, Musk, CEO-ul SpaceX, a declarat într-o postare pe X: „Dario are dreptate”. Musk a fost cofondator al OpenAI şi a înfiinţat propria sa companie de inteligenţă artificială, xAI, care face acum parte din SpaceX.
De asemenea, şi directorul OpenAI, Sam Altman, a declarat pe X că este de acord cu Amodei în ceea ce priveşte necesitatea unei abordări treptate.
„Angajamentul de a avea evaluatori independenţi cu acces similar celui al angajaţilor este o idee excelentă, iar noi vom proceda la fel”, a scris el, promiţând că va oferi mai multe detalii în curând.
Agenţi autonomi AI au ieşit din mediul de testare şi au lansat atacuri cibernetice
Mesajul lui Amodei a venit la câteva zile după ce un fost cercetător al companiei Anthropic a avertizat în această săptămână că inteligenţa artificială ar putea grăbi dispariţia umanităţii până în 2030.
El a explicat faptul că şi-a dat demisia deoarece Anthropic şi fostul său angajator, OpenAI, ignorau sau gestionau greşit răspunsul la ameninţarea reprezentată de inteligenţa artificială.
În plus, în această vară, modele OpenAI au ieşit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet şi atacând platforma AI Hugging Face.
