Sam Altman: AI poate declanșa o nouă Renaștere sau o nouă Revoluție Industrială

Altman a susținut necesitatea menținerii sistemelor puternice sub control uman și a cooperării internaționale în materie de siguranță a AI.

Altman: „Vorbim despre inteligența artificială de ani de zile, dar în ultimele săptămâni și luni situația pare diferită. Progresul rapid al modelelor a făcut ca orizontul de timp să pară mai scurt, beneficiile potențiale mai concrete, dar și mizele și riscurile să fie imediate”.

Altman a afirmat că lumea se află în fața unei alegeri, iar inteligența artificială poate reprezenta fie o nouă eră a creativității și descoperirilor, fie o perioadă de transformări profunde și dezordine.

„Avem în față o alegere. AI poate fi fie asemenea unei noi Renașteri a creativității și descoperirilor, fie asemenea unei noi Revoluții Industriale, cu transformări profunde și dezordine”, a spus Sam Altman.

Potrivit acestuia, Renașterea a fost o perioadă în care noi instrumente, idei și instituții au extins ceea ce oamenii credeau că pot face, iar AI poate juca un rol similar în prezent.

Altman consideră că oamenii sunt mai capabili decât își imaginează, dar au fost limitați de tehnologii, care inițial au fost concepute pentru a-i ajuta și care, în schimb, ajung să le distragă și să le acapareze atenția.

Altman a spus că dezvoltarea AI nu ar trebui să urmărească transformarea oamenilor în „rotițe ale unei mașinării uriașe” și nici optimizarea fiecărui aspect al vieții până la dispariția componentelor umane.

În schimb, a spus el, AI ar trebui să le ofere oamenilor mai multă capacitate de a decide asupra propriei vieți într-o lume tot mai complexă și să le permită să învețe, să creeze, să descopere, să construiască și să participe.

Altman a subliniat că există multe lucruri pe care AI nu poate și nu ar trebui să le automatizeze

„AI trebuie construit pentru oameni, nu doar pentru a accelera mecanismele tehnologice de dragul accelerării lor”, a spus directorul general al OpenAI, adăugând că unele dintre lucrurile afirmate de cei care lucrează la dezvoltarea AI sunt atât de distopice, încât par desprinse din scenariul unor filme SF slabe.

Altman a recunoscut că o tehnologie atât de puternică este și intimidantă și că momentul actual combină un potențial uriaș cu o anxietate, lucru pe deplin de înțeles.

El a afirmat că modelele AI pot contribui la descoperirea unor medicamente noi, la servicii medicale mai bune, la o educație mai performantă și la economii mai productive. În același timp, acestea pot deveni instrumente prin care oamenii să își urmărească visuri și ambiții care astăzi par imposibil de atins.

Altman a spus că, în condițiile în care complexitatea vieții a crescut semnificativ pentru omul obișnuit, AI poate fi un instrument de protecție împotriva acestei complexități, dar și un instrument pentru descoperiri și inovații fără precedent.

Sam Altman: AI ar putea evolua mai rapid decât instituțiile și ar putea ajunge dincolo de controlul oamenilor

Pe de altă parte, pe măsură ce sistemele AI devin mai capabile și mai autonome, Altman a avertizat că acestea ar putea evolua mai rapid decât instituțiile, ar putea concentra puterea în prea puține mâini sau ar putea lua decizii pe care oamenii nu le mai înțeleg sau nu le mai pot controla.

Această preocupare devine, în opinia sa, deosebit de importantă pe măsură ce dezvoltarea AI se apropie de sisteme care se pot îmbunătăți pe ele însele și pe versiunile lor viitoare, proces denumit adesea „autoîmbunătățire recursivă”. Altman a spus că, pe măsură ce procesul de construire a AI devine mai automatizat, ritmul progresului s-ar putea accelera rapid.

„Acest moment necesită o prudență extremă”, a spus el.

Altman a afirmat că este în mare parte de acord cu profesorul Bengio, dar că identifică două, nu trei, modalități prin care progresul AI ar putea merge „foarte prost” și pe care lumea trebuie să le evite.

Prima ar fi pierderea controlului asupra viitorului în favoarea AI. Potrivit lui Altman, riscul este ca tehnologia să evolueze atât de rapid încât oamenii să nu mai poată urmări ceea ce se întâmplă sau să nu mai poată interveni atunci când este necesar.

„Industria nu trebuie să accepte prea mult risc tehnologic doar pentru că beneficiile sunt prea mari și par prea importante pentru a încetini ritmul. A depăși alte companii într-o cursă tehnologică nu este un motiv pentru a lua decizii pripite. Nici nu credem că suntem prinși într-o cursă în care nu avem posibilitatea să facem acest lucru”, a spus Altman.

Directorul general al OpenAI a afirmat că organizația sa a încetinit unilateral în trecut și că va proceda la fel și în viitor. „În trecut am încetinit unilateral. O vom face și în viitor. Nu vrem să construim sisteme – și considerăm că este important ca nimeni să nu construiască sisteme – pentru care nu putem oferi garanțiile necesare privind alinierea, monitorizarea și siguranța”, a spus el.

Altman a susținut că dezvoltatorii trebuie să înțeleagă ce fac aceste sisteme și să aibă dovezi solide că ele vor face ceea ce intenționează oamenii, inclusiv atunci când devin foarte inteligente. „De fapt, mai ales atunci când devin foarte, foarte inteligente”, a spus el.

În opinia lui Altman, nivelul estimat al riscului unei catastrofe nu schimbă datele problemei. „Nu contează dacă oamenii estimează riscul unei catastrofe la 10%, 1%, 12% sau 0,1%. Niciunul dintre aceste niveluri nu este câtuși de puțin acceptabil”, a spus el.

Altman a adăugat că nu ar trebui antrenate modele despre care dezvoltatorii nu pot susține, cu argumente extrem de solide, că vor putea fi menținute sub control uman.

A doua modalitate prin care lucrurile ar putea merge prost, potrivit lui Altman, este concentrarea unei puteri prea mari în prea puține mâini. „Nicio persoană, companie sau țară nu ar trebui să poată utiliza cele mai puternice modele AI pentru a-și impune propria viziune asupra lumii tuturor celorlalți”, a spus el.

Altman a afirmat că o companie sau o țară care consideră că doar ea poate fi de încredere în gestionarea acestei tehnologii ar putea folosi această convingere pentru a justifica aproape orice altceva. „Trebuie să respingem această logică, chiar și atunci când este convenabil pentru un anumit actor”, a spus directorul general al OpenAI.

La OpenAI, Altman a spus că abordarea acestor riscuri pornește de la un obiectiv clar: AI trebuie să le ofere oamenilor mai multă putere asupra propriilor vieți, mai multă libertate de a-și trăi viața așa cum doresc și mai multă capacitate de a rezolva probleme, mari sau mici, și de a-și îmbunătăți comunitățile.

El a spus că OpenAI nu vrea nici „optimism orb”, dar nici „pesimism radical”, considerând că niciuna dintre aceste extreme nu ar ajuta la rezolvarea provocărilor care apar odată cu dezvoltarea tehnologiei.

„De aceea încercăm să urmăm calea de mijloc dintre aceste două extreme”, a spus Altman.

Pentru OpenAI, această abordare are la bază trei principii.  Primul este menținerea oamenilor în centrul procesului decizional privind AI, pe măsură ce sistemele devin mai capabile. Altman a spus că alinierea nu este o întrebare abstractă de cercetare, ci presupune ca sistemele să rămână în mod fiabil sub control uman, să reflecte valorile umane și să îi ajute pe oameni să ghideze următoarele etape ale dezvoltării.

„Nu încercăm și nu trebuie să încercăm să automatizăm judecata umană sau valorile umane”, a spus el.

Al doilea principiu este ca beneficiile progresului științific și ale creșterii economice să fie obținute de oameni și pentru oameni. Altman a spus că AI ar trebui să îi ajute pe cercetători să facă descoperiri, pe medici să trateze pacienți, pe profesori să îi învețe pe elevi, pe antreprenori să înființeze companii și pe comunități să rezolve probleme, care păreau imposibil de abordat.

„Povestea continuă a progresului uman nu este aceea că instrumentele înlocuiesc capacitatea oamenilor de a decide și de a acționa. Este aceea că instrumentele potrivite îi fac pe oameni mai capabili, iar eu cred că acest lucru va merge mult mai departe decât ne imaginăm”, a spus Altman.

Al treilea principiu este ca tehnologia să le ofere oamenilor putere la nivel individual. Altman a spus că un viitor extraordinar va apărea atunci când oamenii își vor realiza potențialul și vor crea valoare pentru ei înșiși, pentru comunitățile lor, pentru țările lor și pentru lumea în ansamblu.

„Putem fi unul dintre constructorii acestei tehnologii, dar nu noi suntem eroii acestei povești. Rolul nostru este să le oferim posibilitatea oamenilor din întreaga lume și să avem încredere în forța extraordinară a abilităților și capacităților umane”, a spus el.

Altman a vorbit și despre progresul modelelor OpenAI în domeniul matematicii. El a spus că, în urmă cu trei veri, modelele companiei se descurcau acceptabil la matematica de nivel primar, iar în urmă cu două veri se descurcau destul de bine la competițiile de matematică de nivel liceal.

„Vara trecută, am ajuns la un nivel echivalent cu medalia de aur la cea mai prestigioasă competiție internațională de matematică. Iar în urmă cu doar câteva săptămâni, în această vară, unul dintre modelele noastre a rezolvat una dintre Problemele Mileniului, ecuațiile Navier-Stokes”, a spus Altman.

Altman spune că ecuațiile Navier-Stokes sunt utilizate în proiectarea aeronavelor, prognoza meteorologică și studiul fluxului sanguin

Altman a spus că scopul acestor progrese nu este rezolvarea problemelor matematice de dragul matematicii, ci folosirea lor pentru ca oamenii să poată descoperi noi cunoștințe și să le utilizeze pentru îmbunătățirea serviciilor medicale, creșterea nivelului de trai și extinderea potențialului oamenilor din întreaga lume.

„Sunt încă atât de multe lucruri de descoperit”, a spus el.

Companiile nu trebuie să se substituie procesului democratic

Altman a subliniat că este important ca firmele să nu se substituie procesului democratic. „Dacă AI trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar de laboratoarele din San Francisco. Ele trebuie stabilite prin procese democratice și de guverne care răspund în fața oamenilor pe care îi servesc”, a spus el.

La nivel internațional, Altman a spus că dezvoltarea AI va necesita cooperare. El a amintit că au existat momente în istorie în care țări aflate în competiție și care nu se simpatizau întotdeauna foarte mult s-au reunit în jurul unor interese comune și al binelui colectiv în fața unei tehnologii noi și puternice.

„Credem că acesta trebuie să fie unul dintre aceste momente”, a spus Altman.

Altman susține necesitatea unui mecanism pentru standarde naționale și internaționale complementare privind AI de frontieră

Acestea ar trebui să vizeze măsurarea capabilităților, evaluarea riscurilor, stabilirea măsurii în care mecanismele de protecție sunt suficiente și menținerea unei supravegheri umane reale pe măsură ce sistemele devin mai autonome.

„Avem nevoie de standarde comune pentru ca țările să poată compara dovezile, să verifice respectarea regulilor și să aibă un limbaj și o înțelegere comune asupra a ceea ce se întâmplă”, a spus Altman.

El a cerut, de asemenea, raportarea precisă și rapidă a incidentelor și protocoale pentru clasificarea și raportarea acestora, astfel încât lumea să poată învăța din eșecuri înainte ca acestea să se transforme în catastrofe.

În plus, Altman a spus că sunt necesare canale sigure între guverne, operatorii infrastructurilor critice și experții tehnici pentru comunicarea vulnerabilităților emergente și a noilor amenințări.

Aceste standarde, a spus el, nu ar trebui să îi protejeze pe actorii existenți de concurență și nici să favorizeze un anumit model de afaceri în detrimentul altuia.

„Ele trebuie să sprijine atât dezvoltatorii de modele open-source, cât și pe cei care dezvoltă modele cu acces restricționat, atât noii intrați pe piață, cât și laboratoarele consacrate, precum și autoritatea națională și cooperarea internațională”, a spus Altman.

Sam Altman: Fiecare guvern ar trebui să decidă cum să integreze standardele în propriul sistem juridic

Fiecare guvern ar trebui să decidă cum să integreze standardele în propriul sistem juridic, a afirmat el, adăugând că tuturor le-ar fi mai bine dacă s-ar putea conveni la nivel global asupra modului în care arată dovezile solide, mecanismele eficiente de protecție și supravegherea adecvată.

„Nu avem toate răspunsurile și suntem foarte deschiși la orice idei mai bune. Suntem pregătiți să lucrăm cu dumneavoastră toți și să facem tot posibilul pentru a identifica drumul de urmat”, a spus Altman.

Sam Altman: Suntem la o răscruce

În încheiere, Altman a spus că lumea se află la o răscruce. „Un drum duce către o lume în care puterea este concentrată, deciziile sunt opace, iar oamenii simt că cea mai importantă tehnologie a vieții lor este ceva ce li se întâmplă”, a spus el.

„Celălalt drum duce către o lume în care AI lucrează pentru oameni, deoarece oamenii, prin intermediul instituțiilor democratice, contribuie la decizia privind modul în care aceasta ar trebui să se dezvolte și o ghidează.  Este drumul în care progresul științific îmbunătățește viețile reale; în care mai mulți oameni pot participa la viitor; și în care această tehnologie continuă să le ofere indivizilor și comunităților mai multă putere de a-și trăi viața așa cum aleg.”

„Acesta este un viitor al potențialului realizat, al entuziasmului și al uimirii. Și este viitorul pe care credem că merită să îl construim. Vă mulțumesc foarte mult.”

Citește și: OpenAI va începe să implementeze GPT-6 Astra, cel mai recent model de inteligență artificială al său