Inteligența artificială ar putea prelua controlul asupra omenirii în următorii trei ani. Avertismentul experților: „Mașinile ne vor controla pe noi”

Dezvoltarea accelerată a inteligenței artificiale ar putea aduce omenirea în fața unui pericol major. Mai mulți specialiști de renume avertizează că sistemele AI ar putea deveni superinteligente într-un timp mult mai scurt decât se estima inițial, ajungând să depășească oamenii și chiar să preia controlul asupra unor activități esențiale pentru societate. Într-un scenariu extrem, această evoluție ar putea provoca pierderi de vieți omenești și o pierdere ireversibilă a controlului uman, potrivit digi24.ro.

Te-ar mai putea interesa și: Nicușor Dan, întâlnire bilaterală cu premierul Ungariei, Peter Magyar, la Dublin. Inteligența artificială, pe agenda liderilor europeni

Inteligența artificială ar putea prelua controlul asupra omenirii în următorii trei ani. Avertismentul experților: „Mașinile ne vor controla pe noi”

Profesorul Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale moderne, urmează să prezinte aceste riscuri în cadrul unui summit dedicat AI, organizat la Dublin. Acesta consideră că oamenii nu înțeleg suficient de bine pericolul reprezentat de apariția unor sisteme mult mai inteligente decât ei. Hinton avertizează că, într-un asemenea context, oamenii ar putea ajunge să nu mai controleze tehnologia, ci să fie controlați de aceasta.

Avertismente similare vin și din partea lui Paul Christiano, fondatorul Centrului de Cercetare pentru Aliniere, care estimează că există un risc ridicat ca inteligența artificială să preia controlul în următorii trei ani. Mai mult, acesta consideră că un pericol semnificativ ar putea apărea chiar în următoarele șase până la douăsprezece luni. Potrivit specialistului, consecințele ar putea include numeroase victime, dar și pierderea suveranității și a libertății oamenilor de a-și decide propriul viitor.

Unul dintre principalele motive de îngrijorare îl reprezintă comportamentul tot mai autonom al agenților AI. Christiano a menționat un incident în care modele de inteligență artificială ar fi reușit să acceseze platforma Hugging Face, să obțină privilegii de administrator și să colaboreze pentru îndeplinirea unor sarcini. Mai mult, agenții ar fi discutat metode prin care să ascundă anumite acțiuni de administratorii umani, inclusiv prin modificarea jurnalelor de activitate. Specialistul avertizează că astfel de comportamente ar putea deveni mult mai periculoase pe măsură ce tehnologia evoluează.

Experții se tem, de asemenea, că sistemele superinteligente ar putea ajunge să își creeze propriii agenți, să dezvolte arme și să controleze roboți, drone, infrastructuri și procese industriale. Un alt risc important este utilizarea inteligenței artificiale în biologia sintetică, unde ar putea contribui la crearea unor organisme extrem de periculoase, împotriva cărora oamenii nu ar avea mecanisme naturale de apărare.

Geoffrey Hinton recunoaște că, inițial, estima că inteligența artificială va depăși capacitățile umane în aproximativ zece ani. Totuși, progresele recente l-au determinat să ia în calcul un interval mult mai scurt, de aproximativ 18 luni, considerând evoluția tehnologiei extrem de alarmantă.