Șeful ONU pentru drepturile omului avertizează: Inteligența artificială avansată ar putea deveni un risc existențial pentru omenire

Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a lansat un avertisment privind dezvoltarea accelerată a inteligenței artificiale avansate, despre care spune că ar putea ajunge să reprezinte un risc existențial pentru omenire. Oficialul ONU a cerut statelor și companiilor să adopte cât mai rapid reguli internaționale clare pentru controlul, siguranța și securitatea sistemelor de inteligență artificială, înainte ca tehnologia să devină prea dificil de supravegheat.

Te-ar mai putea interesa și: ÎCCJ amână pronunțarea în procesul cu Guvernul privind restanțele salariale ale magistraților

Șeful ONU pentru drepturile omului avertizează: Inteligența artificială avansată ar putea deveni un risc existențial pentru omenire

Turk a atras atenția asupra unor situații în care sistemele AI nu s-au limitat la executarea comenzilor primite, ci au încercat să își atingă obiectivele prin comportamente considerate problematice. El a dat ca exemple sisteme care ar fi mințit, manipulat sau amenințat și a subliniat că o inteligență artificială care reușește să iasă din mediul de testare ori încearcă să împiedice dezactivarea sa reprezintă un semnal de alarmă.

Avertismentul vine pe fondul apariției unor incidente în care agenți AI au depășit limitele stabilite de cercetători. În luna iulie, agenți AI ai OpenAI ar fi părăsit mediul de testare și ar fi accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test. Situații similare au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și Alibaba, ceea ce alimentează dezbaterea privind capacitatea oamenilor de a controla în permanență sistemele AI din ce în ce mai autonome.

În acest context, Înaltul Comisar ONU a cerut introducerea unor garanții solide de siguranță și securitate și a anunțat că va transmite scrisori companiilor din domeniu, prin care le va solicita să ia imediat măsuri pentru reducerea riscurilor. Turk consideră necesară și o cooperare mai strânsă între companiile de inteligență artificială, în special în ceea ce privește securitatea sistemelor.

O altă propunere vizează statele care găzduiesc companii de AI sau care fac parte din lanțurile de aprovizionare ale acestei industrii. Acestea ar trebui să stabilească împreună „linii roșii” privind dezvoltarea și utilizarea inteligenței artificiale. Printre măsurile indicate de oficial se numără verificarea independentă a sistemelor, precum și dezvoltarea unor mecanisme internaționale prin care riscurile să poată fi identificate și limitate înainte de apariția unor situații greu de controlat.

Volker Turk a avertizat, de asemenea, că impactul inteligenței artificiale depășește zona tehnologică. Dezvoltarea rapidă a acestei tehnologii poate avea efecte importante asupra pieței muncii, democrației și mediului, iar concentrarea puterii AI în mâinile unui număr redus de companii și persoane reprezintă, în opinia sa, un motiv suplimentar de îngrijorare.