Protestatarii Stop AI cred că, dacă vom continua pe calea actuală cu inteligența artificială, acest lucru va duce la dispariția omenirii, scrie Bugetul.
Printre cei care tratează cu seriozitate această amenințare a AI se numără Geoffrey Hinton, laureat anul trecut al Premiului Nobel pentru Fizică pentru contribuțiile sale în domeniul inteligenței artificiale:
„Atenuarea riscului de dispariție reprezentat de inteligența artificială ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.”
Conform unui scenariu ipotetic, inteligența artificială „lansează o duzină de arme biologice care se răspândesc discret în orașele mari, le lasă să infecteze în tăcere aproape pe toată lumea, apoi le declanșează cu un spray chimic”.
Inteligența artificială de astăzi se ocupă de sarcini cognitive specifice, precum efectuarea de calcule într-o foaie de calcul sau redactarea unui e-mail bine structurat. Aceasta este denumită „inteligență artificială restrânsă”.
În următorii ani, există posibilitatea ca AI să ajungă la nivelul inteligenței generale artificiale (AGI), adică la capacitatea de a egala inteligența umană.
O AGI sau chiar o superinteligență artificială (ASI) ar putea să planifice pe termen lung și să folosească înșelăciunea. Astfel, ar putea părea că acționează în concordanță cu interesele noastre, în timp ce în realitate nu ar fi deloc aliniată cu acestea.