Cei patru „cavaleri” ai Apocalipsei AI. Cele mai sumbre predicții ale liderilor din industrie: omenirea, la „89 de secunde” de colaps

Tehnologiile disruptive au avansat exponențial în 2024, iar sistemele care încorporează inteligența artificială (AI) devin din ce în ce mai sofisticate. Nu doar în circuitul civil, ci și cele utilizate în scopuri militare. Pe 28 ianuarie 2025, omenirea a ajuns la „89 de secunde” de colaps, avertizează Doomsday Clock (Ceasul Apocalipsei), un simbol creat de Bulletin of the Atomic Scientists pentru a semnala riscurile existențiale create de folosirea tehnologiilor de ultimă oră.

Suntem cu mult mai aproape de „apocalipsă” decât la finalul celui de-al doilea război mondial, când amenințarea nucleară a adus liderii planetei la aceeași masă pentru a opri un dezastru global. Riscurile corelate cu implementarea nereglementată a tehnologiilor AI de ultimă oră, asupra cărora lideri de top din industrie au atras atenția în ultimii ani, sunt cele care aduc acum omenirea la mai puțin de un minut distanță de un scenariu autodistructiv.

„Ceasul Apocalipsei” este o interfață sub forma unui ceas simbolic, administrată de Consiliul de Directori al Buletinului Oamenilor de Știință din Domeniul Atomic de la Universitatea Chicago, care arată câte „minute” despart omenirea de o catastrofă de proporții globale, care ar duce la anihilarea ei, moment simbolizat prin miezul nopții. Ceasul a fost setat prima dată în anul 1947, în pragul Războiului Rece, și de atunci a fost resetat de 19 ori, în funcție de evenimentele care au avut loc pe glob. În ultimii ani, evoluțiile legate de AI au devenit un factor determinant în acest calcul, alături de amenințările nucleare, schimbările climatice și riscurile epidemiologice.

19:19, 26.12.2024 • ACTUALITATE

Inteligența artificială (AI) a egalat inteligența generală a omului

18:44, 17.12.2024 • Internațional

The Times: Elveția își va moderniza buncărele nucleare din cauza amenințării ruse

„Ajustând ceasul mai aproape de miezul nopții, trimitem un semnal puternic. Deoarece lumea este deja periculos de aproape de prăpastie, orice mișcare către miezul nopții ar trebui luată ca un indiciu al pericolului extrem. Fiecare secundă de întârziere în inversarea cursului (n.r. predicției) crește probabilitatea unui dezastru global”, a declarat Daniel Holz, președintele consiliului de știință și securitate al organizației la finalul lunii ianuarie 2025.

Sursa foto: Statista

Topul celor mai pesimiste predicții cu privire la evoluția nereglementată a AI

1. Bulletin of the Atomic Scientists: „Decizii militare luate de AI”

„Mai sunt 89 de secunde până la miezul nopții”, este avertismentul lansat la finalul lunii ianuarie 2025 de Bulletin of the Atomic Scientists.

„Sistemele care încorporează inteligența artificială în misiuni militare au fost folosite în Ucraina și Orientul Mijlociu, iar mai multe țări fac eforturi pentru a integra inteligența artificială în armatele lor. Astfel de eforturi ridică întrebări cu privire la măsura în care sistemelor AI li se va permite să ia decizii militare – chiar și decizii care ar putea ucide pe scară largă, inclusiv cele legate de utilizarea armelor nucleare. Tensiunile dintre marile puteri se reflectă din ce în ce mai mult în competiția în spațiu, unde China și Rusia dezvoltă activ capabilități anti-satelit; Statele Unite au afirmat că Rusia a testat un satelit cu un focos fals pe el, sugerând că are planuri de a plasa arme nucleare pe orbită”, avertizează oamenii de știință într-un comunicat.

„AI facilitează dezinformarea și răspândirea informațiilor false”

Organizația notează că pericolele din domeniul militar sunt „mult exacerbate de un puternic multiplicator de amenințări: răspândirea dezinformării și a teoriilor conspirației care degradează ecosistemul de comunicare și estompează din ce în ce mai mult linia dintre adevăr și fals”.

„Progresele în inteligența artificială fac mai ușor răspândirea informațiilor false sau neautentice pe internet și mai greu de detectat. În același timp, națiunile se angajează în eforturi transfrontaliere de a folosi dezinformarea și alte forme de propagandă pentru a submina alegerile, în timp ce unii lideri din tehnologie, mass-media și politici ajută la răspândirea minciunilor și a teoriilor conspirației. Această corupție a ecosistemului informațional subminează discursul public și dezbaterea sinceră de care depinde democrația. Peisajul informațional afectat produce, de asemenea, lideri care ignoră știința și se străduiesc să suprime libertatea de exprimare și drepturile omului, compromițând discuțiile publice bazate pe fapte care sunt necesare pentru a combate amenințările enorme cu care se confruntă lumea.

A continua orbește pe calea actuală este o formă de nebunie. Statele Unite, China și Rusia au puterea colectivă de a distruge civilizația. Aceste trei țări au responsabilitatea principală de a face un pas înapoi de pe acest prag (n.r. al unui dezastru global) și pot face acest lucru dacă liderii lor încep serios discuții de bună-credință despre amenințările globale prezentate aici. În ciuda dezacordurilor lor profunde, ei ar trebui să facă acest prim pas fără întârziere”, este semnalul de alarmă lansat de cercetători.

2. Elon Musk a avertizat că AI e „mai periculoasă decât armele nucleare”

Elon Musk , fondatorul Tesla și SpaceX a avertizat de mai multe ori că AI ar putea deveni o amenințare existențială pentru omenire. A numit AI „mai periculoasă decât armele nucleare” și a susținut reglementarea strictă a tehnologiei.

Elon Musk a atras finanțări de miliarde de dolari pentru propriile sale proiecte AI, deși spune că există încă șanse destul de mari ca evoluția tehnologiilor bazate pe inteligență artificială să declanșeze riscuri globale greu de anticipat. În octombrie 2024, la un interviu la summitul Future Investment Initiative al Arabiei Saudite de la Riad, Musk a tras un semnal de alarmă cu privire la riscurile inteligenței artificiale, notează Fortune.

„Cel mai probabil va fi grozav. Există această șansă secundară, care ar putea fi de 10% până la 20%, (n.r. ca evoluția tehnologiilor AI) să meargă rău”, a declarat multimiliardarul.

Mai mult decât atât, el a prezis că AI va atinge pragul ASI – al superinteligenței care va depăși nivelul inteligenței umane – în următorii doi – trei ani.

„De cât timp este nevoie pentru a face ceea ce toți oamenii pot face laolaltă? Nu mult, probabil trei ani de la acest moment”, a adăugat el.

3. Geoffrey Hinton: Sistemele AI ar putea „prelua controlul” deciziilor 

Profesorul Geoffrey Hinton, un informatician britanic-canadian, cunoscut ca „părintele deep learning-ului”, și-a dat demisia de la Google în 2023 pentru a putea vorbi liber despre pericolele AI.  El a avertizat că AI ar putea deveni mai inteligentă decât oamenii și că există riscul să scape de sub control. El a afirmat că tehnologia ar putea „prelua controlul” într-o zi, a raportat Daily Mail.

Hinton, care a primit Premiul Nobel pentru Fizică în 2024 „pentru descoperirile și invențiile fundamentale care permit învățarea automată cu ajutorul rețelelor neuronale artificiale”, a declarat acum câțiva ani că există un risc de 10% ca tehnologia să ducă la sfârșitul umanității. El și-a actualizat predicția în 2024, precizând că „având în vedere cât de repede progresează AI, estimează acum că acest risc este între 10% și 20%”.

„Nu am avut niciodată de a face cu lucruri mai inteligente decât noi înșine înainte”, a declarat profesorul Hinton în decembrie 2024 la BBC Radio 4.

El a estimat că în următorii 20 de ani va exista o AI care va fi „foarte mai inteligentă” decât oamenii. „Și acesta este un gând foarte înfricoșător”, a spus el.

„Dacă vrei să știi cum este să nu fii în vârful lanțului trofic al inteligenței, întreabă o găină”, a spus Hinton.

Următoarea etapă în timeline-ul tehnologiilor AI este AGI, sau inteligența generală artificială, care este încă în dezvoltare, dar ar oferi mașinilor potențialul de a gândi și de a lua decizii singure și, prin urmare, să fie mai productive.

4. Sam Altman, creatorul ChatGPT: AI ar putea fi folosită să manipuleze voturile

Sam Altman, CEO al OpenAI și creator al ChatGPT, a declarat recent într-o postare pe blogul său că „Legea lui Moore a schimbat lumea de două ori la fiecare 18 luni; asta este incredibil”. Altman se referea la scăderea masivă a prețurilor pentru dezvoltarea și utilizarea AI. Spre exemplu, între începutul lui 2023 și jumătatea lui 2024, prețul pe token pentru utilizarea ChatGPT a scăzut de aproximativ 150 de ori.

Altman explică de fapt că acest fenomen este un alt indicator că inteligența generală artificială (AGI) este mai aproape decât ne imaginăm. El a avansat chiar ideea că tehnologia ar putea atinge acest nivel până la finalul anului 2025.

În mai 2023, Sam Altman, a depus într-o sală de ședințe a subcomisiei a Senatului din Washington, DC o cerere urgentă adresată parlamentarilor: să creeze reglementări bine gândite care să limiteze riscurile avansării tehnologiilor AI și, în același timp, să atenueze riscul ca aceasta să depășească omenirea.