Ilia Matveev.
Tehnologiile nu se dezvoltă pe o singură cale, stabilită dinainte. Arborele tehnologic se ramifică, iar creșterea rapidă a unei ramuri (direcții) duce la uscarea (estomparea) altora, care pornesc din aceeași rădăcină. Totuși, în anumite condiții ne putem imagina scenarii alternative, în care au înflorit alte ramuri, iar ceea ce ne apare ca fiind familiar a avut o creștere minimă în trecutul îndepărtat sau chiar nu a apărut deloc.
Potrivit unui studiu publicat în revista Nature, din cele 4192 de automobile fabricate în SUA în anul 1900, 38% erau echipate cu motor electric, 40% cu motor cu abur și doar 22% cu motor pe benzină. Autorii arată că, până în anii 1910, automobilele electrice nu erau mai scumpe decât cele cu motor cu ardere internă (MAI), nu le erau inferioare ca performanțe tehnice și chiar le depășeau în unele privințe — erau mai silențioase și mai curate, iar, în plus, erau mult mai ușor de pornit înainte de inventarea demarorului electric , care s-a întâmplat în 1911. Principala problemă a automobilelor electrice era accesibilitatea electricității în sine, încă extrem de redusă în SUA în acei ani. Pornind de la o bază de date a automobilelor fabricate în SUA, autorii demonstrează prin modelare matematică că, dacă electrificarea în masă ar fi avut loc cu 15-20 de ani mai devreme (lucru imaginabil în sine, cu investiții masive din partea statului), automobilele electrice ar fi putut înlocui mașinile cu MAI și deveni principala formă de transport.
Desigur, acest scenariu rămâne a fi unul speculativ. Nu putem nici să alterăm trecutul, nici să afirmăm cu deplină certitudine că drumurile neumblate ne-ar fi fost deschise. Dar putem schimba viitorul iar căutarea alternativelor în trecut ajută la stimularea imaginației sociale necesare pentru aceasta.
Grupul de tehnologii cunoscut sub denumirea generică de „inteligență artificială” (IA) atrage astăzi resurse uriașe, și aceste resurse sînt în continuă creștere. Potrivit estimărilor Goldman Sachs, investițiile globale în IA vor ajunge în 2026 la 1 trilion de dolari (0,9% din PIB-ul mondial) și vor crește în anii următori — până la 1,3% din PIB-ul mondial în 2027 și 1,4% din PIB-ul mondial în 2028. Dezvoltarea IA devine direcția principală a progresului tehnologic. Dar ce se întâmplă dacă există la moment căi alternative, care se închid în fața omenirii chiar acum?
În primul rând, dezvoltarea IA nu este lipsită de probleme. Acest proces are un număr enorm de consecințe negative neintenționate. Utilizarea IA înrăutățește rezultatele educaționale ale elevilor și studenților și, în general, pune sub semnul întrebării modelele tradiționale de educație, bazate, de exemplu, pe citirea unor texte lungi și complexe. IA deschide oportunități noi, uriașe, pentru infractori și pentru alți actori rău-intenționați (criminalitate informatică în cele mai diverse forme, supraveghere și control, propagandă și operațiuni informațional-psihologice, selectarea țintelor pentru armament de înaltă precizie). IA necesită resurse enorme, în primul rând energie electrică, ceea ce, la actualul nivel mondial de decarbonizare, conduce cu necesitate la creșterea emisiilor de gaze cu efect de seră.
Riscurile cresc proporțional cu dezvoltarea tehnologiei. Creșterea rapidă a IA poate duce la șomaj în masă și/sau la amenințări existențiale (crearea de noi agenți patogeni, atacuri cibernetice de o amploare nemaivăzută, război nuclear provocat de încălcarea logicii distrugerii reciproce asigurate prin avantajele pe care IA le oferă uneia dintre părți, un autoritarism super-eficient bazat pe IA, care împiedică orice posibilitate, chiar și teoretică, de democratizare). Creșterea riscurilor existențiale nu are neapărat nevoie ca IA să scape de sub control — IA va deveni pur și simplu un instrument de o eficiență nincredibilă în mâinile unor actori rău-intenționați. Totuși, scenariul în care IA scapă de sub control este și el plauzibil. Acesta, la rândul lui, nu necesită ca IA să dobândească „conștiință” sau „motivații proprii” — rezolvarea unei sarcini stabilite de om, la un anumit nivel de dezvoltare a IA, poate duce la consecințe neintenționate, până la cele existențiale. Problema nu este că IA își va stabili propriile sarcini, ci modul în care inteligența artificială va rezolva sarcinile stabilite de om.
Și asta este doar „în primul rând”. Mai există și un „în al doilea rând”. Chiar dacă dezvoltarea IA ar fi complet lipsită de probleme, ar merita oare să cheltuim pentru ea resursele limitate ale omenirii, permițând astfel altor ramuri tehnologice să se usuce sau să nu crească deloc? Investițiile într-o tehnologie au costuri de oportunitate (opportunity costs) sub forma unor investiții mai mici în altă tehnologie. Având în vedere acest lucru, merită oare să investim 1 trilion de dolari pe an tocmai în IA?
Desigur, definițiile „utilului” pot fi diferite și subiective, dar de ce să nu încercăm să începem această discuție? Care tehnologii ar fi cele mai necesare, nu din perspectiva a ceea ce atrage deja bani astăzi, ci din perspectiva problemelor și sarcinilor cu care se confruntă omenirea?
Potrivit cifrelor Băncii Mondiale, 53% din populația planetei, adică peste 4 miliarde de oameni, trăiesc cu mai puțin de 10 dolari pe zi. Contează nu atât cifra în sine, cât condițiile materiale (locuință, hrană, îmbrăcăminte etc.) la care ea face referință. Da, sărăcia și privarea materială sunt în mare măsură subiective și relative, dar a trăi cu mai puțin de 10 dolari pe zi înseamnă, fără îndoială, o viață foarte grea, în condiții de lipsuri extrem. În unele regiuni ale lumii, ponderea celor care trăiesc cu mai puțin de 10 dolari pe zi este mult mai mare decât la nivel mondial. Astfel, în Africa Subsahariană ea este de 92% (!) și aproape nu s-a schimbat deloc din 1990. În alte regiuni, precum Asia de Est, se observă, dimpotrivă, un progres economic uriaș. Totuși, chiar și regiunile care reduc rapid sărăcia și îmbunătățesc standardele de viață ale populației, aceasta se face prin creșterea emisiilor de gaze cu efect de seră. Creșterea concentrației de gaze cu efect de seră în atmosferă conduce, la rândul ei, la schimbări climatice cu consecințe potențial catastrofale. Pentru a nu mă repeta, voi cita dintr-un alt text al meu dedicat acestei probleme:
„Capitalismul industrial, care a creat lumea pe care o cunoaștem, se bazează pe utilizarea combustibililor fosili (cărbune, petrol, gaze naturale). Prin arderea lor se degajă CO₂, care amplifică efectul de seră al atmosferei, ceea ce, la rândul său, duce la creșterea temperaturii la suprafața Pământului. Încălzirea globală extrem de rapidă (la scară geologică) face mult mai frecvente fenomenele meteorologice extreme (ploi torențiale, inundații, secete, perioade de caniculă anormală), contribuie la creșterea nivelului mării și distruge ecosisteme întregi. Toate acestea amenință direct comunitățile umane, care se confruntă cu scăderea recoltelor, cu deficitul de apă, cu transformarea unor regiuni vaste în teritorii imposibile pentru viață, cu răspândirea bolilor și, potențial, cu migrații climatice și războaie de o amploare nemaivăzută. Schimbarea climei Pământului provocată de activitatea umană are deja loc și va continua timp de secole, dar reducerea rapidă a emisiilor de CO₂ și ale altor gaze cu efect de seră ne va permite să evităm cele mai grave scenarii, cu consecințe negative extinse și greu de prevăzut.”
Așadar, avem două realități clare: 1) majoritatea omenirii trăiește în continuare în condiții materiale grele și de lipsuri, 2) linia de dezvoltarea economică, care ar putea îmbunătăți aceste condiții, este asociată cu riscuri catastrofale pentru planetă. La intersecția acestor două realități clare trebuie să punem întrebarea despre tehnologiile de care are nevoie omenirea. Este vorba despre tehnologii din domeniul energiei regenerabile și electrificării, despre agricultura durabilă, despre locuințele ieftine și eficiente din punctul de vedere al resurselor, despre transportul cu emisii reduse de carbon și infrastructura urbană, despre adaptarea la schimbările climatice, despre refacerea ecosistemelor etc.
Desigur, în rezolvarea multora dintre aceste probleme IA poate fi utilă — și este deja utilă: ea ajută la gestionarea flexibilă a rețelelor electrice, la detectarea emisiilor de metan, la dezvoltarea de materiale noi, la sortarea deșeurilor, la monitorizarea stării ecosistemelor etc. Totuși, forma cea mai importantă și cea mai mare consumatoare de capital formă a dezvoltării IA — crearea de modele de uz general (general-purpose/foundational models), cu scopul final declarat de a construi o „superinteligență artificială” (artificial superintelligence) — are doar o legătură foarte indirectă cu toate aceste sarcini.
Este important ca dezvoltarea tehnologiilor deja existente, cu condiția unei finanțări suplimentare, să ducă în mod previzibil la un viitor cu emisii reduse de carbon și cu bunăstare materială pentru omenire. Astfel, conform calculelor Programului Națiunilor Unite pentru Mediu (UNEP), atingerea unei traiectorii de creștere a temperaturii globale de cel mult 1,5 grade (care ar permite evitarea celor mai negative scenarii climatice) va necesita investiții suplimentare de 0,9-2,1 trilioane de dolari pe an în „tranziția verde”, până în 2050 — adică o sumă comparabilă cu ceea ce se investește deja în IA.
Să tragem o concluzie intermediară. Pe de o parte, resurse uriașe sunt cheltuite pentru dezvoltarea unei tehnologii care, după cum susțin creatorii ei, ar putea potențial rezolva toate problemele omenirii…, dar ar putea și distruge omenirea. În același timp, aplicabilitatea reală a modelelor de uz general în rezolvarea problemelor dezvoltării durabile este încă îndoielnică, iar consecințele lor negative neintenționate se observă deja și vor continua să se amplifice. La rândul său, subfinanțarea „tranziției verzi” la scară globală va duce, în sine, la scenarii catastrofale de schimbare climatică. Astfel, calea actuală conține dintr-odată două riscuri existențiale — IA și schimbările climatice.
Pe de altă parte, investiții suplimentare de o amploare similară în dezvoltarea durabilă și în „tranziția verde” ar permite, cu o probabilitate mare, atingerea unei traiectorii cu emisii reduse de carbon, în cadrul căreia condițiile de viață decente pentru întreaga omenire s-ar îmbina cu respectarea limitelor planetare, inclusiv a concentrației maxime de gaze cu efect de seră în atmosferă. Acest scenariu reduce riscurile existențiale și promite beneficii largi.
De ce sunt atunci mobilizate resurse uriașe tocmai pentru IA, și nu pentru o „tranziție verde” accelerată? Motivul stă în regulile actuale ale jocului la nivel global, care încurajează mai ales activitățile ce pot aduce profit. Companiile de IA au reușit să spună o poveste despre supraprofituri viitoare, în care au crezut investitorii. Această poveste se poate dovedi falsă (de aici potențialul unei bule a IA), dar însăși esența ei este comercială.
„Tranziția verde” nu promite supraprofituri. Mai mult, ea conține posibilitatea construirii unei societăți fără profit ca atare — a unei societăți a descreșterii (degrowth), în care acumularea de capital încetează să mai fie un scop în sine. Da, într-o astfel de societate sunt satisfăcute nevoile umane de bază și sunt respectate limitele impactului asupra sistemelor naturale, dar nu sunt satisfăcute nevoile unui grup restrâns de proprietari de capital. De aceea, structura instituțională actuală încurajează dezvoltarea IA, și nu progresul accelerat al „tranziției verzi”.
Omenirea nu se află pentru prima dată în fața unei alegeri tehnologice. Dar, probabil, pentru prima dată această alegere are o dimensiune existențială atât de clară și chiar escatologică. Dezvoltarea IA în forma ei actuală conține o dublă amenințare — amenințarea IA însăși și amenințarea schimbărilor climatice. La rândul său, prioritizarea „tranziției verzi” reduce ambele amenințări și promite beneficii concrete, tangibile, pentru majoritate. Da, aceste beneficii sunt departe de fanteziile liderilor din tech, precum Sam Altman și Elon Musk, despre vindecarea tuturor bolilor, atingerea nemuririi, „colonizarea” planetei Marte (să reflectăm puțin la alegerea cuvintelor) etc.
Este vorba despre locuințe confortabile, care se încălzesc mai puțin vara și rețin mai bine căldura iarna, despre produse din supermarket pentru fabricarea cărora s-a consumat mai puțină apă, despre rețele electrice stabile, care nu depind de prețurile mondiale ale energiei etc. Toate aceste sarcini „plictisitoare” alcătuiesc o nouă paradigmă a vieții, în cele din urmă mult mai radicală decât cele mai nebunești idei ale lui Musk, pentru că pune sub semnul întrebării actuala distribuție a puterii și a proprietății — lucru pe care Musk nu l-a îndrăznit niciodată, deoarece el însuși este unul dintre principalii beneficiari ai stării actuale de lucruri.
Logica pe care am descris-o există deja sub forma unui proiect politic. Astfel, politicianul american Bernie Sanders propune simultan introducerea unui moratoriu asupra construirii de noi centre de date, interzicerea dezvoltării „superinteligenței artificiale” și lansarea unui program gigantic de investiții ecologice, cunoscut sub numele de Green New Deal. Alegerea traiectoriei dezvoltării tehnologice este, fără îndoială, condiționată de factori politici, dar acești factori sunt ei înșiși supuși schimbării.
Viitorul omenirii nu este predeterminat — nici în sens tehnologic, nici în sens politic.
Ilia Matveev este cercetător politic.
Articolul a apărut inițial pe portalul Sygma, cu titlul Крещендо человечества și a fost tradus de redacția PLATZFORMA, cu acordul autorului.
Imagine de fundal: Alfredo Jaar, The End of the World (2023-2024)
