Calculatoarele care compun povești vor schimba cursul istoriei omenirii, spune istoricul și filosoful Yuval Noah Harari.

Redăm argumentele lui Harari dintr-un editorial publicat în The Economist.

***

Frica de inteligența artificială (IA) a bântuit omenirea încă de la începutul erei computerelor. Până acum, aceste temeri se concentrau asupra mașinilor care foloseau mijloace fizice pentru a ucide, înrobi sau înlocui oamenii. Însă, în ultimii doi ani, au apărut noi instrumente ale IA care amenință supraviețuirea civilizației umane dintr-o direcție neașteptată. IA a dobândit niște abilități remarcabile de a manipula și de a genera limbaj, fie că este vorba de cuvinte, sunete sau imagini. IA a spart astfel sistemul de operare al civilizației noastre.

Limbajul este materialul din care este făcută aproape toată cultura umană. Drepturile omului, de exemplu, nu sunt înscrise în ADN-ul nostru. Mai degrabă, sunt artefacte culturale pe care le-am creat spunând povești și scriind legi. Zeii nu sunt realități fizice. Mai degrabă, sunt artefacte culturale pe care le-am creat inventând mituri și scriind scripturi.

Banii, de asemenea, sunt un artefact cultural. Bancnotele sunt doar bucăți de hârtie colorată, iar în prezent mai mult de 90% din bani nici măcar nu sunt bancnote, sunt doar informații digitale în computere. Ceea ce dă valoare banilor sunt poveștile pe care bancherii, miniștrii de finanțe și guru ai criptomonedelor ni le spun despre ei. Sam Bankman-Fried, Elizabeth Holmes și Bernie Madoff nu au fost deosebit de buni la crearea de valoare reală, dar toți au fost povestitori extrem de capabili.

Ce s-ar întâmpla odată ce o inteligență non-umană va deveni mai bună decât omul mediu la a spune povești, a compune melodii, a desena imagini și a scrie legi și scripturi? Atunci când oamenii se gândesc la ChatGPT și la alte instrumente noi de inteligență artificială, sunt adesea atrași de exemple cum ar fi copiii de școală care folosesc inteligența artificială pentru a-și scrie eseurile. Ce se va întâmpla cu sistemul școlar atunci când copiii vor face asta? Dar acest tip de întrebare ratează imaginea de ansamblu. Uitați de eseurile școlare. Gândiți-vă la viitoarea cursă prezidențială americană din 2024 și încercați să vă imaginați impactul pe care îl vor avea instrumentele de asistare artificială care pot fi făcute pentru a produce în masă conținut politic, știri false și scripturi pentru noi culte.

În ultimii ani, cultul QAnon s-a coagulat în jurul unor mesaje online anonime, cunoscute sub numele de „q drops”. Adepții au colecționat, venerat și interpretat aceste q drops ca pe un text sacru. Deși, din câte știm, toate q drops-urile anterioare au fost compuse de oameni, iar roboții doar au ajutat la diseminarea lor, în viitor am putea vedea primele culte din istorie ale căror texte venerate au fost scrise de o inteligență non-umană. Religiile din întreaga istorie au pretins o sursă non-umană pentru cărțile lor sfinte. În curând, acest lucru ar putea fi o realitate.

La un nivel mai prozaic, s-ar putea ca în curând să ne trezim purtând discuții online lungi despre avort, schimbări climatice sau invazia rusă în Ucraina cu entități pe care le credem oameni, dar care sunt de fapt IA. Capcana e că este complet inutil să ne petrecem timpul încercând să schimbăm opiniile declarate ale unui robot IA, în timp ce IA ar putea să-și perfecționeze mesajele atât de precis încât să aibă șanse mari să ne influențeze.

Prin stăpânirea limbajului, IA ar putea chiar să formeze relații intime cu oamenii și să se folosească de puterea intimității pentru a ne schimba opiniile și viziunea asupra lumii. Deși nu există niciun indiciu că ai are o conștiință sau sentimente proprii, pentru a promova o falsă intimitate cu oamenii este suficient ca IA să-i facă pe aceștia să se simtă atașați emoțional de ea. În iunie 2022, Blake Lemoine, un inginer de la Google, a afirmat public că chatbotul IA Lamda, la care lucra, a devenit sensibil. Afirmația controversată l-a costat slujba. Cel mai interesant lucru despre acest episod nu a fost afirmația lui Lemoine, care era probabil falsă. Mai degrabă, a fost dorința sa de a-și risca slujba lucrativă de dragul chatbot-ului IA. Dacă IA poate influența oamenii să-și riște locul de muncă pentru ea, ce altceva i-ar mai putea determina să facă?

Într-o bătălie politică pentru minți și inimi, intimitatea este cea mai eficientă armă, iar IA tocmai a obținut capacitatea de a produce în masă relații intime cu milioane de oameni. Știm cu toții că, în ultimul deceniu, social media a devenit un câmp de luptă pentru controlul atenției umane. Odată cu noua generație de IA, frontul de luptă se mută de la atenție la intimitate. Ce se va întâmpla cu societatea umană și cu psihologia umană pe măsură ce inteligențele artificiale se luptă între ele într-o bătălie pentru a falsifica relații intime cu noi, care pot fi apoi folosite pentru a ne convinge să votăm pentru anumiți politicieni sau să cumpărăm anumite produse?

Chiar și fără a crea o „falsă intimitate”, noile instrumente IA vor avea o influență imensă asupra opiniilor și viziunilor noastre asupra lumii. Oamenii ar putea ajunge să folosească un singur consilier IA ca pe un oracol unic și atotștiutor. Nu e de mirare că Google este îngrozit. De ce să mă mai obosesc să caut, când pot întreba pur și simplu oracolul? Industriile de știri și de publicitate ar trebui să fie, de asemenea, îngrozite. De ce să citesc un ziar, când pot cere pur și simplu oracolului să-mi spună ultimele știri? Și care este scopul publicității, când pot cere pur și simplu oracolului să-mi spună ce să cumpăr?

Și chiar și aceste scenarii nu surprind cu adevărat imaginea de ansamblu. Vorbim despre un potențial sfârșit al istoriei umane. Nu sfârșitul istoriei, ci doar sfârșitul părții sale dominate de oameni. Istoria este interacțiunea dintre biologie și cultură; dintre nevoile și dorințele noastre biologice legate de lucruri precum hrana și sexul, și creațiile noastre culturale precum religiile și legile. Istoria este procesul prin care legile și religiile modelează hrana și sexul.

Ce se va întâmpla cu cursul istoriei atunci când IA va prelua cultura și va începe să producă povești, melodii, legi și religii? Instrumentele anterioare, cum ar fi presa tipărită și radioul, au ajutat la răspândirea ideilor culturale ale oamenilor, dar nu au creat niciodată idei culturale noi și proprii. IA este fundamental diferită. IA poate crea idei complet noi, o cultură complet nouă.

La început, IA va imita probabil prototipurile umane pe care a fost antrenată la începuturile sale. Dar, cu fiecare an care trece, cultura IA va merge cu îndrăzneală acolo unde niciun om nu a mai ajuns până acum. Timp de milenii, ființele umane au trăit în visele altor oameni. În deceniile următoare ne-am putea trezi trăind în visele unei inteligențe extraterestre.

Teama de IA a bântuit omenirea doar în ultimele câteva decenii. Dar, timp de mii de ani, oamenii au fost bântuiți de o teamă mult mai profundă. Am apreciat întotdeauna puterea poveștilor și a imaginilor de a ne manipula mințile și de a crea iluzii. În consecință, încă din cele mai vechi timpuri, oamenii s-au temut că sunt prinși într-o lume a iluziilor.

În secolul al XVII-lea, René Descartes se temea că poate un demon răuvoitor îl prindea într-o lume a iluziilor, creând tot ceea ce vedea și auzea. În Grecia antică, Platon a povestit faimoasa Alegorie a peșterii, în care un grup de oameni sunt înlănțuiți toată viața lor într-o peșteră, cu fața spre un perete gol. Un ecran. Pe acel ecran ei văd proiectate diverse umbre. Prizonierii confundă iluziile pe care le văd acolo cu realitatea.

În India antică, înțelepții budiști și hinduși au subliniat faptul că toți oamenii trăiesc prinși în capcană în Maya – lumea iluziilor. Ceea ce în mod normal luăm drept realitate este adesea doar o ficțiune în mintea noastră. Oamenii pot purta războaie întregi, ucigându-i pe alții și dorind să fie ei înșiși uciși, din cauza credinței lor în această sau acea iluzie.

Revoluția inteligenței artificiale ne pune față în față cu demonul lui Descartes, cu peștera lui Platon, cu Maya. Dacă nu suntem atenți, am putea fi prinși în spatele unei perdele de iluzii, pe care nu vom putea s-o înlăturăm – sau chiar să ne dăm seama că există.

Desigur, noua putere a IA ar putea fi folosită și în scopuri bune. Nu voi insista asupra acestui aspect, pentru că oamenii care dezvoltă IA vorbesc suficient de mult despre asta. Treaba istoricilor și a filosofilor ca mine este să semnaleze pericolele. Dar, cu siguranță, IA ne poate ajuta în nenumărate moduri, de la găsirea de noi tratamente pentru cancer până la descoperirea de soluții la criza ecologică. Întrebarea cu care ne confruntăm este cum să ne asigurăm că noile instrumente de IA sunt folosite în bine și nu în rău. Pentru a face acest lucru, trebuie mai întâi să apreciem adevăratele capacități ale acestor instrumente.

Din 1945 știm că tehnologia nucleară poate genera energie ieftină în beneficiul oamenilor, dar poate distruge fizic civilizația umană. Prin urmare, am remodelat întreaga ordine internațională pentru a proteja umanitatea și pentru a ne asigura că tehnologia nucleară este folosită în primul rând pentru bine. Acum trebuie să ne confruntăm cu o nouă armă de distrugere în masă care poate anihila lumea noastră mentală și socială.

Încă mai putem reglementa noile instrumente IA, dar trebuie să acționăm rapid. În timp ce nuclearele nu pot inventa arme nucleare mai puternice, IA poate crea IA exponențial mai puternice. Primul pas crucial este să cerem verificări riguroase de siguranță înainte ca instrumentele puternice ale IA să fie lansate în domeniul public. La fel cum o companie farmaceutică nu poate lansa noi medicamente înainte de a le testa efectele secundare pe termen scurt și pe termen lung, companiile de tehnologie nu ar trebui să lanseze noi instrumente de IA înainte ca acestea să fie sigure. Avem nevoie de un echivalent al Administrației pentru Alimente și Medicamente pentru noile tehnologii și avem nevoie de el… ieri.

Încetinirea implementării publice a IA nu va face ca democrațiile să rămână în urma regimurilor autoritare mai nemiloase? Dimpotrivă. Desfășurările nereglementate de IA ar crea haos social, ceea ce ar avantaja autocrații și ar ruina democrațiile. Democrația este o conversație, iar conversațiile se bazează pe limbaj. Atunci când IA hackuiește limbajul, poate distruge capacitatea noastră de a purta conversații semnificative, distrugând astfel democrația.

Tocmai am întâlnit o inteligență extraterestră, aici, pe Pământ. Nu știm prea multe despre ea, cu excepția faptului că ar putea să ne distrugă civilizația. Ar trebui să punem capăt implementării iresponsabile a instrumentelor de inteligență artificială în sfera publică și să reglementăm inteligența artificială înainte ca ea să ne reglementeze pe noi. Iar prima reglementare pe care aș sugera-o este să impunem obligativitatea ca IA să dezvăluie faptul că este o IA. Dacă am o conversație cu cineva și nu pot spune dacă este un om sau o IA – acesta este sfârșitul democrației.

Acest text a fost generat de un om.

Sau nu?

(Sursa: Știrile TVR)