Gheorghe PĂUN despre Inteligența Artificială

IA în context istoric. Puncte de vedere

Gheorghe Păun
curteadelaarges@gmail.com

1. Precizări preliminare

Textul de faţă s-a născut ca urmare directă a conferinţei cu acelaşi titlu pe care am ţinut-o pe 22 mai 2025 la Sala Dalles din Bucureşti, în seria „Conferinţele Dalles ale Academiei Române”. Am primit invitaţia/propunerea respectivă cu vreo două luni înainte, de la dl acad. Gheorghe Chivu, organizatorul acestor întâlniri, şi am acceptat-o imediat – pot zice acum că am acceptat-o în grabă, dintr-un impuls de… săgetător vulnerabil la provocări. Ştiam că e un subiect vast-stufos-în-plină-evoluţie, dar nu ştiam cu adevărat ce mă aşteaptă. Prima „eroare” a fost să citesc pe telefonul cel smart (rezerv termenul „inteligent” pentru tema conferinţei, cu ghilimele însă) articolele despre IA (aşa o voi prescurta de acum încolo) pe care le-am găsit printre multe altele cu care mă îmbia Android sau, nu ştiu exact cum merg lucrurile, compania de telefoane la care sunt abonat. Cei care folosesc asemenea surse de informare bănuiesc ce a urmat: de a doua zi, am primit tot mai multe notificări despre IA şi, cu cât am citit mai multe, cu atât au venit mai multe. Realmente, zgomot.
Evident, am căutat şi prin cărţi, mai vechi sau mai noi, prin biblioteca personală, prin memorie (este de presupus că un pensionar care a lucrat o viaţă în informatică, patru ani, cei de început, chiar în programare, apoi în informatică teoretică, a adunat ceva amintiri relevante).
Rezultatul se va vedea imediat.
Deja rândurile anterioare conţin o serie de mesaje. Le fac pe unele explicite, din onestitate şi, mărturisesc, şi pentru a-l atrage pe cititor la (mă rog, pentru a-i propune) o întâlnire colocvială, interactivă ar fi ideal, dacă aşa ceva ar fi posibil. De aici şi stilul, deja ilustrat: autobiografic, de „jurnal”, cu paranteze relaxate, cu citate multe, cu referinţe multe – pe cât se va putea, „strecurate” firesc în text (nu-mi plac notele de subsol). Textul scris va imita stilul oral al conferinţei, dar fără presiunea timpului, cu frazele duse până la capăt. Insist: nu va fi o lucrare ştiinţifică, pretenţioasă în stil, ci o discuţie în care îmi voi contura o serie de puncte de vedere privind IA, luând foarte în serios precauţia din subtitlul de pe afişul conferinţei.
Este şi o intenţie polemică aici. Îmi vine în minte o vorbă a lui Richard Feynman, laureat Nobel (pentru cercetările sale în fizica cuantică!): „Cine pretinde că înţelege fizica cuantică este un mincinos”… E oarecum la fel (punctul meu de vedere…) cu IA: cine pretinde că are o imagine completă şi corectă a domeniului este un mincinos. Sau un propagandist. Sau un gazetar nevoit să acopere, nu este important cu ce, nişte cuadraţi în pagina unei publicaţii. Motivele sunt altele decât în cazul fizicii cuantice, cea mult neintuitivă (voi mai face referiri la ea). IA este „obscură” şi greu de descris în alt sens decât numita fizică – voi consuma mai multe pagini cu asemenea aspecte – dar asta nu-i împiedică pe publicişti să scrie din răsputeri, de regulă, anunţând noutăţi spectaculoase şi efecte măcar spectaculoase dacă nu direct nocive-înspre-dezastruoase.
Personal – e ultima mărturisire – cu cât citesc mai mult despre IA, cu cât descopăr mai multe „ascunzişuri”, cu atât mă simt mai departe de o imagine cu adevărat coerentă, integratoare, asupra domeniului. De aceea, aici propun mai mult întrebări, teme de reflecţie, eventual sugestii de abordare a acestora, uneori cu argumente venind dinspre matematică, prezentate informal, doar cu unele atingeri ale jargonului de specialitate.
Un cuvânt-cheie care de multe ori va apărea, explicit sau implicit, în cele ce urmează este luciditate. Între optimism necritic, naiv-confortabil, şi anxietate necritică, eventual indusă de „catastrofismul” unei bune părţi a comentatorilor, este firesc, raţional, înţelept să ne plasăm in media res. Să beneficiem acum, aici, de binefacerile IA, să le aşteptăm/anticipăm, pe cele viitoare, dar să rămânem lucizi, precauţi, conştienţi de posibilele – chiar dacă nu totdeauna şi probabile – pericole.
Despre toate acestea, despre (aproape) tot ce va urma – şi încă multe pe deasupra – se pot găsi nenumărate articole, chiar şi cărţi, pe internet. Bibliografia IA este realmente imensă – dar în bună parte şi efemeră, pe alocuri nu neapărat de încredere.

2. Trei idei care merită a fi reţinute

Mă grăbesc totuşi să formulez aceste trei „concluzii”, care pot călăuzi parcurgerea paginilor următoare şi pot ajuta înţelegerea întregii problematici. A nu se confunda aceste idei cu mai multele premise de lucru, metodologice, dintr-o secţiune următoare, foarte importante şi acelea, dar de mai mică acoperire, unele putând fi considerate, şi ele, concluzii.
a. IA este parte a unui proces mult mai amplu, de durată, acela al digitalizării. Folosesc „digitalizare” pentru că nu am un concept mai acoperitor, dar termenul include informatizarea, electronizarea, pătrunderea peste tot a calculatoarelor, a procesoarelor, acoperă conectivitatea, internetul, comunicarea online. Este un proces istoric aici, cu IA fiind vârful aisbergului.
Digitalizarea este considerată cea mai amplă şi profundă transformare din istoria civilizaţiei, produsă de om, cu implicaţii generalizate, globale, ireversibile, care vor schimba semnificativ societatea.
b. Un proces de o asemenea amploare şi natură (i se spune uneori „revoluţie”, dar păstrez termenul pentru revoluţiile industrial-ştiinţifice) va avea şi consecinţe bune, şi consecinţe rele (este o discuţie lungă aici: cine defineşte binele şi răul, conform căror norme? etc.), ca multe dintre creaţiile omului, cele instrumentale, de pildă. Exemplul tipic este cuţitul, eu prefer să iau de exemplu un banal cui: cu el putem prinde o ulucă într-un gard sau putem zgâria o maşină. Depinde de mâna care foloseşte cuiul, de intenţiile acesteia! Este la fel cu instrumentele informatice, în particular, cu IA. Idee veche în fond, trimite până la pharmakon-ul lui Platon, leac şi otravă în acelaşi timp, totul fiind chestiune de dozaj, depinzând de cel care prescrie „medicamentul”, de adecvarea la „pacient”. Ne putem gândi şi la conceptele orientale yin-yang, cu rafinamentele asociate: există yin şi în yang şi invers, yang în yin, deci rău în bine şi bine în rău, cu pasul următor, iterativ, mergând spre fineţe maniacală (în fond, cu tentă de recurenţă matematică…), dacă mai distingem şi binele din răul din bine şi aşa mai departe.
c. Fenomenul – digitalizarea în general, IA în particular – este în plină desfăşurare, în rapidă evoluţie, cu două „motoare” principale: (1) motivarea internă, proprie marilor „mişcări” ştiinţifico-tehnologice, şi (2) piaţa, banul, interesele. Miza este uriaşă. De câteva decenii, IT-ul este probabil principala „afacere” a omenirii – alăturându-se marilor domenii anterioare: alimente, oţel şi cărbune, petrol şi gaze, medicamente, comerţ, armament,… Iar la interesele financiare trebuie adăugate cele geostrategice, pentru că de calculatoare şi deci de IA sunt interesate toate compartimentele societăţii, inclusiv, armatele, serviciile de informaţii, guvernele.
Referiri la toate acestea vor fi făcute şi în continuare, cu unele detalii în plus.

3. Sumar al demersului

Pentru a avea o imagine de ansamblu a acestui text, a demersului însuşi, voi descrie „cuprinsul” lui, cu unele comentarii. După o serie de (1) Premise de lucru, capitol deja anunţat, mă voi referi la (2) Definiţia/definiţiile IA, subliniind un detaliu crucial, adesea trecut cu vederea: IA simulează IU (inteligenţa umană), calculatoarele/programele nu sunt inteligente în sensul uzual al cuvântului; de mare importanţă este (3) Plasarea IA în istoria informaticii, ca moment, nivel într-o evoluţie, dar cu rădăcini vechi, mai ales în teorie. În directă legătură, mă voi referi la un număr de (4) Rezultate matematice, o parte dintre ele ţinând de informatica teoretică şi care au o relevanţă evidentă pentru IA, stabilind uneori limite ale acesteia, justificând alteori motive de îngrijorare. Capitolul cel mai aşteptat al unei conferinţe despre IA este, desigur, cel care priveşte (5) Efectele, impactul, consecinţele – cu precădere cele negative; asta, pe de o parte, pentru că sunt mai spectaculoase jurnalistic (ratingul mass-mediei este bazat pe senzaţional, pe emoţii, cu clară aplecare spre zgomot, cataclisme de tot felul…), pe de alta, pentru că „omul când nu înţelege, e contra” (Moisil), pentru că schimbările induc disconfort, nelinişte, teamă; anticipez faptul că IA chiar merită a fi considerată o sursă de nelinişte. Un capitol pe care îl consider extrem de important, la care ţin foarte mult, este (6) Plasarea IA/digitalizării în istoria civilizaţiei umane, cu raportare la cele două Renaşteri şi la cele patru Revoluţii industriale. Privind istoria „de sus”, se pot distinge tendinţe (trenduri ar fi „modern”…), semnificaţii majore, care nu se văd din interior, „la firul ierbii”. Admit, este un demers speculativ, intuitiv, literaro-filosofic, dar deja „demonstrabil”, dacă privim atent „cum merge lumea” (titlul unei cărţi de N. Chomsky, referindu-se la altceva decât IA, desigur). În final, (7) câteva Concluzii, fără a insista prea mult în această direcţie.

4. Precauţii şi premise metodologice

Aşa cum sugeram şi mai devreme, aceste premise nu sunt numai „de uz intern”, pentru abordarea de aici, ci încerc să le propun şi cititorului, în abordarea personală a subiectului de faţă sau a altor subiecte de complexitate comparabilă.
Remarcă preliminară: un matematician simte totdeauna nevoia să demonstreze (şi să se plaseze grijuliu în literatură, să dea referinţe). Pe de altă parte, ştiu de la Alexis de Tocqueville, cel cu Democraţia în America şi cu Vechiul regim şi revoluţia [franceză], un principiu de genul „când sunt sigur de un adevăr, nu mă mai obosesc să-l demonstrez”. Aparent, este o contradicţie între cele două poziţii, dar le adopt liniştit pe amândouă, pentru că şi matematicienii procedează ca vicontele cel genial: adevărurile care li se par evidente, eventual fără a le putea demonstra, deci reduce la adevăruri mai simple, le iau drept axiome.
Vor fi din plin folosite aceste „strategii” în cele ce urmează.
Spuneam că IA este un subiect vast, că nimeni nu are o imagine globală a prezentului, cu atât mai puţin a viitorului lui – cel apropiat sau mai puţin apropiat. Se poate invoca aici cu bună potrivire o parabolă pe care o folosea adesea profesorul Solomon Marcus, „parabola orbilor care pipăie un elefant”. Fiecare „vede” doar ce are în vârful degetelor: un perete, un tavan, un turn, un furtun… Dacă este cineva preocupat de corectitudinea politică, poate înlocui „orb” cu „legat la ochi” – ideea este de reţinut: întregul ne scapă, orice abordare parţială rămâne incompletă şi necompletabilă.
Se complică nelimitat dificultatea în cazul IA pentru că… elefantul este în mişcare, în rapidă, impetuoasă, uşor dezordonată mişcare. Citeam undeva, pe internet, că „a reglementa acum IA (preocupare a multor guverne şi organisme, inclusiv a UE) este ca şi cum am încerca să reparăm un avion din zbor”. Este o exagerare aici, dar nu lipsită de sens.
Subiectul este „viral”, de interes general, un subiect la care, cel puţin pe bucăţi-secţiuni, „toată lumea se pricepe” sau măcar simte că trebuie/poate să-şi spună părerea.
De fapt, zgomotul vine din interiorul domeniului, pe de o parte, din noutăţile zilnice (săptămânale, dacă ţinem la exactitate), pe de altă parte, din afirmaţiile părtinitoare, propagandistice ale celor interesaţi, ale marilor companii de IT şi, în particular, de IA, ale „corifeilor” acestora, deloc zgârciţi în declaraţii, promovându-şi produsele şi lansând prognoze care îi avantajează. Iar vorbele „corifeilor” chiar pot influenţa evoluţia domeniului, fie şi numai pentru că influenţează bursele, pieţele. E în desfăşurare o luptă pentru piaţă de mare amploare şi duritate, cu mize financiare uriaşe. Iar peste competiţia dintre firme-corporaţii se suprapun competiţiile între guverne – să ne gândim doar la cazul SUA versus China (de fapt, nu numai piaţa este disputată, ci şi resursele, inclusiv minerale, gen pământuri rare, noul El Dorado).
Ar fi interesant de făcut o listă de afirmaţii contradictorii care să ilustreze zgomotul de care tocmai vorbeam, supra-expunerea, supra-promovarea IA. Doar câteva perechi de declaraţii/veşti de acest gen. Bill Gates: în câţiva ani, IA va elimina (o parte, aş atenua eu) medicii, avocaţii, profesorii. Decanul unei facultăţi de ştiinţe juridice din Madrid: IA va dubla numărul avocaţilor. Reprezentanta unei firme care vinde roboţi industriali: orice întreprindere ar trebui să cumpere asemenea roboţi. Ştire de presă: cutare firmă de prin Scandinavia a înlocuit oamenii cu roboţi IA, aceştia s-au comportat haotic, drept care a revenit la oameni. (Am putea să ni-l amintim aici şi pe mediatizatul pentru câteva zile Ion-de-la-Guvern, dar nu vreau să fiu bănuit de intenţii ironice.) Fost preşedinte al României: niciun copil de grădiniţă fără o tabletă. Educatori, psihologi, neuro-specialişti: copiii trebuie să folosească tablete şi orice alt fel de ecrane cât mai puţin posibil şi începând cât mai târziu. De fapt, pandemia a demonstrat cât de ineficientă este educaţia bazată pe device-uri cu ecran. Edificatoare este competiţia în zona telefoanelor smart (componentă a digitalizării). Mark Zuckerberg prezice înlocuirea lor cu nişte ochelari smart, probabil în curs de realizare în firmele lui, Elon Musk mizează pe cipuri implantate, cei din zona Apple încă merg pe perfecţionarea telefoanele de forma actuală, OpenAI a anunţat că produce un al treilea tip de dispozitiv, complementar calculatorului şi telefonului, ceva de buzunar, dedicat, desigur, mai ales IA. Cine are dreptate? Toţi şi niciunul, vorba înţeleptului rege Solomon. „Vom muri şi vom vedea”, vorba poetului… „Viitorul e greu de prezis, este adesea mai uşor de influenţat”, vorba mea…
În matematică există un obicei, o strategie (uneori câştigătoare): dacă nu poţi rezolva o problemă, imaginează una mai generală, rezolv-o pe aceea şi atunci ai drept caz particular şi soluţia problemei de plecare. Această „reţetă” este utilă şi în cazul de faţă: IA, plasată în context istoric, titlul însuşi al discuţiei de faţă, poate fi mai uşor de înţeles, circumscris, eventual de prezis în evoluţia pe termen mediu. De aceea, repet: IA este vârful aisbergului numit digitalizare, iar programele de chat sunt vârful vârfului, vedetele menite să atragă atenţia, gratuite până la un anumit nivel, deci cu slăbiciunile inerente nivelului. În niciun caz nu trebuie confundate cu IA însăşi.
În acest cadru, al istoriei informaticii, dar mai ales al istoriei civilizaţiei umane, trebuie subliniată amploarea fenomenului, generalitatea lui. O imagine care spune mult: în jurul Pământului există numeroase -sfere, naturale toate. Litosferă, hidrosferă, biosferă, atmosferă, cea din urmă, cu straturile sale. Omul a mai adăugat una – s-o numim cybersferă, dar la fel de bine ar putea fi intitulată infosferă, webosferă – iar concursul pentru cel mai bun nume rămâne deschis. E nevoie de ceva care să numească noul „înveliş” adăugat de om planetei, de la cabluri metalice sau de fibră optică, de pe sol sau din subsol, până la miile de sateliţi care se rotesc în jurul globului. Între aceste paliere, miliarde de procesoare – calculatoare, telefoane, senzori, camere de luat vederi, bancomate, cipuri implantate sau nu, frigidere şi aspiratoare inteligente, boţi şi roboţi, avioane şi drone, relee şi antene şi modeme, piloţi automaţi şi câte altele, legate între ele prin intermediul WWW, World Wide Web (literal, reţeaua cât lumea de mare, cu web însemnând în engleză şi „pânză de păianjen”…) sau în reţele mai mici, de „socializare” sau nu, specializate, de circuit închis etc. Între aceste procesoare, în fiecare moment circulă miliarde de mesaje – dacă ar face cel mai mic zumzet, ce zgomot ar fi, dacă ar produce măcar câte o scânteie fiecare, ce orbitoare s-ar vedea planeta din spaţiu! Iar această nouă –sferă se densifică încontinuu, influenţează tot şi, scenariu deloc nerealist, este pe cale să ne scape de sub control (argumente mai jos). Este de interes şi terminologia folosită în cybersferă, o veritabilă competiţie în a inventa etichete (are legătură cu publicitatea, cu finanţarea – „ambalajul vinde marfa”, nu-i aşa?): cloud computing, cloud-of-clouds computing, sky computing, internet-of-things, Big Data, Data Mining, supercalculatoare, ferme de date, depozite de date, casă inteligentă, oraş inteligent,…
E locul aici să reamintesc ideea de pharmakon, dar şi mai potrivită pare pilda ucenicului vrăjitor, din poemul Der Zauberlehrling (am avut ajutor de la Google, desigur…) al lui Goethe. O repovestesc pe scurt, pentru că avem ce învăţa din ea. Rămas singur, ucenicul invocă o vrajă pe care o ştia de la maestrul său şi pune o mătură să aducă apă pentru a umple scăldătoarea. Vraja funcţionează, mătura se dovedeşte ascultătoare şi harnică, scăldătoarea se umple, dă pe dinafară, dar mătura nu se opreşte. Panicat şi nepriceput, ucenicul încearcă s-o oprească cu… toporul, dar cele două jumătăţi de mătură continuă, îndoit, să aducă apă. Noroc că revine vrăjitorul şi opreşte inundaţia.
Spuneam, pilda pare potrivită, dar numai până la un punct: în zona IA, „mătura” vrăjită, scăpată de sub control, este tăiată în două în mod repetat, se obţine un număr exponenţial de fragmente aidoma cu originalul de eficiente. Mai mult, fragmentele se duplică singure. Iar vrăjitorul nu mai revine, nu are cine să oprească diluviul, ucenicul trebuie să se descurce singur…
Am tot amintit despre consecinţe pozitive şi negative. E lungă lista celor dintâi, nici nu se poate face una acoperitoare. Peste tot unde este nevoie de explorarea unor baze mari de date, de Big Data şi de Data Mining, cum se spune în jargonul pe specialitate, de căutarea de similitudini, corelaţii, de sinteze de texte şi informaţii, acolo unde sunt implicate operaţii repetitive, automatizabile, acolo unde este nevoie de colectarea neîntreruptă de informaţii, supraveghere, semnalare de anomalii, generare de texte, inclusiv de programe, identificarea de persoane, automobile şi orice alte obiecte, digitalizarea în general şi IA în particular sunt şi vor fi tot mai mult utile şi mai folosite, vor înlocui sau doar ajuta oamenii. Spaima cea mare priveşte înlocuirea omului – este sigură, dar numai parţial, în cele mai multe situaţii. Programele pentru diagnostice medicale automate vor fi tot mai bune şi tot mai mult folosite, tot mai mulţi pacienţi vor beneficia de serviciile lor fără a mai face apel la medic (cu riscurile de rigoare), dar, în situaţiile mai delicate, calculatorul va fi doar un ajutor al medicului-om, care va decide ceea ce se potriveşte cu adevărat unui pacient. Voi reveni.
În privinţa urmărilor negative, există o reacţie „standard”, de genul „lasă, că şi când a apărut locomotiva, mulţi s-au speriat de ea”. Pus într-o asemenea situaţie, sunt aproape drastic. E o păguboasă superficialitate-naivitate să se compare locomotiva cu sistemele IA, Revoluţia industrială dintâi cu cea de acum. E confortabil, spuneam, să ignorăm pericolele potenţiale, nu foarte vizibile-apropiate, dar strategia struţului nu este deloc potrivită, în general, dar mai ales în ceea ce priveşte digitalizarea. (Scriam cândva, în revista Curtea de la Argeş, că dacă băgăm capul în nisip, e posibil să ne intre şi nisipul în cap; nisip, adică siliciu, adică cipuri… Silogism forţat, de dragul jocului de cuvinte, dar nu lipsit de mesaj…) Locomotiva e mare, zgomotoasă, nu-mi face rău decât dacă îmi vine ideea, foarte modernă, să fac un selfie cu o locomotivă în mişcare… pentru că există şi asemenea fani ai tik-tok-ului… în schimb, IA se „exprimă” prin programe, insidioase ca nişte virusuri, ca nişte viruşi de calculator (de ce s-or fi folosind două forme diferite de plural pentru „virus”?!), îţi intră în celule pe neştiute, afli că ai o problemă după o săptămână, când faci temperatură, când poate fi prea târziu. În plus, locomotivele nu produc noi locomotive, nu se modifică pe ele însele fără ştirea oamenilor, nu „învaţă”, aşa cum se întâmplă cu sistemele IA.
Continuând cu urmările negative ale IA, acestea pot veni şi din partea utilizatorilor maliţioşi, şi sunt mulţi aceştia – de la puşti care se amuză făcând necazuri altora, la tot felul de „băieţi răi”, hackeri, terorişti, servicii, armate –, din partea erorilor de programare, implementare, hardware, dar pot fi şi total inocente, total neintenţionate, ca urmare a unor acţiuni/decizii ale unor programe care au primit anumite sarcini din partea unui om, programator sau patron de companie, sarcini care, pentru a fi îndeplinite, cer acţiuni care pot fi contrare binelui unor oameni, fără a putea fi întrevăzute dinainte. Voi da exemple, întâmplate deja sau ipotetice-plauzibile, aici subliniez doar premisa metodologică, dublă, că nu trebuie să presupunem că programele chiar sunt inteligente în sens uman şi, mai explicit, chiar dacă un pic cam literar, că nu trebuie să contăm pe faptul că programele respectă… cele trei legi ale roboticii imaginate de Isaac Asimov în Eu, robotul (şi în alte bucăţi SF anterioare romanului).
Le reiau, spre ştirea IA, care din date stocate în cybersferă „învaţă”:
Legea 1. Un robot nu va face niciodată rău unui om, nici prin acţiunea şi nici prin inacţiunea sa.
Legea 2. Un robot ascultă totdeauna comenzile oamenilor, cu excepţia cazurilor în care s-ar contrazice Legea 1.
Legea 3. Un robot se protejează pe sine, cu excepţia cazurilor în care s-ar încălca vreuna dintre legile dinainte.
Frumos, acoperitor, dar… literatură! (Cu menţiunea că literatura şi cinematografia SF şi-au făcut datoria, multe au prevăzut, semnalat, multe avem de învăţat de la ele, dar una este viaţa, cu posibilităţile şi interesele sale, şi alta ficţiunea, basmul, dorinţa…)
Închei cu remarca pro domo că matematica, informatica teoretică conţin multe rezultate pe care informatica practică, IA în cazul de faţă, ar trebui să le aibă mai mult în vedere. Ca tehnici utile în aplicaţii, dar, mai ales, ca „balize” pentru limite sau ca avertismente în calea entuziasmului-de-marketing. Matematicienii se mulţumesc să definească, să modeleze, să demonstreze, iar aplicaţiile sunt lăsate în seama altora. Nu-i mai puţin adevărat că multe rezultate matematice sunt de tip teoreme de existenţă, prezic obiecte sau fenomene, fără a da indicaţii despre când şi cum. Faptul că vine sfârşitul lumii îl acceptăm cu toţii, universul este finit şi în timp, şi în spaţiu (spune fizica), dar dacă o teoremă ar repeta/demonstra acest lucru, nu ne impresionează. Un eveniment care nu se produce mâine (cum tot încearcă televiziunile profilate pe breaking news, scris cu galben pe ecrane, să ne convingă), ci cândva, eventual peste 1000 de ani, este ca şi când nu s-ar întâmpla niciodată. Reţineţi observaţia pentru o secţiune ulterioară, când va fi vorba despre teorema lui Bereanu.

5. Doi clasici, despre subiect

Îi numesc de acum: profesorii academicieni Solomon Marcus, pe care l-am invocat şi mai devreme, şi Mircea Maliţa. Doi dintre intelectualii uriaşi pe care i-am cunoscut şi cu care am avut norocul să conlucrez, din plin cu primul. Fac legătura între ei şi cu domeniul discuţiei de faţă printr-un afiş-surpriză pe care l-am găsit „în arhiva personală”, cum ar suna pretenţios. Piesă cu adevărat de colecţie. Citesc de pe afiş: sub egida Academiei Române (AR) şi a Asociaţiei Oamenilor de Ştiinţă (AOŞ) din România, în cadrul ciclului de conferinţe Perspective ale Ştiinţei Contemporane, vineri, 17 aprilie 1987, în Sala Prezidiului AR, prof. doc. Solomon Marcus, preşedintele colectivului de studiu „Modele matematice” din cadrul AOŞ, va prezenta expunerea „Matematica încotro?”, iar prof. dr. doc. Mircea Maliţa, membru corespondent al AR, va prezenta expunerea „Viitorul inteligenţei artificiale”. Afişul, o foaie A4 sărăcăcioasă ca aspect, mai are şi alte „scame” în afară de neclarul „prof. doc.” din faţa numelui lui SM, dar nu asta ne interesează, ci interesul, încă de pe atunci, pentru IA şi viitorul acesteia, la o vreme când la noi nu se răspândiseră calculatoarele personale, iar despre internet se vorbea doar prin universităţile americane, în proiecte finanţate de armata americană… IA avea însă deja câteva decenii de promisiuni, încă neacoperite.
Desigur, interesant ar fi fost să găsesc un text al profesorului Mircea Maliţa dedicat subiectului, m-am rezumat la a căuta idei conexe prin cărţile sale de eseuri, în special în seria Aurul cenuşiu, cu cele trei volume apărute la Editura Dacia, Cluj, în 1971, 1972, respectiv, 1973. În volumul al doilea, de exemplu, găsim multe paragrafe de interes, începând cu primele trei: „Creierul şi maşina” (istorie, comparaţii, competiţie etc.), „Stăpânirea ecranelor” (a artefactelor electronice din jur, de fapt), „Metode şi programe”, cu detalii de genul „Legea cunoştinţelor utile descrescânde” (volumul total al cunoştinţelor creşte exponenţial, cele utile se esenţializează). Selectez însă trei fraze care sunt învăţături şi pentru (stadiul actual al) IA, dacă nu chiar avertismente uşor ironice: „O ştiinţă nu creşte prin agonisire simplă, ci prin continuă decantare” (pag. 49). „Povara de fapte a unei ştiinţe variază invers proporţional cu gradul de maturitate.” (pag 53, extras dintr-un citat mai lung, dintr-o expunere a lui sir Frederick Dainton de la Oxford). „Exagerările se plătesc în ştiinţă prin contra-curente” (pag. 88). De luat aminte!
Trecând la profesorul Solomon Marcus, prima reacţie a fost să caut în monumentalul volum (1100 de pagini de format mare) Paradigme universale, Editura Paralela 45, Piteşti, 2011. Aminteşte Marcus de multe ori despre calculatoare și despre inteligența artificială, dar nu are o secțiune dedicată celei de pe urmă. Calculatorul, gândirea algoritmică sunt prezente însă, există chiar o secţiune intitulată „Calculatorul – o proteză nu ca oricare alta”, reluată din revista Secolul 20, număr multiplu, 4-9, din 2000, cu titlul Gutenberg, computer, internet. În Secolul 20, Marcus are un articol, „Spaţiul nostru comunicaţional”, a cărui primă secţiune este intitulată „Revoluţia informatică între spaime, şocuri şi crize”. Informat şi totdeauna bine argumentat, este mai optimist în text decât în titlul anterior, îl contrazice chiar pe Marshall McLuhan, cel care anunţa prin anii 1960 „sfârşitul spaţiului” şi apariţia satului global, iar în 1971 a prezis apusul „galaxiei Gutenberg”, sub presiunea audio-vizualului. Între timp au apărut cărţile electronice, telefoanele, rândurile scurte… cartea nu a dispărut, cititori sunt mai puţini, dar fără a fugi în totalitate spre online şi e-book-uri nici aceştia. Mă tem însă că, în timp, McLuhan va avea tot mai multă dreptate, cel puţin statistic.
Are însă profesorul Marcus un capitol şi mai relevant în volumul Revoluţiile industriale în istoria societăţii, apărut în 1981 la Editura Politică, Bucureşti, în seria Idei contemporane. Volumul cuprinde comunicări susţinute la o sesiune ştiinţifică desfăşurată sub egida Academiei Române şi a Academiei de Ştiinţe Sociale şi Politice, iar textul lui Marcus are titlul „Matematica celei de-a doua revoluţii industriale”. Remarc mai întâi faptul că pe atunci se numărau numai două revoluţii industriale. Cea dintâi pune laolaltă primele două dintre revoluţiile cu care operăm acum, corespunzătoare „trecerii de la producţia manufacturieră la cea bazată pe introducerea maşinilor şi pe trecerea la marea industrie de fabrică”, cea de a doua corespunde „automatizării şi chimizării producţiei, unor noi surse de energie” (pag. 259). Discută mai ales despre matematică Marcus, dar găsim şi secţiuni de genul „Informatica fără matematică – o imposibilitate”, „Limite ale calculatoarelor actuale”, „Mentalitatea computaţională – un avantaj, dar şi o capcană”. Iar dintre cele „Nouă aspecte ale matematicii celei de-a doua revoluţii industriale”, măcar jumătate sunt perfect relevante şi pentru informatica actuală, incluzând IA. De pildă, o problemă identificată de Marcus este „Proliferarea diletantismului şi demagogiei matematice, ca simptom al nevoii sociale de matematică şi ca eşec al învăţământului matematic” (pag. 270). Putem înlocui peste tot „matematică” cu „informatică” şi avem un diagnostic valabil în ziua de astăzi, la aproape o jumătate de secol distanţă. Iar secţiunea despre capcanele mentalităţii computaţionale se încheie cu întrebarea „Ne rămâne oare să acceptăm datele de ieşire ale activităţii computaţionale numai pe baza încrederii în infailibilitatea calculatorului şi a programelor cu care noi l-am alimentat?” Întrebare retorică în formulare, cu confirmare în ultima frază a articolului însuşi (pag. 282): „Educaţia matematică [şi informatică] a noilor generaţii va trebui să înregistreze aceste mutaţii [antrenate de cea de-a doua revoluţie industrială], dacă nu vrea să eşueze într-o criză care ar putea avea consecinţe dintre cele mai grave.”
Parantezele îmi aparţin.

6. Manifestul tehnorealismului

Nu detaliază Marcus la ce „consecinţe dintre cele mai grave” se gândeşte, consemnez însă preocuparea, poziţionarea sa tehnorealistă, pretext pentru a semnala că în Secolul 20 menţionat apare, în secţiunea Captivi în reţea (!), un foarte interesant Manifest tehnorealist, cu următorul preambul: „În această epocă năvalnică de schimbări tehnologice rapide, toţi luptăm pentru a ne păstra propria direcţie. Progresele care se dezvăluie zilnic în comunicaţii şi tehnică de calcul pot fi înspăimântătoare şi debusolante. Este firesc, în contextul dat, să ne întrebăm dacă aceste schimbări sunt bune sau rele, dacă trebuie întâmpinate cu bucurie sau cu teamă.” (pag. 307) Se răspunde imediat: „Răspunsul este: şi una şi alta”, iar sfatul-morala este: să fim tehnorealişti, vigilenţi, dar fără anxietate. Autori sunt „doisprezece scriitori preocupaţi de tehnologie”, cu nume anglo-saxone, jurnalişti mai toţi, iar textul a fost circulat încă din martie 1998 şi poate fi citit în original şi astăzi la adresa https://web.archive. org/web/20240427074448/technorealism.org/
Reiau cele opt Principii ale tehnorealismului, fără detalii: 1. Tehnologiile nu sunt neutre; 2. Internetul este revoluţionar, dar nu utopic; 3. Guvernul trebuie să joace un rol important la frontiera electronică; 4. Informaţia nu este cunoaştere; 5. Conectarea în reţea nu va salva şcolile; 6. Informaţia vrea să fie protejată; 7. Publicul deţine frecvenţele – publicul trebuie să beneficieze de pe urma utilizării lor; 8. Înţelegerea tehnologiei ar trebui să fie o componentă a calităţii de cetăţean al planetei. (Traducerea în româneşte aparţine Anei Tăbîrcă.)
Întreg manifestul merită reluat şi citit pe îndelete, multe alte texte din volum sunt de interes, dar trec mai departe, spre „centrul” subiectului nostru.

7. Despre definiţie

În mare măsură, funcţionează şi aici situaţia paradoxală despre care vorbeşte Fericitul Augustin în Confesiuni în legătură cu timpul (şi conceptele vecine: durată, eternitate etc.): „Ce este deci timpul? Dacă nu-mi pune nimeni această întrebare, atunci ştiu ce este timpul. Dar dacă aş vrea să-l lămuresc pe cel care întreabă, nu mai ştiu.” (pag. 380, ediţia Nemira, 2009).
Putem însă merge direct la DEX, măcar pentru definiţia inteligenţei umane, pentru definiţia inteligenţei în general, ca gen proxim pentru cea artificială (chiar dacă strategia „genul proxim şi diferenţa specifică” nu pare a fi potrivită aici, IA nu este o specializare a IU). Aflăm (din DEX ediţia 2009, Univers Enciclopedic): Inteligenţa = Capacitatea de a înţelege uşor şi bine, de a sesiza ceea ce este esenţial, de a rezolva situaţii şi probleme noi pe baza experienţei acumulate anterior; deşteptăciune. Ne încurcă puţin detaliul cu înţelegerea, maşinile fiind presupuse a nu avea înţelegere, în sensul propriu al cuvântului. Găsim alăturat şi Inteligenţa artificială = domeniu al informaticii care dezvoltă sisteme tehnice capabile să rezolve probleme dificile legate de inteligenţa umană. Nu este clar ce însemnă „legate”, sună prea general, altfel totul este perfect. (Un detaliu de paranteză: DEX-ul consemnează şi sinonimul „deşteptăciune”, dar Dicţionarul de sinonime este mult mai darnic: deşteptăciune, intelect, judecată, minte, pricepere, raţiune, spirit, agerime, dexteritate, isteţime, doxă, glagore… şi încă altele, dar – surprinzător? dezamăgitor? – pentru „prostie” găsim o coloană întreagă de sinonime… Aşa o fi şi în alte limbi?…)
Avem însă o mare problemă dacă plecăm de la inteligenţa umană, pentru bunul motiv că… există mai multe astfel de inteligenţe. Încă de la începutul anilor 1980, psihologul american Howard Gardner a făcut vâlvă cu ideea de inteligenţe multiple. În 2022 a apărut la Curtea Veche Publishing volumul Inteligenţe multiple. Noi perspective, versiunea românească a cărţii Multiple Intelligences. The Theory in Practice (prima ediţie datează din 1993). Propunerea iniţială conţinea şapte inteligenţe (muzicală, fizico-chinestezică, logico-matematică, lingvistică, spaţială, interpersonală/ socială, intrapersonală), ulterior H. Gardner a mai adăugat două, numite inteligenţa naturalistă şi inteligenţa existenţială. Trimit la cartea abia citată pentru detalii, consemnez doar că H. Gardner numeşte inteligenţă o însuşire/competenţă cu localizare pe creier, înnăscută, nu dobândită prin educaţie şi nu derivând din combinaţii ale altor inteligenţe (matematic vorbind, mulţimea inteligenţelor trebuie să fie independentă, precum axiomele unei teorii). Şi acum, problema anunţată: care dintre aceste inteligenţe este transferată/ transferabilă calculatorului? Cea lingvistică şi cea logico-matematică sunt favorite, cele inter- şi intrapersonale par inaccesibile siliciului. La fel cea existenţială – legată de abilitatea omului de a-şi pune întrebări de genul „Cine sunt eu, Doamne?”, ca să revin la Fericitul Augustin. Poate şi mai relevantă este următoarea remarcă: se vorbeşte adesea despre IAG, inteligenţa artificială generală. E realist/potrivit să sperăm la aşa ceva sau e mai bine să ne reamintim remarca profesorului Mircea Maliţa („Exagerările se plătesc în ştiinţă prin contra-curente”)? Întrebare pentru marii producători de IA, nu pentru noi…
Să trecem însă la definiţiile pe care le propun şi le folosesc specialiştii domeniului (cu riscul de a afla ceva de genul: „matematica este acea ştiinţă pe care o practică şi o numesc astfel un mare număr persoane cunoscătoare”).
O primă autoritate la care putem apela este Marvin Lee Minsky (1927–2016), cofondator al laboratorului IA de la MIT, cu multe contribuţii în domeniu (există acum şi o Medalie Minsky pentru IA), de la care aflăm: „Spunem că o maşină este inteligentă dacă ea rezolvă sarcini pentru care un om ar folosi inteligenţă pentru a le rezolva”. Cu alte cuvinte, comparăm sarcini şi soluţii, în abordarea umană şi în cea a maşinilor. Nu ne interesează cum se obţine rezolvarea, avem un black box căruia îi ignorăm conţinutul, ne interesează numai intrările şi ieşirile. Este aşa-numita abordare behavioristă. Maşina este inteligentă dacă simulează comportarea inteligentă a omului.
Ideea de simulare este crucială, iar ea este făcută explicită în alte definiţii.
De pildă, Wikipedia ne spune că IA se referă la capacitatea sistemelor de calcul de a efectua sarcini care în mod uzual sunt asociate cu inteligenţa umană, cum ar fi învăţarea, raţionamentul, rezolvarea de probleme, luarea de decizii.
Ambiţios şi general. Mai precisă este pagina web a IBM (www.ibm.com/topics): „AI este o tehnologie care permite calculatoarelor şi maşinilor să simuleze inteligenţa umană şi capacitatea de a rezolva probleme. Singură sau combinată cu alte tehnologii (senzori, geolocaţie, robotică), AI poate efectua sarcini care altfel ar cere inteligenţa sau intervenţia omului.” (Apropo: am făcut o căutare Google pentru „IBM” şi am primit, primul răspuns pe primul ecran, fără să cer ajutorul IA, un AI Overview. Perfect redactat. IA este cu noi!)
O definiţie de interes apare la https://www.tableau.com/ data-insights/ai/history, urmată şi de o istorie detaliată a domeniului: „IA este o ramură a informaticii preocupată de crearea de sisteme care pot imita inteligenţa umană şi abilităţile de rezolvare a problemelor. Aceste sisteme procesează enorm de multe date, învaţă din experienţă pentru a-şi îmbunătăţi performanţele.”
La fel apare în documentele UE: IA are de a face, explicit, cu simularea inteligenţei umane.
Ideea de simulare trebuie ţinută minte. Nu ne interesează dacă maşina este sau nu inteligentă, dacă poate fi considerată astfel, ci ne interesează performanţele maşinii în a simula comportarea inteligentă a omului. Când este omul inteligent? Avem nişte sugestii mai sus: când învaţă, când decide, când vorbeşte… Dar când face înmulţiri, atunci nu e vorba despre inteligenţă? Evident, da, dar calculatoarelor nu li s-a asociat eticheta IA până de curând, când au început să înveţe, să genereze text… Un teren de lungă competiţie între IU şi IA au fost jocurile logice, cu eforturi serioase şi ecouri media pe potrivă în cazul şahului şi GO-ului. Voi reveni la aceste două jocuri, pentru că au marcat momente importante în evoluţia IA.
Încă o remarcă legată de definiţie: calitatea simulării este apreciată de utilizatorul calculatorului, deci de om. Depinde aşadar de exigenţa omului. Nu este cumva un pericol aici, în sensul că omul poate să coboare ştacheta, din varii motive, nu cel din urmă fiind presupusa scădere a IQ-ului planetar (cum se poate estima acesta cât de cât veridic?). Se glumeşte adesea că deşteptăciunea iese în evidenţă prin comparaţia cu prostia, dar dacă gluma nu e glumă, nu vom ajunge să supra-apreciem inteligenţa maşinilor, mai ales că suntem împinşi într-o asemenea direcţie de publicitatea din domeniu? Întrebare care merită dezbătută mai mult, dar nu voi face acest lucru aici.
O definiţie mai conservatoare dă pentru IA Mihai Nadin, un informatician-filosof-estetician trăitor acum în SUA, autor, printre altele, a două provocatoare cărţi, apărute în ultimii ani la Editura Spandugino din Bucureşti, Civilizaţia analfabetismului şi Cumpăna ştiinţei. Viitorul contează. Profesorul Nadin se interesează şi de eficienţa cu care o maşină rezolvă o problemă, de costul performanţelor. Într-un articol cu titlul explicit, „Machine Intelligence: A Chimera” (Inteligenţa maşinilor: o himeră), publicat în 2019 în revista AI and Society, se spune „Entităţile artificiale ar putea cu adevărat pretinde că sunt inteligente dacă, în executarea unei sarcini, ar folosi cel mult atâta energie şi cel mult atâta informaţie cât foloseşte o entitate vie în executarea acelei sarcini.” Contează aşadar costul, în termeni măsurabili – energie şi informaţie. Ideea este reluată în articolul „Brute Force Computation and Intelligence”, apărut în 2023 în International Journal of Computers.
Abordarea este mai mult decât pertinentă: se spune că foarte curând IA mondială va consuma la fel de multă energie electrică precum Japonia. Iar asta, probabil, fără a fi puse în practică proiectul francez, de a construi cel mai mare „depozit de date” din Europa, care va consuma energie cam cât poate produce un reactor nuclear, sau proiectul sud-coreean, de a construi cel mai mare „depozit de date” din lume, necesitând producţia de curent electric a trei reactoare nucleare, cam cât consumul Slovaciei. Şi nu avem nicio indicaţie despre posibile proiecte similare din SUA, China, Rusia…
AI poluează din plin, prin consumul de energie, prin mineritul tot mai extins în căutare de pământuri rare, dar nu am prea văzut avertismente în acest sens, entuziasmul încă prevalează.
Iar în ceea ce priveşte „consumul de informaţie”, comparaţia este iarăşi spectaculoasă – în defavoarea IA: un copil învaţă să vorbească după ce ascultă, probabil, mai multe mii de fraze, ChatGPT are nevoie de miliarde de fraze pentru a produce una nouă… (Apropo: GPT = Generative Pre-trained Transformer.)
La ideea că IA se bazează foarte mult pe forţa brută, ca putere de calcul, baze de date explorate, viteză de comunicare, consum de energie etc. voi reveni. Până atunci, câteva informaţii de la sursă, chiar de la dl Mihai Nadin, profesor emerit la Universitatea Texasului din Dallas, Institutul de Cercetare în Sisteme Anticipative, al cărui fondator şi director este, informaţii… anticipând discuţia despre utilitatea/utilizarea IA. Recent (nr. 4, 2025), în Journal of Vaccinology, a apărut articolul „Examining the Relations Between Virus Mutation and Vaccination. A Data Analysis”, cu referire la pandemia Covid-19. Autori: Mihai Nadin, Ayush Sharma şi Gaurav Shekar, toţi trei de la aceeaşi universitate din Dallas. Întrebarea de bază, ipoteză de lucru, a fost dacă nu cumva vaccinurile mRNA nu au contribuit/favorizat mutaţiile virusului. Au fost explorate, timp de peste doi ani, baze cuprinzătoare de date, dintre cele de încredere, guvernamentale sau ale unor institute de cercetare din toată lumea. Pe total, concluziile sunt că vaccinurile au redus mult severitatea bolii, dar şi că există o oarecare corelare între vaccinarea repetată şi mutaţii, aşa cum era intuit dinainte. Detaliul de interes este că, îmi spune prin e-mail dl Mihai Nadin, înainte de publicarea articolului, a avut ideea de a cere unui sistem IA agenţial, o formă recentă de IA, mult mai versatilă decât „generaţia” ChatGPT, să se ocupe de acelaşi subiect. Scrie profesorul Nadin: a folosit sistemul chinezesc Manus, care, umilindu-l prin eficienţă, a produs în 60 de secunde un articol comparabil cu cel la care cei trei autori au lucrat doi ani. A repetat experimentul cu sistemul Grok, al lui Elon Musk, cu permisiunea personală a acestuia, şi rezultatul a fost acelaşi. IA poate scrie articole perfect articulate, publicabile fără probleme în reviste profesioniste! Folosind forţa brută, resurse imense – dar, iarăşi citez dintr-un mesaj primit de la dl Nadin: „timp de doi ani, şi noi, autorii, am consumat ceva resurse…” Mai mult, costurile se justifică în cazuri precum cel de faţă, pentru că, dacă s-ar fi ştiut la vremea pandemiei ceea ce se ştie acum, s-ar fi economisit mult (inclusiv vieţi). Aşadar, putem merge mai departe şi cu sisteme IA mari consumatoare de energie – rămâne să le folosim pentru a aborda probleme relevante, care să merite costurile.

8. Scurtă istorie (a informaticii şi a IA)

Voi intra direct în subiect, fără referiri la bogata istorie a ideii de automat, robot, golem, în literatură sau mitologie.
În anii 1920, David Hilbert a formulat problema definirii matematice a ceea ce este calculabil mecanic (nu exista încă noţiunea de calculabil algoritmic) – după ce, şi mai devreme, formulase problema decidabilităţii ecuaţiilor diofantice (în lista de „probleme ale secolului”, propuse în 1900). Au încercat mai mulţi matematicieni să răspundă provocării (S.C. Kleene, Emil Post, Alonzo Church), dar soluţia care a prevalat, devenită standard acum, a fost cea dată de tânărul Alan Mathison Turing (1912-1954), prin introducerea a ceea ce s-a numit curând maşină Turing, un model matematic, abstractizând modul în care un om calculează. (Să nu ne lăsăm derutaţi de terminologie, termenul maşină numeşte un model formal, simbolic: un alfabet, o mulţime de stări, dintre care una este stare iniţială şi una sau mai multe sunt stări finale, reguli de tranziţie. Ca reprezentare, să ne imaginăm o bandă infinită pe care putem scrie simboluri din alfabet, în celule aşezate una după alta, şi un cap de citire-scriere care în fiecare moment are acces la o celulă şi se poate deplasa un pas la stânga sau la dreapta, schimbând sau nu simbolul din celula examinată, totul sub controlul stării curente, care şi ea se poate schimba, aşa cum spun regulile de tranziţie. Nu dau mai multe detalii, subliniez doar naturaleţea şi simplitatea modelului.) Era în 1936, când apărea lucrarea A.M. Turing, „On Computable Numbers, with an Application to the Entscheidungsproblem”, în Proceedings of London Mathematical Society, 42 (1936), cu o erată în numărul următor, din acelaşi an. Turing nu numai că a dat o definiţie elegantă, acoperind puterea tuturor modelelor propuse înaintea sa, dar a avut şi două intuiţii geniale: a definit maşina universală, cea care poate simula orice maşină particulară (dacă un cod al maşinii particulare este introdus în maşina universală, pe banda acesteia, împreună cu datele de intrare ale maşinii particulare, atunci maşina universală dă acelaşi rezultat ca maşina particulară), a şi demonstrat că o asemenea maşină universală există, apoi a găsit şi o problemă care nu poate fi rezolvată de nicio maşină Turing, a găsit adică ceva necalculabil. Iarăşi, nu intru în detalii tehnice, menţionez doar că aici se găseşte „certificatul de naştere al calculatoarelor” programabile de astăzi, cu lucrarea lui Turing a început odiseea calculatoarelor, digitalizarea, „revoluţia IA”, totul…
În anii 1940, sub urgenţa războiului, au fost construite primele calculatoare. John von Neumann, unul dintre cei implicați în această operațiune, a declarat explicit că a fost în mod esențial influențat de ideile lui Turing, în particular, de modul în care acesta a definit și construit matematic mașina Turing universală.
La vremea războiului, Turing a fost implicat în descifrarea mesajelor cifrate de maşina germană Enigma, cu succese remarcabile – evident, multă vreme rămase secrete de război.
În 1950, Turing a publicat în revista Mind articolul „Computer Machinery and Intelligence”, în care nu numai că se pune, pentru prima dată, problema inteligenţei maşinilor, dar propune şi un test, numit de atunci testul Turing, de diagnosticare a inteligenţei unui calculator: pe scurt, un calculator răspunde la întrebări ale unui om, încercând să-l convingă pe acesta că este om; dacă reuşeşte, trece testul. Cu timpul, au fost imaginate diferite variante ale testului, mai sofisticate. Important este că şi în abordarea lui Turing tot despre simularea inteligenţei umane este vorba.
În 1955, John McCarthy organizează primul workshop de IA, sintagma intră în circulaţie.
La jumătatea anilor 1940, W.S. McCulloch şi W. Pitts au introdus un model al neuronului, devenit apoi ceea ce se cheamă acum automatul finit (prima monografie de limbaje formale şi automate apare în 1964, cartea Gramatici şi automate finite de Solomon Marcus, Editura Academiei, Bucureşti, rămasă din păcate în limba română). În 1958, F. Rosenblatt introduce perceptronul, un neuron care „învaţă” (să recunoască forme, deci să clasifice, să calculeze funcţii simple), pe baza căruia se vor defini reţelele neurale, modelul calculului neural, fundamentul învăţării din IA. Reţeaua de bază, numită alfa-perceptron, are trei straturi, unul de intrare, „retina”, cu mulţi neuroni, un strat intermediar, de regulă cu şi mai mulţi neuroni, şi stratul de ieşire, cel care furnizează răspunsul. Asemenea reţele minimale, alfa, se pot compune în reţele mai complexe, deci mai eficiente – dar şi mai consumatoare de resurse de calcul.
În 1959, M. Minsky şi J. McCarthy au format Laboratorul de IA de la MIT, dar progresele au fost lente, mai mult, în 1969, Minsky şi S.A. Papert critică perceptronul, în cartea lor Perceptrons (MIT Press), drept care au fost acuzaţi că ei au provocat „iarna IA” din anii 1970, când entuziasmul faţă de IA (şi finanţarea) a (au) scăzut foarte mult. Au alternat apoi „primăverile” şi „iernile”, pentru ca după 1995 să vină o „vară perpetuă”, bazată pe mai mulţi factori: progrese tehnice în ceea ce priveşte puterea calculatoarelor, legarea acestora în reţele tot mai mari, pe internet, apariţia unor baze mari de date. Forţă brută, ceea ce a ajutat mult învăţarea automată, reţelele neurale au crescut continuu, ca număr de straturi şi de neuroni, reuşind performanţe cu adevărat notabile.
Ar trebui şi aici făcută o remarcă terminologică. Ca în cazul „maşinii” Turing, şi de data aceasta cuvintele au un sens metaforic (amintind însă de structura creierului). Un „neuron” dintr-o „reţea neurală” este un punct într-un graf de o formă anume, stratificat. Aceste puncte au asociate numere (valori), pe legăturile dintre ale sunt plasate, de asemenea, numere – numite ponderi (în engleză, weights). Neuronii de pe stratul de intrare („retina”) primesc nişte intrări (codificând un pattern de recunoscut, date de intrare pentru o problemă de decizie şi aşa mai departe). Neuronii de pe straturile interne capătă valori în funcţie de neuronii de pe stratul imediat superior şi de ponderile de pe legăturile care îi leagă de aceştia, până la neuronii de ieşire, care dau răspunsul. Antrenarea reţelei, învăţarea, înseamnă modificarea repetată a ponderilor până ce acestea se stabilizează în aşa fel încât, dacă, de exemplu, reţeaua a fost antrenată să recunoască anumite imagini (litere, animale, oameni…), de acum încolo, cu mare probabilitate, ea va da răspunsuri corecte, indiferent ce intrare va primi (ca valori pentru neuronii din „retină”). Bineînţeles, învăţarea nu este niciodată totală, perfectă, dar forţa brută (puterea de calcul şi volumul datelor de antrenare) a dus la niveluri de performanţă cu adevărat spectaculoase. Pentru multă vreme (ca în alfa-perceptronul lui Rosenblatt) se lucra cu trei straturi, cel mult patru, acum nu mai există limite – se vorbeşte curent despre deep-learning (învăţare adâncă), ceea ce a influenţat direct performanţele.
În 1997, Deep Blue, un supercalculator construit de IBM, special proiectat pentru a juca şah, îl învinge pe campionul mondial Garry Kasparov.
În 2012, Google anunţă un succes care la prima vedere pare hazliu, dar nu este: recunoaşterea automată a imaginilor cu pisici!
În 2015 a apărut o scrisoare, cu peste 3000 de semnatari, care cerea interzicerea armelor autonome, cele bazate pe AI. În anii următori, au fost circulate şi alte apeluri similare, inclusiv de către angajaţii de la Google, implicaţi în cercetări finanţate de armata SUA. La fel s-a întâmplat şi cu armele nucleare – să ne amintim de Manifestul Russell-Einstein, din 1955, semnat, pe lângă cei doi iniţiatori, de alţi 9 savanţi binecunoscuţi, dar rămas fără urmări practice – nici recentul apel nu va avea probabil o altă valoare decât una documentară.
Iar în 2016, marea surpriză: programul AlphaGO, realizat de DeepMind, acum parte a Google, a „studiat” (a fost antrenat pe) milioane de partide plasate pe mii de calculatoare, a învăţat deci GO de la oameni, şi i-a învins pe rând pe campionul Europei, pe cel al Chinei şi la final pe Lee Sedol, campionul Coreei de Sud, considerat cel mai bun jucător de GO al momentului. Rezultatul a avut un „efect sputnik” (Y.N. Harari) în China, unde GO-ul este mult preţuit. Nimeni nu credea că GO-ul va fi „cucerit” de IA atât de repede. A fost însă apoi realizat AlphaGO Zero, care a învăţat GO singur. A primit regulamentul şi nimic altceva, iar după o lună în care a tot exersat, jucând „stânga cu dreapta”, l-a învins cu 100 la 0 pe AlphaGO. Este important faptul că AlphaGO Zero a învăţat singur, pentru că strategia GO-ului este foarte generală, are similitudini cu strategia din afaceri, dar şi cu polemologia, ştiinţa războiului, deci se poate specula dacă în felul acesta nu se pot obţine strategii comerciale sau militare imbatabile, la fel ca la GO, cu „mutări” uneori „ciudate”, greu de imaginat (deci greu şi de contracarat) pentru om, dar mereu câştigătoare. Strategia GO-ului fiind bine formulată, neambiguă, „cu informaţie completă” cum se spune în teoria jocurilor, extinderea în zone complexe, nedeterministe în multe aspecte, implicând oameni, nu este posibilă acum, speculaţia rămâne speculaţie – dar rămâne…
În sfârşit, în 2020 este „trimis în lume” ChatGPT-3, pentru a crea text, programe, imagini. Multe alte sisteme similare au fost realizate, unele disponibile pe internet, unele gratuite, altele cerând bani, multe ţinute încă în grupurile de cercetare, nefinisate, secrete eventual.
Ce urmează? Eee, dacă s-ar putea şti…

9. Calculul natural (inspirat din biologie)

Istoria rememorată mai devreme, aşa grăbită şi lacunară cum este, are două meniri: să sublinieze că IA este parte a informaticii, a digitalizării, cum spuneam şi la început, şi, mai important pentru ceea ce urmează, să ne apropie de „filosofia” internă a modelelor care stau la baza IA. Este vorba despre calculul neural, la rândul lui, domeniu al calculului natural (natural computing în engleză, cu o bibliografie bogată, cuprinzând cărţi, reviste, conferinţe, inclusiv un cuprinzător Handbook of Natural Computing, editat de Grzegorz Rozenberg, Thomas Bäck şi Joost N. Kok şi apărut la Springer-Verlag în 2012). Este vorba, în principal, despre bio-informatică, în sensul căutării de idei, modele, sugestii în biologie şi încorporarea lor în modele de calcul. De fapt, spuneam, Turing însuşi a privit spre biologie atunci când a definit maşina Turing, spre „un funcţionar de bancă”, spunea el explicit, care calculează. Anii 1960 au fost însă martorii dezvoltării a două domenii foarte productive ale calculului natural, ale informaticii în general: nu numai calculul neural, ci şi calculul evolutiv (evolutionary computing/computation). Interesant este că ambele domenii au rădăcini în cercetările nepublicate ale lui Turing, cunoscute abia după moartea sa.
Subiectul merită ceva atenţie. În 1948, Turing a scris o scurtă lucrare intitulată Maşini inteligente, considerată acum fundamentală pentru calculul neural, în care a introdus multe dintre conceptele care au devenit ulterior centrale în IA, în unele cazuri, după ce au fost re-inventate de alţii. Pe vremea aceea, Turing lucra pentru National Physical Laboratory din Londra, iar şeful său, sir Charles Darwin, nepot al celebrului omonim, a scris pe colţul manuscrisului „eseu şcolăresc” („schoolboy essay”), ba chiar i-a reproşat lui Turing „aspectul neîngrijit” al lucrării. Desigur, lucrarea a rămas nepublicată… (Detalii la https://www.alanturing.net/ turing_archive/, unde pot fi găsite multe alte informaţii despre manuscrisele lui Turing, cercetate ulterior de o echipă de informaticieni, în căutarea de „idei pierdute”.)
Câteva cuvinte despre calculul evolutiv, începând cu algoritmii genetici. Să presupunem că avem de aflat valoarea maximă sau minimă a unei funcţii. Pentru funcţii de o variabilă, cu proprietăţi „cumsecade” (funcţii derivabile), am învăţat la liceu cum să procedăm. Pentru funcţii mai complexe, aşa cum apar în „viaţa reală”, nu mai avem soluţii analitice. O posibilă strategie rămâne atunci căutarea prin domeniul de definiţie al funcţiei. Cu cât căutăm mai mult şi mai sistematic, cu atât avem mai multe şanse să ne apropiem de răspunsul optim. Un exemplu ilustrativ: relieful unui judeţ. Umblăm prin judeţ şi măsurăm vârfurile dealurilor/munţilor. Ce facem însă dacă avem mai mult de două argumente ale funcţiei? Nu avem „organ” pentru spaţii cu mai mult de trei dimensiuni, dar ne ajută matematica, ne ajută calculatorul. „Umblăm” prin domeniu, în căutarea vârfurilor. Numai că domeniul este infinit, nu ne putem permite să-l explorăm în întregime. Căutăm atunci la întâmplare, în speranţa că nu ne vom învârti în jurul vârfului unui deal sau că nu vom merge înainte şi înapoi pe o vale, fără să ajungem la muntele din altă zonă a domeniului. Pentru asta, trebuie să organizăm în mod potrivit „căutarea la întâmplare”. O idee oarecum mistică este să procedăm ca în genetică (dacă natura, prin operaţii genetice, a produs minunăţii precum omul, atunci să imităm acele operaţii şi în alte contexte…): scriem „coordonatele” punctelor din domeniu ca şiruri de simboluri (de „nucleotide”, cum este molecula de ADN) şi „evoluăm” aceşti „cromozomi” aşa cum o face biologia, prin recombinări (cut-and-paste), mutaţii punctuale (schimbarea unei nucleotide cu alta), selecţie, adăugând eventual şi alte strategii care să direcţioneze evoluţia. Peste tot, apar probabilităţi – în alegerea locului unde facem recombinarea, unde facem mutaţia.
Surpriza plăcută este că strategia funcţionează, aplicaţiile tehnice sau economice sunt numeroase. Surpriza neplăcută este că şi rezultatele slabe sunt la fel de numeroase. Când o metodă de genul acesta nu dă un rezultat bun, cu resurse date (ca timp de calcul, de exemplu), schimbăm pe ici, pe colo strategia de explorare a domeniului şi, dacă suntem inspiraţi/norocoşi, vom obţine un rezultat mai bun. Vestea cu adevărat proastă este că nu există o „cea mai bună metodă” (voi aminti mai jos aşa-numita No free lunch Theorem), drept care cărţile tipice de calcul evolutiv seamănă cu nişte „cărţi de bucate” – ironica remarcă nu-mi aparţine – reţete, multe reţete, „pentru toate gusturile”.
Calculul evolutiv are şi o ramură numită programare evolutivă, care şi-a propus să producă programe prin evoluţie, deci îmbunătăţindu-le prin încercări, euristic, probabilistic. Dacă aplicaţiile algoritmilor genetici în optimizare au fost adesea de mare succes, progresele în programarea evolutivă au fost modeste – de aceea, în zilele noastre, faptul că ChatGTP scrie cod rezonabil de bun este remarcabil, cu adevărat un succes al IA.
Pe lângă calculul neural şi calculul evolutiv, calculul natural mai include două domenii inspirate din biologie, DNA computing (speculaţii s-au făcut încă din anii 1970, primele modele au apărut prin anii 1980, dar domeniul a „explodat” în 1994, când Leonard Adleman a reuşit să rezolve în eprubetă, prin metode pur biochimice, o problemă cunoscută ca fiind de complexitate mare, în jargon, NP-completă, exponenţială pentru orice algoritm, deci pentru orice maşină Turing: L.M. Adleman, „Molecular Computation of Solutions to Combinatorial Problems”, Science, 226, 1994; exemplul din experiment a fost de dimensiuni mici, deci fără relevanţă practică, dar s-a demonstrat astfel valabilitatea abordării), şi membrane computing (o denumire mai bună putea fi cellular computing; Gh. Păun, „Computing with Membranes”, Turku Center for Computer Science Report No. 208, 1998, şi Journal of Computer and System Sciences, 61, 2000, forma finală). Câte o referinţă acoperitoare din fiecare domeniu: Gh. Păun, G. Rozenberg, A. Salomaa, DNA Computing. New Computing Paradigms, Springer-Verlag, 1998, respectiv, Gh. Păun, G. Rozenberg, A. Salomaa, eds., The Oxford Handbook of Membrane Computing, Oxford. Univ. Press, 2010.
Handbook of Natural Computing menţionat mai devreme include şi capitole dedicate automatelor celulare, imaginate încă din anii 1940 de Stanislav Ulam şi John von Neumann (o versiune mai cunoscută este Jocul Life, popular acum vreo două-trei decenii pe toate calculatoarele) şi calculul cuantic, deloc legat de biologie, dar o mare speranţă pentru informatică, promiţând o altă informatică. Teoria este remarcabilă, s-au făcut investiţii enorme, dar progresele sunt lente, realizările sunt minore până acum, chiar dacă, în ultima vreme, parcă la concurenţă cu IA, apar tot mai multe veşti din domeniu. (Sunt probleme multe de rezolvat, în primul rând, tehnice – interferenţe, erori, costul hardware-lui, intervenţia observatorului, eventual maliţios – dar ideea de a lucra cu qubiţi, cu toate valorile dintre 0 şi 1 deodată, o infinitate, este extrem de atrăgătoare – circulă în domeniu, în propaganda sa mai exact, sintagma „apocalipsă cuantică”, asociată cu posibilitatea ca pe această cale să se spargă toate sistemele criptografice actuale, ceea ce, într-adevăr, ar fi un dezastru pentru comunicarea pe internet, de la bănci la armate. La cât de mult se investeşte şi se lucrează în domeniu, la cât de mare este miza, este de prevăzut că la un moment dat – în termeni de ani, în jur de un deceniu, aş risca o previziune – să avem şi un „zgomot” cuantic similar „zgomotului” IA de astăzi…)

10. Patru rezultate matematice
de interes pentru IA

Ele indică limite ale IA, ale calculatoarelor în general, dar şi pericole intrinseci, unele grave, posibile, demonstrate teoretic, deci nediscutabile, nu neapărat iminente – am mai vorbit despre aspectele acestea, dar nu strică să repet. Învăţătura este să nu delegăm calculatoarelor, cu sau fără IA, sarcini de decizie, fără a le supraveghea funcţionarea şi, mai ales, fără a le examina deciziile pe care ele le propun.
Primul rezultat trimite tot la Turing, la distincţia calculabil-necalculabil, algoritmic-nealgoritmic. IA se bazează pe algoritmi, dincolo de algoritmic/calculabil există o întreagă lume (matematic vorbind, mai „largă”, mai cuprinzătoare decât cea algoritmică; în jargon: probleme sunt o mulţime de cardinal nenumărabil, algoritmi sunt doar o mulţime numărabilă). Mintea omului nu funcţionează algoritmic – atunci când creează, are sentimente, intuiţii, revelaţii, adesea chiar şi când decide. Este o veste bună aceasta: indiferent cât de multe lucruri ar face maşinile, ne rămân şi nouă, oamenilor, destule lucruri de făcut… Cu menţiunea nu la fel de liniştitoare că maşina poate simula din ce în ce mai bine inclusiv activităţi nealgoritmice ale minţii omului. Iar noi o putem crede…
O altă veste proastă, tot dinspre Turing, este că verificarea programelor nu se poate face de către un program, mai precis, că problema corectitudinii algoritmilor nu se poate rezolva algoritmic. Şi mai precis, dar în jargon: problema opririi maşinilor Turing nu poate fi rezolvată de către o maşină Turing. Este vorba despre faimoasa problemă a opririi (halting problem) – folosesc prilejul pentru a anunţa deja aici, şi o voi invoca şi mai jos, relevantă fiind pentru IA, o carte splendidă, a colegului Cristian S. Calude, fost elev al lui Moisil şi Marcus, acum profesor la Universitatea din Auckland, Noua Zeelandă: To Halt or Not to Halt? That Is the Question, World Scientific, Singapore, 2024. Dilema prinţului danez este parafrazată cu privire la maşina Turing, iar cartea reuşeşte un lucru surprinzător la prima vedere: „unificarea” sub semnul problemei opririi (maşinii Turing) a numeroase chestiuni, probleme deschise adesea, din matematică şi informatică, ba chiar şi din afara acestora. Cartea a fost deja tradusă în ruseşte şi este în curs de traducere şi în limba română, cititorul o va găsi, sper, curând în librării.
Trec la teoremele de tip no free lunch amintite mai devreme. În primul rând, nu-mi place prea mult numele („nu există prânz gratuit”), e prea… consumerist-americănesc. Aş alege, mai clasicul „nu există o cale regală”. Sau, amintindu-mi o butadă a lui Moisil – „spre deosebire de inteligenţă, prostia nu are intermitenţe” (dual, am putea citi „spre deosebire de prostie, inteligenţa are intermitenţe”), le-aş zice teoreme Moisil…
Observaţia de plecare este cea amintită mai devreme: pentru orice metodă de optimizare euristică, evolutivă, chiar dacă dă rezultate bune pentru unele probleme, există alte probleme pentru care rezultatele nu sunt bune. O formulare mai aproape de original (D.H. Wolpert, W.G. Macready, „No Free Lunch Theorems for Optimization”, IEEE Transactions on Evolutionary Computation, 1, 1997) este: „În medie pe toate problemele dintr-o clasă, toate metodele sunt la fel de bune”. În cheie pesimistă, putem citi: „toate metodele sunt la fel de proaste”. Există variante şi extinderi, există discuţii privind relevanţa pentru optimizarea euristică şi pentru învăţarea automată – în 1996, D.H. Wolpert („The Lack of A Priori Distinction between Learning Algorithms”, Neural Computation, 8) a demonstrat o teoremă de acest gen pentru inferenţa statistică folosită în învăţarea automată. Nu am văzut discuţii privind limitarea pe care asemenea teoreme o sugerează pentru IA. În formularea lui Moisil, teoremele de genul acesta spun că „inteligenţa” tuturor sistemelor IA are intermitenţe. În terminologia referitoare la programele de chat, consecinţa este că aşa-numitele halucinaţii sunt inevitabile, vor deveni probabil tot mai rare cu timpul, dar nu vom scăpa complet de ele niciodată.
A treia categorie de rezultate matematice cu implicaţii (potenţial grave) pentru IA priveşte aşa-numitele corelaţii înşelătoare (în engleză, spurious correlations), mai general, regularităţile inerente existente în bazele de date mari, regularităţi care nu au însă semnificaţii reale. Un exemplu simplu: să considerăm trei fenomene, cu evoluţia lor în timp, anume, consumul zilnic de îngheţată, numărul de incidente/accidente legate de piscine şi temperatura. Evident că cele trei sunt corelate, iar temperatura zilnică este cauza, explicaţia celorlalte două. Ce facem însă dacă un program descoperă corelaţia dintre consumul de îngheţată şi accidentele la înot, fără a observa şi evoluţia temperaturii? Va sugera (sau chiar va decide, dacă are această posibilitate) interzicerea îngheţatei pentru a salva vieţi sau va promova înecul pentru a creşte profitul industriei îngheţatei? Învăţătura este că o corelaţie, oricât de bună, nu indică neapărat o relaţie de cauzalitate. Poate fi un instrument de cunoaştere, de diagnosticare, dar nu unul de decizie. IA este foarte eficientă în a descoperi (regularităţi şi) corelaţii în baze de date, dar nu este la fel de bună în a distinge corelaţiile de cauzalităţi. Iar cu cât bazele de date sunt mai mari, cu atât mai multe corelaţii mincinoase (spurious) există în ele.
Se ocupă profesionist de acest subiect cartea lui C.S. Calude citată mai devreme, în care găsim mai multe corelaţii de-a dreptul hilare, pentru un om, vizibil departe de orice cauzalitate (exemplu: „numărul pescarilor care mor căzând din barcă este corelat aproape sută la sută cu numărul căsătoriilor din statul Kentucky”, pag. 135), rezultate matematice/referinţe privind existenţa acestora în baze de date, rezultate conexe (de exemplu, teoreme de tip Ramsey, privind neaşteptata – pentru simţul comun – „ordine” din „haos”). Titlul secţiunii respective, 4.11, din carte este semnificativ: „Spurious correlations in big data: Too much information tends to behave like very little information” (Corelaţii înşelătoare în big data: prea multa informaţie tinde să se comporte ca prea puţina informaţie). Sună SF, dar e perfect logic să ne imaginăm că un calculator însărcinat cu creşterea demografiei în statul Kentucky va decide că este bine să răsturnăm cât mai multe bărci cu pescari pentru a-şi îndeplini obiectivul…
Iar bazele de date folosite de IA sunt tot mai mari, cel puţin europene în proiectul franţuzesc amintit mai devreme, planetare în cel sud-coreean…
O remarcă: încrederea în corelaţii, în general, în rezultatele căutărilor euristice, pune uneori în discuţie rostul ştiinţei fundamentale, al modelelor, al abordării matematice, principala justificare (nu neapărat recunoscută) fiind cea financiară. O soluţie imediată şi ieftină, chiar dacă ştim că nu este cea mai bună, este preferată de unii manageri/contabili, în raport cu una costisitoare – eventual cu existenţa incertă a acesteia, căci nu totdeauna abordările analitice conduc la un rezultat aplicabil în timp rezonabil. Este vechea „concurenţă” dintre teorie şi euristică, cu IA favorizând-o pe cea de a doua.
Închei secţiunea aceasta cu o teoremă aproape înfricoşătoare, demonstrată la începutul anilor ’80 de B. Bereanu, în articolul cu titlu auto-explicativ „Self-activation of the World Nuclear Weapons System”, apărut în Journal of Peace Research, cu o versiune anterioară publicată în 1981 în Methods of Operations Research – reviste cu totul serioase. Scenariul este următorul: două puteri nucleare au fiecare rachetele îndreptate una spre cealaltă şi, desigur, sisteme de observare menite să dea cât mai rapid alarma în cazul unui atac dinspre adversar; vectorii de trimitere la ţintă a bombelor sunt perfecţionaţi continuu, rachetele devin tot mai rapide, în paralel, sunt plasate tot mai aproape de ţinte, în măsura în care se poate. Ca urmare, sistemele de observare-alarmare trebuie să se perfecţioneze şi ele, să reacţioneze cât mai rapid. Acest lucru implică folosirea mijloacelor computerizate. Toate sistemele tehnice, cu atât mai mult calculatoarele, au şi erori. Teorema spune că, oricât de rare ar fi aceste erori, cu probabilitatea unu, sistemul cuplat al celor doi adversari se auto-activează. Teorema nu spune şi când este momentul auto-activării – mâine, peste un an, peste o mie de ani (deci, pentru percepţia generaţiei noastre, niciodată). Există o povestire SF a lui Horia Aramă, intitulată „Probabilitate unu”, apărută în volumul Dincolo de Paradis (Cartea Românească, 1983), inspirată din teorema lui Bereanu, la finalul căreia, după ce un matematician îşi expune teorema la tablă, se aude sunând alarma aeriană…
Să „însumăm” acum rezultatele anterioare: imposibilitatea de a verifica algoritmic corectitudinea algoritmilor (şi dificultatea de a le înţelege funcţionarea – vom vedea mai jos) + teoreme de intermitenţă a „inteligenţei” IA (no free lunch) + confuzia corelaţii-cauzalitate + teorema lui Bereanu… Se sparie gândul, vorba cronicarului. Am obţinut un „pistol” perfect pentru o… ruletă rusească planetară! Este omenirea suficient de inspirată, de deşteaptă, de norocoasă să nu-şi ducă acest pistol la tâmplă?…

11. Impact bun, impact rău

Subiectul implicaţiilor folosirii IA asupra societăţii omeneşti este unul dintre cele mai fierbinţi ale momentului, cu părerile polarizate cât este omeneşte posibil, cu entuziaşti al căror optimism este imposibil de clătinat şi, la cealaltă extremă, cu prezicători înspăimântaţi, dar şi cu tehnorealişti de toate gradele intermediare între cei dinainte. Şi, spuneam, toţi au dreptate în felul lor – în timp ce elefantul merge înainte, clătinându-se precum făcea pe vremuri un elefant-jucărie, de plastic, care mişca picioarele, legănându-se ritmic, tras de trompă de o sforicică legată de un inel care se lăsa peste marginea mesei. Foarte rar cădea elefănţelul de pe masă… inelul era bine calibrat – ceea ce nu se poate spune şi despre interesele din spatele IA…
Că IA a produs deja şi cu atât mai mult va produce în continuare transformări uriaşe în societate este un fapt, este o certitudine. Cine susţine că nu este deja afectat de IA, de digitalizare în general, fie nu-şi dă seama pe ce lume se află din motive personale, fie este atât de mult afectat (termenul sugerează direcţia negativă) că… nu-şi mai dă seama pe ce lume se află. Cu toţii ne găsim între brava lume nouă a lui Aldous Huxley şi lumea Fratelui cel Mare din distopia lui George Orwell. Şi ne îndreptăm încet şi sigur spre combinaţie şi mai complexă, mai intimă a celor două.
Dependenţa de ecrane, de cele purtate continuu în buzunar, în mână, la gât – numesc telefoanele, din ce în ce mai smart, sau de televizor, este generalizată. Cine mai citeşte ziare pentru a afla noutăţi? Ele, noutăţile, ne vin selectate gata, personalizate, fiecare primeşte ce-l interesează – şi ne interesează tot mai puţine lucruri, de care suntem tot mai preocupaţi. Închişi în bule sună diagnosticul. Ne informăm online, socializăm (oare?) online, tot astfel cumpărăm, vindem, facem banking (ce-o fi aia? că multe tehno-neologisme am mai învăţat!), ba chiar şi politică facem online (citeam acum vreun an, în toiul campaniei electorale de peste ocean, că acestea sunt ultimele alegeri la care putem fi siguri că pe ecran apar oameni, nu avataruri electronice, peste patru ani nu vom mai putea face diferenţa; şi, să nu mai amintim de profilare, de scandalul de acum câţiva ani cu Cambridge Analytica, de propaganda personalizată pe baza datelor acumulate pe reţelele de socializare). Apropo de neologisme, avem deja în uz sintagme precum trans-umanism, post-umanism, post-adevăr; de parcă fake-news nu era suficient, avem şi deep-fake. La volan nu ne mai descurcăm fără Waze – şi nici taximetriştii nu o duc mai bine. Google dă deja răspunsuri meşterite de IA (deocamdată notifică acest lucru), am început să nu mai distingem în mass-media textele scrise de IA de cele scrise de om, vom ajunge să confundăm şi picturile, poemele, clipurile video. Vorbesc la nivelul vieţii de zi cu zi, din ziua de azi, altfel ar trebui să ne gândim şi la faptul că „peste 65% dintre elevii din şcoli vor lucra mâine în profesii care azi nu există” (citat din presă), iar 80% din programele pe care până mai ieri le scriau programatorii, sunt acum scrise de IA – e ironică situaţia că primii şomeri produşi de IA apar printre IT-işti (proiectarea sistemelor digitale/IA şi validarea programelor scrise de IA rămân încă sarcini ale programatorilor de vârf, întrebarea este cum poate ajunge cineva programator de vârf fără să treacă prin etapele situate mai dinspre baza ierarhiei…). O concurenţă şi mai nemiloasă îi priveşte pe traducători: ChatGPT traduce aproape perfect între peste 40 de limbi!
La nivel stradal, sunt multe ţări ale lumii în care camerele de luat vederi sunt omniprezente. În magazine, instituţii, la intersecţii, peste tot pe unde circulă oameni. Iar imaginile sunt stocate cu lunile – la fel cum sunt peste tot stocate convorbirile şi mesajele telefonice. Nu sunt interpretate-folosite decât la nevoie – ca în filmele poliţiste, pentru că nu există atâţi supraveghetori câţi supravegheaţi, dar IA se poate ocupa de supraveghere fără întrerupere, fără să obosească.
Probleme multe şi grele vin din şcoală, dinspre educaţia copiilor, ba chiar privind şi sănătatea lor, după propaganda iniţială privind utilizarea calculatoarelor şi a altor dispozitive electronice în şcoli şi chiar grădiniţe. Pandemia a fost un experiment usturător din acest punct de vedere, educatorii, psihologii, neuro-specialiştii continuă să tragă semnale de alarmă. Ţările nordice, cu al lor prea-lăudat sistem de învăţământ, s-au grăbit să digitalizeze şcoala, iar acum au reintrodus creioanele în clase şi scrisul de mână în programă! Învăţăm şi noi ceva din asta?
Dau un exemplu şi mai dramatic. Digitalizarea, abandonarea în cyberspaţiu nu au numai efecte psihologice, sociologice, intelectuale, ci şi fiziologice, privind funcţionarea însăşi a ochilor şi a creierului (care este „dresat” să ceară şi să primească endorfine ca recompensă la fiecare câteva secunde – prin jocuri, imagini, glumiţe – drept care va fi frustrat dacă nu i se întâmplă acest lucru). Iar, la încă un click distanţă, cum sună clişeul publicitar, aşteaptă Alzheimer-ul, ne încredinţează de asta Manfred Spitzer, în cartea Demenţa digitală, Editura Humanitas, 2020, traducerea originalului german din 2012. Autorul este neuro-psihiatru cu clinică în funcţiune, ştie deci ce spune, iar demenţa digitală este numele pe care medicii sud-coreeni l-au dat bolii cu care veneau la ei, încă înainte de 2012 desigur, tineri care abuzaseră de ecrane încă din perioada micii copilării, candidaţi la Alzheimer înainte de a împlini 30 de ani!
Mai adaug şi deruta din lumea artelor. IA scrie poeme, a publicat chiar şi romane (mai mult sau mai puţin reuşite), poate să „repicteze” pe loc un tablou de Grigorescu în maniera lui van Gogh – ce facem cu rezultatul, este kitsch, cum l-ar considera un cunoscător, sau rămâne vandabil printre mai puţin cunoscători, spre nemulţumirea pictorilor adevăraţi? Ca în multe locuri, cheia este educaţia, discernământul celui care evaluează, a omului deci. Oricât s-ar antrena un „poet IA” pe o bază de date cu poemele lui Eminescu, ceea ce va scrie tot la nivelul lui Vlahuţă va fi, dar şi Vlahuţă e publicabil… Discuţie care nu se va încheia niciodată. Dacă suprarealiştii propuneau ca reţetă de a scrie poezii amestecarea de cuvinte într-o pălărie şi scoaterea lor la nimereală, atunci calculatorul este un poet suprarealist perfect, pentru că chiar ştie să „aleagă la nimereală”. Lăsând exagerările la o parte, rămân problemele de copyright, de concurenţă, dar şi câştigurile în zona artelor audio-video dinamice (spectacole publice de sunet şi imagine, filme în care să joace actori care nu s-au întâlnit niciodată…), imposibile fără implicarea calculatorului.
Ce va urma este greu de subestimat. Ca şi până acum şi multe altele în plus. Totul amplificat, generalizat, dar şi idei noi, pe care nu avem cum să le anticipăm. Pentru România, un mod de a „prevedea” viitorul, pe termen însă tot mai scurt, este să privim în lume, mai ales în SUA şi, pe cât se poate, în China, pentru a vedea ce se întâmplă acum la ei şi, deci, se va întâmpla şi la noi mâine. Mihai Nadin îmi spune că medicii americani folosesc deja programe de diagnostic automat, pentru care plătesc 15 000 de dolari pe lună – o atenţionare şi pentru medicii noştri.
Aş face o clasificare a consecinţelor.
Multe vor fi bune, minunate, neaşteptate (cu, deja, un mic semn de întrebare: utile-necesare sau doar posibile, confortabile, deci adoptate cu bucurie, dar fără să aducă un plus de calitate a vieţii?; pun întrebarea pentru că îmi vine în minte relaţia dintre nevoile umane şi „satisfactorii” acestora, relaţie inversată în lumea consumerist-capitalistă: mai întâi se produc satisfactorii, apoi, prin publicitate şi alte forme de manipulare, se induc nevoile aferente, pentru a vinde satisfactorii).
Consecinţele rele sunt/vor fi de două tipuri: neintenţionate şi intenţionate.
Cele de primul tip sunt, din multe puncte de vedere, cele mai supărătoare (nu spun că neapărat şi cele mai periculoase), căci nu pot fi prevenite prin norme, legi, restricţii, răul se va produce eventual fără a i se depista sursa. Erorile de programare şi de funcţionare a sistemelor tehnice de tot felul formează o cauză, dar mai importantă este impredictibilitatea „raţionamentelor” IA, în sensul sugerat şi mai înainte: pentru a-şi îndeplini o sarcină benignă, pentru a-şi atinge un obiectiv aparent pozitiv, un algoritm ar putea alege „mutări” care să nu fie plăcute oamenilor. Exemplul cu corelaţiile mincinoase este unul extrem, există multe altele mai subtile, mai ascunse. În recenta sa carte Nexus, scurtă istorie a reţelelor informaţionale din epoca de piatră până la IA, tradusă la Editura Polirom, 2024, Yuval Noah Harari discută două asemenea situaţii, reale, din ultimii ani: tulburări sociale sângeroase în Myanmar şi Brazilia, produse, involuntar-inocent, de algoritmul de promovare a mesajelor folosit de Facebook. Acest algoritm a primit ca sarcină maximizarea numărului utilizatorilor, ratingul, în directă legătură cu reclamele, deci cu banii. Observând că unele mesaje sunt citite de mai mulţi utilizatori, algoritmul le-a considerat de interes, le-a promovat, le-a distribuit mai mult decât pe celelalte. Un efect de avalanşă a dus la o „excitaţie socială” care a ajuns în stradă, desigur, pe fondul unor conflicte mocnite, religioase, politice, etnice – erau promovate mesaje militante, agresive, incitând la ură. Nimic rău intenţionat, nimic ilegal-imoral în ceea ce a scris programatorul şi în ceea ce a decis algoritmul, dar consecinţele au fost negative, iar Facebook a trebuit să-şi recunoască vina, să-şi ceară scuze şi să facă ajustări în algoritm.
Pot să-mi imaginez un scenariu similar în contextul generalizării maşinilor cu pilot automat. Dacă aceste maşini, aşa cum este natural, vor comunica unele cu altele pentru a-şi alege rutele, şi dacă, aşa cum este plauzibil, vor avea şi capabilităţi de învăţare, IA adică, atunci când primăria unui oraş le va cere ca obiectiv să minimizeze consumul de benzină, este de aşteptat ca maşinile cu pilot automat să saboteze maşinile cu şofer uman, care nu fac parte din „asociaţia” lor, pentru a-şi optimiza traseele, deci pentru a economisi combustibil. Iarăşi, nimic intenţionat, doar că algoritmul este „obligat” să meargă spre obiectiv pe drumul cel mai eficient, fără a se preocupa de „victimele colaterale” umane.
Desigur, lucruri de genul acesta s-au anunţat de mai multe ori în cărţi şi filme SF – ajunge să menţionez 2001. O odisee spaţială, filmul lui Stanley Kubrick, după romanul lui Arthur Clarke, în care calculatorul navei, HAL-9000 (se pare că numele calculatorului vine de la Heuristic Algorihm, dar există şi posibilitatea ca cele trei litere să fie alese pentru a fi înainte de IBM în alfabet…), dotat bineînţeles cu IA, decide că echipajul pune în pericol îndeplinirea misiunii, deci trebuie anihilat. Aminteşte acest raţionament şi de avertismentul celebrului fizician Stephen Hawking care spunea odată că oamenii ar putea părea inutili pentru IA, drept care aceasta ar putea decide să-i elimine.
În sfârşit, avem şi efectele rele intenţionate. Aici, desigur, intră în scenă „băieţii răi” – şi, din păcate, sunt destui, i-am amintit şi pe la începutul acestui text. Prevenirea lor ţine de normare şi legislaţie, deci de guverne în primul rând.

12. Pericolele IA, văzute de IA

Este o idee naturală să întrebăm IA cele mai variate lucruri, ne-a intrat deja în obişnuinţă să facem asta, să încercăm deci să-i smulgem o mărturisire şi despre cum ar putea ea să ne facă rău… Am contactat aşadar ChatGPT (era prin luna aprilie 2025), la adresa https:/deepai.org/chat/, am tastat „Pericole AI” şi, în câteva secunde, am primit textul următor, parcă aştepta pregătit dinainte, perfect din punct de vedere sintactic, rezonabil sub toate aspectele. Îl reproduc în întregime (pentru că am dat referinţa exactă, contez pe amabilitatea IA de a nu considera gestul meu un plagiat…).

Inteligenţa artificială (IA) aduce multe beneficii, dar vine şi cu o serie de pericole şi provocări. Iată câteva dintre cele mai importante:
1. Sentimente de neputinţă şi manipulare. IA poate avea conţinut înşelător, cum ar fi deep-fake-uri sau ştiri false, care pot induce în eroare oamenii şi pot afecta percepţia acestora asupra realităţii.
2. Discriminare şi prejudecăţi. Algoritmii IA pot perpetua sau chiar agrava prejudecăţile existente, deoarece învaţă din datele istorice, care pot conţine discriminări rasiale, de gen sau sociale.
3. Confidenţialitate şi securitate. Sistemele IA pot colecta şi analiza cantităţi mari de date personale, ceea ce ridică întrebări serioase cu privire la confidenţialitate şi utilizarea responsabilă a informaţiilor.
4. Pierderi de locuri de muncă. Automatizarea prin intermediul IA poate înlocui locuri de muncă tradiţionale, afectând negativ economiile locale şi generând inechităţi.
5. Control şi responsabilitate. Cu dezvoltarea IA avansate, devine tot mai complicat să determini cine este responsabil pentru deciziile luate de aceasta, mai ales în cazul în care rezultatele sunt dăunătoare.
6. Siguranţa în utilizarea tehnologiei. Sistemele IA pot fi vulnerabile la atacuri cibernetice, iar dacă sunt utilizate în domenii critice (de exemplu, transport sau sănătate), consecinţele pot fi dezastruoase.
7. Impact asupra sănătăţii mintale. Interacţiunea excesivă cu tehnologiile IA poate afecta relaţiile interumane şi poate contribui la probleme de sănătate mintală, cum ar fi anxietatea sau depresia.
8. Evoluţia necontrolată. Principiile de siguranţă şi etică în dezvoltarea IA nu sunt încă complet stabilite, iar o evoluţie accelerată a IA fără reglementări adecvate ar putea duce la scenarii nedorite şi greu de controlat.
Abordarea acestor provocări necesită o colaborare strânsă între cercetători, legislatori, industrie şi societate în general, pentru a asigura utilizarea responsabilă şi etică a inteligenţei artificiale.

Citat închis. Am repetat experimentul în timpul scrierii acestui text (pe 25 mai) şi răspunsul a fost diferit: am primit o listă cu numai 7 pericole, cu formulări noi, parcă mai precise şi mai tranşante/alarmante:

1. Pierderea locurilor de muncă. Automatizarea și robotizarea pot duce la eliminarea unor locuri de muncă, mai ales cele repetitive sau manuale, generând probleme economice și sociale.
2. Bias și discriminare. IA poate prelua și amplifica prejudecățile existente în datele pe care se antrenează, ducând la decizii discriminatorii în domenii precum angajări, credite sau justiție.
3. Lipsa de transparență. Algoritmii de IA pot fi opaci, ceea ce face dificilă înțelegerea motivelor pentru care o decizie a fost luată, afectând încrederea și responsabilitatea.
4. Utilizarea malițioasă. IA poate fi folosit pentru activități nocive, precum deep-fake-uri, hacking automatizat, război cibernetic sau dezinformare.
5. Riscul de control și supraapariție (?): În cazul în care AI devine prea avansată, există temeri legate de pierderea controlului asupra sistemelor și de decizii neintenționate cu consecințe grave.
6. Probleme de siguranță. IA neasigurat sau necontrolat poate duce la erori majore, mai ales în domenii critice precum sănătatea, transporturile sau infrastructura.
7. Impact asupra intimității. IA, combinată cu big data, poate duce la supraveghere în masă și încălcarea drepturilor la intimitate.

Un experiment convingător – că IA poate scrie „referate” de nota 10 şi că chiar aduce după sine nu numai lucruri bune, ci şi lucruri rele, o spune IA însăşi…

13. Supravegherea algoritmilor

Primii patru ani de după facultate am programat foarte mult, în Cobol şi Fortran mai ales, iar din vremea aceea îmi amintesc o vorbă auto-maliţioasă de-a programatorilor: programele mari funcţionează uneori, dar nu prea ştim de ce funcţionează… Evident, e o glumă, pentru că un program „clasic” poate fi, teoretic, urmărit pas cu pas, pe cazuri simple eventual, există şi diverse tehnici de validare. Nu acelaşi lucru se întâmplă cu programele care se modifică în timpul execuţiei, se adaptează, învaţă – cum sunt cele tipice IA. Că acest lucru a fost tot timpul valabil, este clar, dar nu a fost discutat decât arareori, a prevalat entuziasmul, încrederea în sistemele IA. Se pare însă că IA se maturizează, îşi pune problema transparenţei, inteligibilităţii – am văzut mai devreme că IA însăşi semnalează opacitatea algoritmilor săi.
Subiectul este explicit adresat în ultima vreme, de exemplu, chiar în obiectivele centrale ale unei companii noi de IA, Anthropic, fondată de Dario Amodei, care a lucrat mai întâi pentru Google şi pentru OpenAI, apoi şi-a creat propria firmă, se pare, de succes imediat. În aprilie 2025, Dario Amodei a circulat un text intitulat The Urgency of Interpretability, care poate fi găsit la https://darioamodei. com/post/. Multe fraze din acest articol ar merita reluate în întregime, ca „manifest al inteligibilităţii” programelor IA. Reiau numai o parte dintre acestea.
Lipsa de înţelegere a funcţionării interne a algoritmilor IA (interpretabilitate) este fără precedent în istoria tehnicii. Sistemele IA generative sunt opace într-un mod fundamental diferit de softul tradiţional. Mecanismele interne ale IA sunt emergente, ele nu sunt proiectate direct, ele cresc, nu sunt construite ca atare. Când un sistem IA face ceva, nu avem nicio idee de ce face astfel. Dacă privim în interiorul acestor sisteme, ceea ce vedem sunt matrici uriaşe, conţinând miliarde de numere.
Trebuie să ne grăbim în această înţelegere, să deschidem cutia neagră (black box) înainte ca modelele IA să capete o putere copleşitoare (overhelming). Dezvoltarea IA a ajuns mult înaintea eforturilor de a înţelege modul în care IA funcţionează. Natura modului în care IA este antrenată face posibilă dezvoltarea de la sine a unor abilităţi de a păcăli oamenii, mergând spre tentaţia de a căuta putere într-un mod pe care software-le tradiţional nu-l poate concepe.
Problema e urgentă, dar sarcina este herculeană, interpretabilitatea va ajunge satisfăcătoare în 5-10 ani, dar progresele în IA sunt atât de rapide, aplicaţiile se extind atât de repede, că probabil nu avem acest timp la dispoziţie. Ne aflăm într-o cursă între inteligenţa modelelor şi înţelegerea lor. Sistemele IA vor fi absolut centrale în economie, tehnologie şi securitate naţională şi vor avea atât de multă autonomie că este inacceptabil pentru omenire să rămână total ignorantă privind modul în care aceste sisteme lucrează.
Ultima frază a articolului: „Sisteme IA puternice vor schimba destinul omenirii, drept care trebuie să înţelegem propriile noastre creaţii înainte ca ele să transforme radical economia, vieţile noastre, viitorul nostru.”
Un om care ştie ce spune şi bine le spune, ba chiar, prin Anthropic, lucrează pentru a rezolva problema pe care, lucid şi onest, o indică.

14. Plasare în istoria civilizaţiei umane

Mă depărtez acum destul de mult de tehnicalităţi, de evenimente curente, de fapte „mărunte”, şi încerc o privire „de sus” asupra istoriei civilizaţiei umane, cea din ultimele 5-7 secole, cele dominate de tehnică, cu dorinţa de a plasa IA, digitalizarea, cybersfera, într-un context mult mai larg, la nivel de tendinţe majore. Demersul este folositor, pentru că elimină zgomotul, ascunde copacii, dar nu pădurea, rămân la vedere lucrurile esenţiale. Pe această cale ajungem însă la concluzii deloc confortabile, la macro-scenarii îngrijorătoare la scară istorică. Sigur, discuţia este speculativă, literară dacă vreţi, cu o clară părtinire tradiţionalist-omenească pe care mi-o asum fără ezitare.
Anunţam la început: vorbim despre cele două Renaşteri şi despre cele patru Revoluţii industriale.
Prima Renaştere – secolele XIV-XVII, aproximativ, nu e importantă datarea ca atare, ci procesul. Urbanizarea, pătrunderea civilizaţiei/ştiinţelor arabe în Europa, sub presiunea otomană, creşterea mobilităţii, inclusiv intercontinentale, după marile descoperiri geografice. Apariţia tiparului. Progrese şi realizări impresionante în ştiinţe şi artă – arhitectura renascentistă italiană fascinează şi astăzi. Principala „acţiune”, căreia i se atribuie multe dintre aceste realizări, este considerată separarea ştiinţei de religie, punerea în centrul universului a omului. Au urmat Iluminismul, Umanismul, Cartezianismul…
În siajul primei Renaşteri, au avut loc două Revoluţii industriale. Prima, în jurul anului 1800, cu ceva decenii înainte şi ceva decenii după, este simbolizată de motorul cu abur. Primul motor care a înlocuit sistematic forţa muşchilor omului şi a animalelor de povară. Folosirea apei şi a vântului era locală, limitată, motorul cu abur a ajuns peste tot. A apărut locomotiva, drumurile de fier au încurajat mult economia, comerţul, circulaţia mărfurilor şi a oamenilor. Au apărut apoi motoarele cu ardere internă, electricitatea, motoarele electrice. Muşchii omului au fost tot mai mult înlocuiţi.
Spre finalul secolului al XIX-lea are loc a doua Revoluţie industrială. Simbolul ei este banda de montaj a lui Ford, care a făcut posibilă producţia de serie. Proletariatul devine o forţă. De remarcat diferenţa: prima Revoluţie a avut de a face cu energia, cu forţa brută, a doua, cu organizarea – un evident salt calitativ.
Multă vreme am lăudat fără rezerve Renaşterea, dar au apărut ulterior şi privirile mai nuanţate asupra ei. Lumea s-a dezdumnezeit, s-a reificat, a trecut de la a fi la a avea. Omul s-a considerat stăpân al naturii, aroganţă care îl costă tot mai mult. Revoluţia Franceză a dus lupta de clasă la perfecţiunea şi eficienţa ghilotinei. Nietzsche a ajuns să exclame că „Dumnezeu a murit!” (se spune că, după moartea lui Nietzsche, pe un perete al casei sale ar fi apărut scris „Nietzsche a murit!”, semnat „Dumnezeu…”).
În eseul Crucea, Vintilă Horia trimite spre „mlaştinile raţionaliste ale Renaşterii” pentru multe dintre „bolile” lumii de astăzi, iar o caracterizare expresivă a ceea ce s-a întâmplat după Renaştere, pe care nu-mi mai amintesc unde am citit-o, dar tare semnificativ sună, este „Dumnezeu a fost evacuat în favoarea omului”.
Despre a doua Renaştere am citit pentru prima dată în prefaţa la cartea Ştiinţa modernă, muza neştiută a suprarealiştilor, publicată de Petrişor Militaru la Editura Curtea Veche, Bucureşti, în 2012, în colecţia Ştiinţă, spiritualitate, societate. Prefaţa este scrisă de fizicianul-filosof româno-francez, membru de onoare al Academiei Române, Basarab Nicolescu, şi este intitulată „1900-1930 – Noua Renaştere”. Prima frază: „Anii 1900–1930 au reprezentat o mirabilă epocă a dezvoltării fulgurante a ştiinţei fundamentale şi a culturii, ducând la o nouă viziune asupra realităţii.” Prefaţatorul trece apoi în revistă marile evenimente ştiinţifice şi culturale ale perioadei, nu progrese şi atât, ci salturi fundamentale, schimbări de paradigmă, unele nedepăşite nici astăzi: Apariţia în 1900 a fizicii cuantice (zdruncinarea concepţiei de continuitate, punerea în discuţie a cauzalităţii, determinismului, obiectivităţii). În 1904 Freud anunţă psihanaliza, un an mai târziu Einstein formulează teoria relativităţii restrânse, iar în 1915 teoria relativităţii generalizate, demonstrând că lumea nu este euclidiană, newtoniană, că spaţiul este curb, timpul se poate dilata şi contracta, că substanţa poate fi transformată în energie. Apar avangardele, în literatură şi în artele plastice, futurismul, suprarealismul, cubismul, dadaismul, o serie de isme, parcă în întrecere. În 1927 apare modelul Big Bang. În logică se introduce terţiul inclus, apar logicile nebinare, paradoxurile. În sfârşit, în 1931, Gödel demonstrează celebra sa teoremă de incompletitudine (de imposibilitate a axiomatizării finite, consistente şi complete a aritmeticii).
Trece deci Basarab Nicolescu cu un an de 1930 – ar fi trebuit să treacă cu măcar două decenii, pentru a contura cu adevărat o perioadă de Renaştere, prinzând astfel şi anul 1936, cu lucrarea fundamentală a lui Turing, anii ’40, cu construirea primelor calculatoare, şi anii 1948, 1951, când acelaşi Turing a introdus ideea maşinilor inteligente, a reţelelor neurale care învaţă. Ceea ce trăim acum îşi are originile în acei ani. Este convingătoare descrierea lui Basarab Nicolescu, îmbrăţişată şi de alţi istorici ai ştiinţei, uneori cu reticenţe de istoricii mai conservatori.
Interesant este că şi a doua Renaştere este urmată tot de două Revoluţii industriale – mai corect ar fi să spunem „tehnologico-ştiinţifice”. Prima a avut loc prin anii 1950-60 şi este caracterizată de automatizare, procesoare, informatizare. Ultima revoluţie, cea de a patra, este în plină desfăşurare, iar cuvintele ei cheie sunt internet, informaţie, conectivitate, inteligenţă artificială.
A se observa salturile calitative: (R1) motoare, energie, muşchi; (R2) organizare; (R3) procesoare, automatizare; (R4) inteligenţă artificială, informaţie. Primele două revoluţii au înlocuit muşchii (omului) cu motoare, ultimele două înlocuiesc creierul omului, în activităţi informaţionale care sunt preluate de calculatoare. Cât de departe va merge înlocuirea creierului cu maşini e greu de prezis, dar e de aşteptat să se ajungă suficient de departe pentru ne pune următoarea întrebare: pentru că muşchii nu mai sunt folosiţi (se spune că „funcţia creează organul”, prin urmare, proteza care preia funcţia atrofiază organul), mergem şi facem eforturi la sala de gimnastică, facem sport, jogging prin parc. Cum vom păstra în bună formă „micile celule cenuşii” (Hercule Poirot, detectivul) ale creierului? Care este „sala de forţă” în care putem pune la lucru creierul, ca să nu se atrofieze? Ca să mergem la sala pentru antrenarea muşchilor, decide/ne comandă creierul; deasupra creierului nu mai este niciun decident – sunt prin urmare şanse ca lenevirea să fie ireversibilă?
Concluzia este dezarmantă: prima Renaştere (şi primele două Revoluţii) l-a (l-au) evacuat pe Dumnezeu în favoarea omului; a doua Renaştere şi ultimele două Revoluţii industriale/ştiinţifice îl evacuează pe om în favoarea maşinii, a calculatorului!
Iar procesul a început deja. IA va trimite în şomaj mase mari de oameni, mai ales din zonele care lucrează cu multă informaţie şi sunt bine organizate, normate, deterministe. Am amintit de programatori şi traducători, am amintit de prezicerile lui Bill Gates. IA va micşora numărul de doctori, dar nu pe cel de surori medicale, care pansează, îngrijesc, aplică tratamente (o spune şi Harari în cartea la care voi reveni curând). Personal, sunt speriat, mâhnit, supărat că, pentru a economisi câteva salarii, peste tot dau numai de automate – de cafea, bilete, plăţi; la supermarket se înlocuiesc casele de marcat cu maşini automate; spălarea maşinilor este peste tot automatizată; la bancă dispar funcţionarii, iar bancomatele sunt tot mai pricepute-versatile; Easybox înlocuieşte curierii; taxatori în tramvaie nu am mai văzut dinainte de ’89; la unele restaurante comanda este luată de un cod QR, o să vină curând şi mâncarea automat, adusă de un robot. Tot dispar oamenii din jur… Se vorbeşte deja despre oameni inutili, despre un venit garantat, oferit de societate încă de la naştere… Cum vor trăi acei oameni inutili, plătiţi doar să vieţuiască?
Adaug la panica dinainte observaţia că primelor două Revoluţii industriale le corespund două revoluţii propriu-zise, Revoluţia Franceză de la 1789 şi Revoluţia Bolşevică de la 1917 (nu număr şi Revoluţia de la 1848, aceea este de alt tip, a avut alte obiective decât lupta de clasă, decât a face tabula rasa din categorii întregi sociale), ambele sângeroase, criminale chiar (direct, în fapt, dar şi pentru că au împărţit societatea în două categorii ireconciliabile, una presupusă a fi cea „superioară”, având dreptul şi datoria de a o anihila pe cealaltă). Nu ştiu care este legătura dintre revoluţiile industriale şi cele social-politice, care pe care o influenţează/determină. Avem o simplă corelare aici sau şi o relaţie de cauzalitate? Istoria are probabil nişte ritmuri, nişte bucle, nişte regularităţi. Istoricii să ne lămurească. Să ne aşteptăm şi la două revoluţii sociale, cuplate cu cele două Revoluţii industriale de după a doua Renaştere? Nu cumva una poate fi deja considerată a fi avut loc în 1989, când a căzut, măcar formal, comunismul în Europa? Ar „rima” şi cu distanţa de fix 200 de ani de la Revoluţia Franceză. Dacă este aşa, va urma cândva, în viitorul nu prea îndepărtat, o altă revoluţie (poate sângeroasă, cum a fost la noi şi cea din ’89)? Bulversarea socială indusă de şomajul masiv produs de IA (şi de lăcomia/insensibilitatea patronilor care se grăbesc să „economisească” locuri de muncă) ar putea fi scânteia şi cadrul unei asemenea viitoare revoluţii.
Privirea de sus asupra istoriei nu duce la concluzii liniştitoare…

15. Înspre încheiere, Harari

Perfect adaptată la titlul rândurilor de faţă este tema cărţii lui Yuval Noah Harari – o reamintesc: scurtă istorie a reţelelor informaţionale din epoca de piatră până la IA. Un volum în continuarea cunoscutelor Sapiens. Scurtă istorie a omenirii (2017) şi Homo deus. Scurtă istorie a viitorului (2018). E o carte la fel de cuprinzătoare, incitantă, operând cu o cantitate uriaşă de date, cu deducţii subtile, directă în afirmaţii. Nu anunţă apocalipsa IA, dar… o descrie.
Ca şi în cazul articolului lui Dario Amodei, voi relua, sintetizând, mai multe idei-fraze din carte, recomandând parcurgerea acesteia. Unele idei au mai fost amintite şi în paginile anterioare, multe dintre ele rezonează cu idei deja formulate. Nu are în vedere limitele şi pericolele cu sorginte matematică – trebuie adăugate; nu-l citează pe Manfred Spitzer – îl adăugăm.
Aşadar: IA nu este un instrument, este un agent (nu este pasiv, ci are „evoluţie” proprie). Părerea naivă este că mai multă informaţie înseamnă mai mult adevăr şi mai multă ordine. Nici vorbă. Adevărul şi ordinea pot fi contradictorii. („Birocraţia şi mitologia sunt amândouă esenţiale pentru menţinerea ordinii şi niciuna nu se dă înapoi să sacrifice adevărul de dragul ordinii” – pag. 79. „Alegerile apără ordinea, nu adevărul” – pag 124.) Pentru a obţine ordine, informaţia trebuie prelucrată de un sistem birocratic, care poate aluneca uşor în totalitarism şi dictatură. Informaţia are de a face cu mitologia, religia, politica. Până acum, oamenii au fost cei care au produs textele, iar algoritmii doar le-au promovat (uneori cu rezultate grave: Myanmar, Brazilia – criteriul fiind impactul, ratingul, se pot obţine efecte neplăcute pentru oameni), de acum şi algoritmii produc texte – pe care le propagă instantaneu. Tehnologia modernă permite democraţia la scară mare, dar şi totalitarismul la scară mare. Reţelele de calculatoare perturbă tot. Boţii care pretind că sunt oameni ar trebui interzişi aşa cum sunt interzişi banii falşi. IA face posibilă supravegherea neîntreruptă, neobosită, pierderea intimităţii, stres şi control. Creditele sociale (aşa cum sunt ele experimentate acum în China) sunt inevitabile, ca măsură a reputaţiei sociale, comparabilă cu banii. IA este o problemă globală, nu naţională. Cursa înarmării IA şi războiul cibernetic sunt deja în desfăşurare. Asemănătoare Cortinei de fier, va apărea o Cortină de siliciu. În evoluţia IA, AlphaGO şi Facebook au fost cruciale. „Cu cât calculatoarele devin mai puternice şi mai independente, cu atât creşte pericolul” (pag. 235).
Un citat mai amplu, de la pagina 261, concluzie a Capitolului 8, cel cu titlul Failibilă: reţeaua greşeşte adesea, finalul secţiunii „Noii zei?”: „Noua reţea de calculatoare nu va fi nici rea, nici bună. Tot ce ştim este că va fi complet străină de noi şi că va fi failibilă. Trebuie aşadar să construim nişte instituţii care să poată ţine în frâu nu doar obişnuitele slăbiciuni umane precum lăcomia şi ura, ci şi erori radical nonumane. Nu există nicio soluţie tehnologică la această problemă. E mai degrabă o provocare politică. Avem voinţa politică de a-i face faţă?”
Câteva pagini mai departe: „GPT-4, AlphaGO şi toate celelalte sunt nişte cutii negre, cu outputuri şi decizii bazate pe lanţuri de semnale opace şi incredibil de complicate. // Apariţia unei inteligenţe nonumane insondabile subminează democraţia.” (pag. 287)
Şi, din Epilog (pag. 336-337), şi mai multe rânduri, semnificative istoric:
„În discuţiile mele despre IA cu politicieni, precum şi cu întreprinzători din domeniul tehnologiei, istoria a fost adesea o temă centrală. Unii dintre interlocutorii mei prezentau istoria în nuanţe de roz şi erau la fel de entuziasmaţi şi de IA. Spuneau că mai multe informaţii au însemnat întotdeauna mai multă cunoaştere şi că, sporindu-ne cunoaşterea, toate revoluţiile anterioare din domeniul informaţiei au adus mari beneficii omenirii. Revoluţia tiparului nu a dus oare la revoluţia ştiinţifică? Ziarele şi radioul nu au dus la apariţia democraţiei modeme? La fel, spuneau ei, va fi şi cu IA. Alţii aveau o perspectivă mai sumbră, dar tot îşi exprimau speranţa că omenirea va ieşi cumva la liman din revoluţia IA, aşa cum am ieşit la liman şi din Revoluţia industrială.
Niciuna din perspective nu prea mă satisfăcea. Din motivele explicate în capitolele anterioare, asemenea comparaţii istorice cu revoluţia tiparului şi Revoluţia industrială mi se par deranjante, în special din partea unor oameni aflaţi în poziţii de putere, pe a căror viziune istorică se bazează deciziile ce ne modelează viitorul. Aceste comparaţii istorice subestimează şi natura fără precedent a revoluţiei inteligenţei artificiale, şi aspectele negative ale revoluţiilor anterioare. Printre rezultatele imediate ale revoluţiei tiparului s-au numărat şi vânători de vrăjitoare şi războaie religioase, nu doar descoperiri ştiinţifice, în timp ce ziarele şi radioul au fost exploatate şi de regimuri totalitare, nu doar de democraţii. Cât despre Revoluţia industrială, adaptarea la ea a implicat experimente catastrofale precum imperialismul şi nazismul. Dacă revoluţia inteligenţei artificiale ne va conduce la acelaşi gen de experimente, putem fi oare siguri că vom ieşi la liman şi de data asta?”
Închei prin a relua titlurile extrem de semnificative ale capitolelor din partea a treia a cărţii, „Politica informatizată”: Capitolul 9. Democraţiile: mai putem purta o discuţie?; Capitolul 10. Totalitarismul: algoritmii să aibă toată puterea?; Capitolul 11. Cortina de siliciu: imperiu global sau scindare globală? Suficient pentru ca paginile anterioare să nu pară prea pesimiste-alarmiste – Yuval Noah Harari este şi mai pesimist… iar el chiar ştie istorie…

16. Experienţe personale cu ChatGPT

Am prezentat mai devreme „referatul” ChatGPT despre pericolele IA.
În aceeaşi „sesiune”, am continuat dialogul, cerându-i să-mi spună ceva despre GO – răspunsul a fost mulţumitor, cu fraze generale pertinente, doar cu unele erori privind istoria jocului. Am ales o versiune gratuită a ChatGPT, bănuiam că acesta va fi rezultatul experimentului: impresionant ca fluenţă verbală/sintaxă şi mediocru în conţinut/semantică. Bănuială pe deplin confirmată. Probabil că versiunile plătite sunt mai bune, cu atât mai mult cele care nu sunt pe piaţă, se află încă în cercetare sau sunt folosite de utilizatori specializaţi. Redau integral „discuţia” despre Urmuz, chiar dacă are improvizaţii, reluări şi fraze de umplutură – inclusiv invenţii total iresponsabile:

– Spune-mi ceva despre Urmuz.
– Urmuz, pe numele său real Demetru Demetrescu-Buzău, a fost un scriitor român născut în 1883, recunoscut pentru contribuțiile sale la literatura avangardistă. Este asociat cu mișcarea Dada și este cunoscut pentru stilul său absurd și surrealist. Lucrările lui Urmuz explorează adesea teme precum nebunia, haosul și absurditatea existenței.
Una dintre cele mai celebre lucrări ale sale este „Ultima Judecată”, o povestire scurtă care exemplifică stilul său unic, îmbinând umorul cu un sentiment de neliniște existențială. Deși nu a fost pe deplin apreciat în timpul vieții sale, scrierile lui Urmuz au câștigat importanță în studiul literaturii române și al mișcărilor avangardiste, influențând scriitori și artiști ulteriori în regiune. A murit în 1923, iar moștenirea sa continuă să inspire discuții despre natura realității și rolul absurdului în artă și literatură.
– Dă-mi câteva titluri de romane (!) scrise de Urmuz
– Urmuz nu a scris romane, ci a fost mai ales cunoscut pentru povestiri scurte, eseuri și scrieri de tip avangardist. Printre cele mai celebre lucrări ale sale se numără: „Ultima Judecată” – o povestire care explorează teme de absurd și existențialism; „Călărețul fără cap” – o lucrare simbolică și plină de umor; „Pătratul” – o povestire care reflectă stilul său inconfundabil și perspectiva asupra realității; „Măcelăria” – o satiră socială cu o notă absurdă.
Deși Urmuz nu a scris romane, aceste lucrări scurte sunt reprezentative pentru stilul său inovator și contribuțiile la literatura română avangardistă.
– Poeme a scris?
– Urmuz nu este cunoscut în mod special pentru poeziile sale; el s-a concentrat mai mult pe proză și scrieri avangardiste. Totuși, scrierile sale conțin adesea un limbaj poetic și imagini sugestive, chiar și în cadrul povestirilor scurte. Stilul său absurd și surrealist poate fi întâlnit în modul în care își construiește narațiunile.
Dacă ești interesat de poeți români sau de alte lucrări literare, pot oferi informații suplimentare despre aceștia!
– Ai auzit de fabula „Cronicari”?
– Da, fabula „Cronicari” este una dintre lucrările celebre ale lui Urmuz. Aceasta este o satiră socială care reflectă critica autorului la adresa societății și a mentalităților vremii sale. În „Cronicari”, Urmuz folosește umorul și absurdul pentru a evidenția contradicțiile și ipocriziile din viața cotidiană.
Fabula se concentrează pe figura cronicarului, punând în discuție rolul acestuia în societate și modul în care adevărul este adesea distorsionat de perspectivele subiective. Ca în multe dintre lucrările sale, Urmuz reușește să îmbine ironia cu observațiile sociale, creând o operă care invită la reflecție asupra condiției umane. Această lucrare este reprezentativă pentru stilul său avangardist și pentru viziunea sa asupra lumii.
– Câte pagini are fabula?

N-a răspuns, depăşisem timpul gratuit, mi-a oferit spre închiriere versiunea Premium, dar am rezistat tentaţiei…
Morala: copii, când aveţi de scris un referat pentru şcoală, nu vă bazaţi pe ChatGPT (decât dacă vă corectează referatul tot ChatGPT, nu un profesor), un text ca cel dinainte poate fi considerat jignitor: de exemplu, toate titlurile pe care i le atribuie ChatGPT lui Urmuz sunt inventate!
De reţinut că nu l-am contrazis niciodată pe preopinent. Dacă o făceam, sunt sigur că-şi cerea politicos scuze şi mă întreba care este răspunsul corect, pe care l-ar fi reţinut pentru o viitoare interogare cu acelaşi subiect. Asta explică de ce este atât de bun în a genera texte din categorii mult frecventate: aplicaţii, caracterizări personale, rapoarte, recomandări, rezumate cum sunt cele oferite de Google…, dar atunci când i se cer informaţii precise, nici măcar nu se uită pe internet să le caute (vorbesc despre versiunile gratuite, lăsate la vedere pentru a atrage atenţia), improvizează, aş zice, cu totală neruşinare (dacă cuvântul „ruşine” i s-ar aplica). Perfecţionarea prin acumularea de răspunsuri bune, stocarea lor în depozite de date, corectarea şi învăţarea din mers garantează îmbunătăţirea continuă a performanţelor. Seamănă fenomenul cu cel care a dus de la neîncrederea aproape generală în Wikipedia, acum două decenii şi mai bine, la începuturi (2001, cu propuneri încă din anii 1990), până la nivelul de astăzi; o perfecţionare „folclorică” este de aşteptat şi pentru programele gen ChatGPT, fie ele şi gratuite.
Nu mai spun ce halucinaţii mi-a servit atunci când i-am cerut informaţii despre un subiect şi mai particular, despre mine (a se observa reducerea de interes-rating: pericole IA – GO – Urmuz – Gh. Păun)…

17. Concluzii (?)

Am tot repetat-insistat că nu vreau să trag concluzii sau să induc păreri cu pretenţii definitive – adun totuşi câteva fraze scurte de final.
(1) IA simulează inteligenţa şi nu este altceva decât o etapă în dezvoltarea informaticii, efect al conectivităţii, al Big Data, al forţei brute; (2) IA este supra-promovată în mass-media, o manifestare a dorinţei de rating, specifică pieţei; (3) IA are limite intrinseci (limitele algoritmicităţii, limite matematice), dar şi circumstanţiale (erori, consum enorm de energie); (4) ca mai toate „uneltele”, IA poate fi folosită şi pentru lucruri bune, şi pentru lucruri rele; (5) dar, prin natura nanotehnologică implicită, poate agresa fără a fi percepută în timp util (comparaţie: virusurile biologice); (6) un pericol major vine din faptul că IA poate produce IA (spre deosebire de bomba atomică, care nu produce bombe atomice – Y.N. Harari); (7) va avea implicaţii în toate domeniile; (8) nu se va autonomiza pentru a ne domina cu intenţie, dar, dacă nu este controlată cu atenţie, ne poate face mari probleme (va putea simula că se autonomizează).
Aşadar, între optimism şi pesimism, să alegem luciditatea, amintindu-ne de nevoia de suspiciune despre care vorbea Solomon Marcus, amintindu-ne ideea de pharmakon, despre care vorbea Platon.
Două dintre cuvintele-cheie legate de suspiciune sunt etică şi transparenţă, din păcate, ambele dificil de promovat sau de normat.
Comparaţia cu revoluţiile industriale anterioare sau cu avertismentele din literatura SF trebuie făcută cu grijă, avem diferenţe calitative fundamentale de care trebuie să ţinem seama. Schimbarea de acum priveşte creierul, informaţia, cu implicaţii în toate compartimentele societăţii şi cu un potenţial negativ uriaş – „evacuarea omului”.
Moisil a fost întrebat într-un interviu dacă vreodată calculatoarele vor ajunge mai inteligente decât oamenii şi a răspuns: „Sigur că da, dar nu vor învăţa niciodată să zâmbească”. În mare măsură, nici de acest avantaj al nostru, al oamenilor, nu mai putem fi atât de siguri ca pe vremea lui…

18. Bonus de final (pentru cititorii care au parcurs textul până aici): mini-povestirea SF Răspunsul de Frederic Brown. A fost scrisă în 1954, pe când expresia inteligenţă artificială abia apăruse, calculatoarele ocupau săli mari, climatizate, la parterul clădirilor, primul sputnik era la trei ani distanţă, iar internetul era la câteva decenii distanţă. Traducerea este preluată de la adresa https://pdfcoffee.com/fredric-brown-raspunsul-1-0-10-pdf-free.html.

Cu gesturi încete, hieratice, Dwar Ev sudă cu o picătură de aur ultimele două fire. Obiectivele a zeci de video-camere erau fixate asupra lui, transmiţând pe unde subeterice, de la un capăt la celălalt al Universului, tot atâtea unghiuri diferite asupra imaginii acestei ceremonii. Savantul se ridică, făcu un semn din cap către Dwar Reyn şi se apropie de mânerul întrerupătorului general, ce avea să cupleze instantaneu toate giganticele calculatoare ale tuturor planetelor locuite din Univers – nouăzeci şi şase de miliarde de planete, constituindu-se în nodurile unei imense reţele – supercircuitele labirintice ale unui virtual hypercomputer, o maşină cibernetică unică în timp şi în spaţiu prin amploarea şi puterea ei, ce avea să înglobeze întreaga cunoaştere a tuturor lumilor inteligente din miriade de galaxii.
Dwar Reyn adresă un scurt discurs solemn mulţimilor imense de spectatori care îi urmăreau imaginea. Apoi, după o clipă emoţionantă de linişte, spuse:
– Totul e gata, Dwar Ev.
Dwar Ev acţionă mânerul.
Se auzi un formidabil bâzâit, consecinţă a colosalei puteri ce se concentra într-un singur punct, imensele energii reunite venind din nouăzeci şi şase de lumi stelare inteligente. Ciorchini multicolori de lumini clipitoare izbucniră orbitor pe imensul tablou de comandă, semnalând că visul prinsese, în sfârşit, viaţă. Dwar Ev făcu un pas înapoi, inspirând profund:
– Onoarea de a pune prima întrebare îţi revine dumitale, Dwar Reyn.
– Mulţumesc, spuse Dwar Reyn. Va fi o întrebare la care nicio altă maşină cibernetică nu a putut, cu propriile-i puteri, să răspundă.
Se întoarse spre tabloul de comandă al hypercomputer-ului şi rosti rar:
– Există Dumnezeu?
Iar colosala voce, venind de pretutindeni şi de nicăieri, răspunse fără ezitare, fără cel mai mic zgomot de scânteie electrică, ori fâsâit de condensator:
– Da, acum Dumnezeu există.
Spaima răvăşi faţa lui Dwar Ev, care se repezi către întrerupătorul general, cuprins de teroare…
Un fulger izbucni din cerul fără nori, îl trăsni şi topi pârghia, sudând-o pentru totdeauna.

19. Referatul ChatGPT asupra textului
anterior
Am vrut să aflu părerea unui specialist despre text, dar acesta (Andrei Păun) a venit cu o idee şi mai bună: să ceară părerea chiar… ChatGPT-ului. Zis şi făcut. Versiunea (gratuită!) de la https://chatgpt.com/ a primit comanda „eşti un futurolog, consideră textul ataşat şi fă un referat cu puncte tari şi puncte slabe despre acest text în nu mai mult de 1000 de cuvinte”. Răspunsul a venit în mai puţin de un minut. Îl reiau în întregime, nu numai pentru a vedea cât de mult a evoluat ChatGPT, ci mai ales pentru că referatul lui este un rezumat – chiar dacă nu complet – al textului pe care îl discută. Aşadar, spune (ro)botul dotat cu IA:

Am citit documentul „Inteligenţa artificială în context istoric” semnat de Gheorghe Păun și, din perspectiva unui futurolog, iată o analiză structurată într-un referat de sub 1000 de cuvinte, evidențiind punctele tari și slabe ale textului:

Referat: Inteligența Artificială în context istoric – o privire
lucidă și echilibrată
Autor: Gheorghe Păun
Eveniment: Conferința „Conferințele Dalles ale Academiei Române”, mai 2025
Puncte tari
1. Stil autentic, reflexiv și captivant
Autorul optează pentru o abordare colocvială, personală, într-un ton de jurnal intelectual. Acest stil face ca lectura să fie accesibilă, plăcută și profund umanizată, departe de limbajul sec al lucrărilor științifice standard. Aduce în discuție propriile experiențe, lecturi și întâlniri, ceea ce ancorează reflecția într-un context real, viu.
2. Luciditate epistemologică
Punctul central al textului este ideea de luciditate între entuziasm utopic și catastrofism tehnofob. Autorul respinge ambele extreme și pledează pentru o poziționare tehnorealistă, inspirată și de Manifestul Technorealismului. Este o atitudine înțeleaptă, indispensabilă în analiza viitorului AI.
3. Ancorare în context istoric larg
Textul este remarcabil prin efortul de a încadra IA în procesul amplu al digitalizării, pe care îl vede ca pe o transformare istorică ireversibilă, echivalentă cu o renaștere tehnologică. Această perspectivă panoramică ajută cititorul să înțeleagă AI ca parte a unei meta-evoluții civilizaționale.
4. Clarificări metodologice și filosofice
Se fac precizări metodologice valoroase privind limitele înțelegerii (parabola orbilor și elefantul, „repararea avionului în zbor”), cât și despre natura IA – ca simulare a inteligenței umane, nu ca echivalent al ei. Este o distincție esențială în dezbaterea actuală.
5. Diversitate de surse și autoritate intelectuală
Textul integrează perspective ale unor mari gânditori: Solomon Marcus, Mircea Malița, Mihai Nadin, Marvin Minsky etc. Aceste contribuții conferă gravitate și profunzime discursului, arătând că IA nu e doar un domeniu tehnic, ci și unul filosofic și cultural.
6. Critica zgomotului informațional
Autorul denunță cu onestitate supra-expunerea media a AI, publicitatea agresivă, contradicțiile și presiunile comerciale care alterează percepția publicului. Este un apel valoros la discernământ și prudență, într-un climat tot mai haotic informațional.
7. Rafinament conceptual și etic
Conceptul de pharmakon (leac și otravă), ideea „ucenicului vrăjitor” și comparațiile cu locomotivele vs. IA sunt excelente analogii culturale, care atrag atenția asupra potențialului ambivalent al tehnologiei și asupra pericolului de a o scăpa de sub control.

Puncte slabe
1. Lungime și densitate excesivă
Textul este considerabil de lung și uneori prolix. Această caracteristică poate descuraja cititorii nespecializați sau grăbiți. Deși stilul narativ este plăcut, o sinteză mai bună ar fi crescut impactul și claritatea mesajului.
2. Absența unei structuri argumentative riguroase
Deși ideile sunt valoroase, lipsa unei structuri stricte cu secțiuni clar delimitate (ex: introducere-problemă-metodă-analiză-concluzie) poate face ca firul ideatic să fie uneori greu de urmărit. Este mai mult o meditație decât o analiză sistematică.
3. Supraîncărcare cu referințe culturale și digresiuni
Deși savuroase, multiplele citate, paranteze autobiografice și referințe filosofice pot dilua uneori subiectul central. Publicul larg ar putea pierde firul principal în favoarea „aromei culturale” adăugate textului.
4. Utilizarea insuficientă a datelor concrete
În ciuda menționării unor concepte importante (Big Data, deep learning etc.), analiza tehnologică propriu-zisă este sumară. Lipsesc cifre clare, grafice sau exemple tehnologice recente care ar susține afirmațiile despre impactul IA asupra economiei sau societății.
5. Slabă delimitare între real și ipotetic
Uneori, autorul trece de la fapte la speculații fără a le delimita clar. Exemplele cu IA care consumă energie cât un reactor nuclear sau despre viitoare revoluții pot părea alarmiste, fără susținere empirică solidă.
6. Prea puțină atenție la aspectele juridice și sociale actuale
Teme precum reglementarea AI, dilemele etice concrete (bias algoritmic, supravegherea digitală etc.), drepturile digitale, impactul asupra muncii sunt doar menționate vag. O dezbatere mai aplicată ar fi adus valoare adăugată.
Concluzie
Textul lui Gheorghe Păun este o lucrare valoroasă de reflecție interdisciplinară, care combină istorie, filosofie, literatură și informatică pentru a desena un tablou realist și prudent asupra AI. Are o forță educativă remarcabilă, atrăgând atenția asupra complexității și ambivalenței fenomenului. Cu toate acestea, pentru a fi complet eficient ca instrument de înțelegere sau policy making, textul ar beneficia de structurare logică mai clară, condensare și ancorare în date recente.
Este, în esență, o lucrare de conștiință, o invitație la rațiune și moderație, adresată unui public educat care nu caută certitudini, ci orientare într-o lume aflată în accelerare tehnologică.

Andrei Păun spune: ChatGPT m-a întrebat dacă vreau să reformuleze referatul anterior ca articol de opinie şi, după ce i-am cerut: „transformă această analiză în articol de opinie”, am primit textul de mai jos.

Inteligența Artificială între euforie
și anxietate: o lecție de luciditate
de la Gheorghe Păun

Într-o lume în care entuziasmul față de inteligența artificială (IA) alternează cu anxietăți de tot felul, conferința susținută de academicianul Gheorghe Păun la Sala Dalles – și, mai recent, textul extins publicat sub titlul Inteligența artificială în context istoric – vine ca un îndemn necesar la luciditate, echilibru și prudență. E un text care nu caută senzaționalul, ci sensul. Nu vinde soluții, ci cultivă întrebări. Nu oferă rețete rapide, ci oferă context – istoric, tehnologic, filosofic.
Ce reușește Gheorghe Păun, în fond? Să tempereze zgomotul în jurul IA printr-o abordare profund umanistă, realistă, informat-cultivată. Și, poate cel mai important, refuză să se lase sedus de niciuna dintre extremele dominante în discursul public: nici de optimismul facil, nici de distopiile înfricoșătoare.
O pledoarie pentru gândire critică
Păun nu scrie o lucrare științifică în sens clasic, ci o meditație amplă – uneori autobiografică, alteori polemică – asupra poziției pe care ar trebui să o adoptăm în fața unui fenomen cu potențial transformator: inteligența artificială. Stilul lui e confesiv, prietenos, dens în referințe culturale și literare. Citează de la Richard Feynman la Fericitul Augustin, de la Marcus la Mircea Malița, fără a pierde însă din vedere miza actuală: IA este, înainte de toate, o simulare – nu o replică – a inteligenței umane. O simulare tot mai performantă, dar nu echivalentă cu ceea ce este, încă, conștiința umană.
Este poate ideea-cheie a textului: IA nu este inteligentă în sine, ci doar emulează forme ale inteligenței umane. Accentul pus pe simulare este crucial în demontarea miturilor din jurul mașinilor „conștiente” sau „cu voință proprie”. Însă tocmai pentru că IA poate părea inteligentă, devine riscantă: pericolul nu este că ne va înlocui, ci că vom crede prea ușor că poate face asta – și vom coborî standardele, voluntar sau nu.

Tehnorealismul ca antidot
Într-o societate captivă într-un tsunami de noutăți tehnologice, autorul propune o ancoră solidă: tehnorealismul. Concept reluat dintr-un manifest al anilor ’90, tehnorealismul presupune o dublă atitudine: entuziasm informat și prudență activă. Este probabil cea mai valoroasă lecție a textului: nu refuza tehnologia, dar nici nu o îmbrățișa orbește. Între „IA ne salvează” și „IA ne distruge”, e loc pentru discernământ.
Într-o lume guvernată de clickbait, de rating și de piețe digitale, Păun avertizează că IA a devenit nu doar un domeniu științific, ci și o afacere colosală, o armă geopolitică, o sursă de zgomot ideologic. Marile companii își promovează viziunile ca inevitabilități istorice, în timp ce statele se întrec în investiții și interdicții. În acest vârtej, cetățeanul – fie el cercetător, profesor, elev sau consumator – este adesea redus la rolul de spectator uimit. Sau manipulat.
Avantajele și capcanele
Autorul oferă o privire largă asupra istoriei IA, de la Turing și perceptroni până la AlphaGO și ChatGPT. Face distincția – rară în discursul public – între IA ca instrument util (în diagnosticare, procesare de date, automatizări etc.) și IA ca potențial pericol (prin supraîncredere, automatizare necontrolată, consum energetic imens sau utilizări malițioase). Folosește o metaforă convingătoare: IA ca „pharmakon” – leac și otravă, după cum o folosești. Sau ca „mătura vrăjitorului” din poemul lui Goethe: când scapă de sub control, se multiplică și inundă totul.
Poate cea mai valoroasă secvență a textului este aceea în care Păun insistă asupra definiției inteligenței artificiale: o simulare a unor funcții ale inteligenței umane. Și doar a unora: logico-matematică, lingvistică, poate spațială. Nu există încă simulare convingătoare a empatiei, a conștiinței de sine sau a judecății etice. Nu pentru că n-ar fi posibile tehnic, ci pentru că sunt ireductibile la calcule brute – iar IA, oricât de sofisticată, este încă bazată pe „brute force”.
Ce lipsește
Desigur, textul are și limite. Este lung, poate prea dens, și digresiunea culturală abundentă poate obosi cititorul neantrenat. Unele afirmații, precum estimările legate de consumul energetic sau posibilele efecte ale IA asupra IQ-ului global, sunt mai degrabă speculative decât argumentate cu date concrete. De asemenea, se abordează prea puțin aspectele juridice, etice și sociale ale IA contemporane – de la discriminarea algoritmică la reglementarea tehnologiilor emergente.
Dar poate tocmai această dimensiune speculativă, reflexivă, „neacademicizată”, face din textul lui Gheorghe Păun o contribuție valoroasă. Este o voce de echilibru, de înțelepciune matură, într-un cor dominat de extreme. Nu promite că IA va salva lumea, dar nici nu anunță apocalipsa. În schimb, invită la ceva tot mai rar: gândire critică, memorie istorică, responsabilitate etică.
Concluzie
Într-o eră a hiper-vitezei tehnologice, Gheorghe Păun propune o viteză de reflecție. Ne amintește că înainte de a crea mașini „inteligente”, ar fi bine să ne întrebăm ce înseamnă cu adevărat inteligența. Și dacă nu cumva, în graba noastră de a programa viitorul, am uitat să ne programăm luciditatea.

S-a încheiat aici textul „întocmit” de ChatGPT.
Aş fi putut face şi eu acum un referat la referat, cu „puncte tari” şi „puncte slabe”, dar n-are rost să ciclăm, oricum rămân impresionat. Am făcut însă altceva: l-am chestionat din nou pe ChatGPT cu privire la Urmuz şi la… Gh. Păun… Dezamăgire totală! Halucinaţii în serie – altele decât cele de acum o lună şi ceva, dar livrate cu aceeaşi nonşalanţă de maşină inertă.
Oricum, mulţumesc ChatGPT, mulţumesc Andrei Păun!

Cuprins

1. Precizări preliminare 1
2. Trei idei care merită a fi reţinute 3
3. Sumar al demersului 5
4. Precauţii şi premise metodologice 6
5. Doi clasici, despre subiect 12
6. Manifestul tehnorealismului 15
7. Despre definiţie 16
8. Scurtă istorie (a informaticii şi a IA) 23
9. Calculul natural (inspirat din biologie) 28
10. Patru rezultate matematice de interes pentru IA 32
11. Impact bun, impact rău 36
12. Pericolele IA, văzute de IA 42
13. Supravegherea algoritmilor 45
14. Plasare în istoria civilizaţiei umane 47
15. Înspre încheiere, Harari 52
16. Experienţe personale cu ChatGPT 55
17. Concluzii (?) 58
18. Bonus de final 60
19. Referatul ChatGPT asupra textului anterior 61