De ce inteligența artificială nu este o amenințare pentru umanitate, ci o oportunitate uriașă

Gheorghe Tecuci
Profesor de informatică și director al Centrului pentru agenți care învață, Universitatea George Mason, SUA;
fost președinte de inteligență artificială, Centrul pentru conducere strategică, Colegiul de război al armatei SUA;
Membru al Academiei Române. http://lac.gmu.edu/; Gheorghe.Tecuci@gmail.com
Rezumat: A existat o mare agitație în legătură cu inteligența artificială, cu afirmații conform cărora
agenții inteligenti vor deveni mai inteligenți decât oamenii și chiar vor inlocui umanitatea. Vom arăta că
această teamă este nejustificată, că inteligența artificială diferă în mod fundamental de inteligența umană
și că acestea sunt complementare, inteligența artificială fiind mai bună la rezolvarea unor probleme unele
sarcini, dar incapabilă să rezolve altele care pot fi rezolvate de inteligența umană. Vom prezenta un model
de gândire critică care facilitează integrarea sinergică a raționamentului imaginativ al unui om cu
raționamentul critic al unei mașini, subliniind rolul unic și de neînlocuit al omului în rezolvarea
problemelor, limitat doar de imaginația noastră. Ca orice tehnologie nouă și puternică, inteligența
artificială vine cu riscuri și oportunități. Multe locuri de muncă umane vor fi îndeplinite de mașini, dar
toate acestea sunt locuri de muncă algoritmice, lăsându-le pe cele cu adevărat creative oamenilor. Cel mai
important, inteligența artificială ne poate ajuta să devenim gânditori critici mai buni, si sa păstram
democrația, care este cel mai bun sistem de guvernare.
Introducere
Inteligența artificială (IA) este domeniul științei și ingineriei care se ocupă cu teoria și practica
dezvoltării de sisteme care prezintă caracteristicile pe care le asociem cu inteligența în
comportamentul uman, cum ar fi percepția, procesarea limbajului natural, rezolvarea
problemelor și planificarea, învățarea și adaptarea.
Principalul obiectiv științific al IA este înțelegerea principiilor care permit un comportament
inteligent la oameni, animale și agenți artificiali. Acest obiectiv științific sprijină în mod direct
mai multe obiective inginerești, cum ar fi dezvoltarea de agenți inteligenți, formalizarea
cunoștințelor și mecanizarea raționamentului în toate domeniile de activitate umană, făcând ca
lucrul cu computerele să fie la fel de ușor ca lucrul cu oamenii și dezvoltând sisteme om-mașină
care să exploateze complementaritatea raționamentului uman și automat.
S-a făcut multă vâlvă în legătură cu inteligența artificială, cu afirmații potrivit cărora agenții de
inteligenți vor deveni mai inteligenți decât oamenii și chiar vor inlocui umanitatea. Recent,
peste 27.000 de persoane, inclusiv mai mulți directori din domeniul tehnologiei și cercetători
foarte reputați, precum Elon Musk, Steve Wozniak și Stuart Russell, au semnat o scrisoare
deschisă prin care solicită o pauză în antrenarea celor mai puternice sisteme de inteligență
artificială pentru cel puțin șase luni, din cauza „riscurilor profunde pentru societate și
umanitate”. Mai mulți lideri ai Asociației pentru Progresul Inteligenței Artificiale au semnat o
scrisoare în care solicită o colaborare pentru a aborda promisiunile și riscurile IA ( Durden,
2023 ).
Sunt unul dintre cei mai mari susținători ai inteligenței artificiale este probabil cea mai mare
realizare a minții umane. Am avut ocazia să interacționez cu unii dintre părinții fondatori ai IA,
inclusiv Herbert Simon (care a prezis viitorul mașinilor și importanța datelor și a câștigat
Premiul Nobel pentru economie pentru contribuțiile sale la teoria raționalității limitate) și John
McCarthy (care a inventat termenul „inteligență artificială”, a creat limbajul LISP și a inventat
programarea interactivă cu partajarea timpului). Am fost unul dintre coeditorii volumelor
clasice de Machine Learning, alături de unii dintre cei mai renumiti oameni de știință din
domeniul inteligenței artificiale, Tom Mitchell, Ryszard Michalski, Jaime Carbonell și Yves
Kodratoff. Mi-am dedicat viața profesională dezvoltării unei teorii generale a agenților care
învăța precum oamenii, prin exemple și explicații, numiti agenți Discipoli, pentru ca învață să
reproducă comportamentul de rezolvare a problemelor al profesorilor lor (a se vedea figura 1).
2
Figura 1: Cu Herbert Simon și Ryszard Michalski în sala de conferințe a Centrului de Inteligență Artificială,
Universitatea George Mason, 1991 (stânga sus). Prezentarea abordării Disciple lui John McCarthy în cadrul
Conferinței Asociației Americane pentru Inteligență Artificială, 2002 (sus, dreapta). Cărțile clasice de Machine
Learning publicate în 1983, 1986, 1989 și, respectiv, 1994 (mijloc). Disciple: A Theory, Methodology, and
System for Learning Expert Knowledge, teză de doctorat, 1988, și cărțile despre agenții instructibli, publicate în
1998, 2016 și, respectiv, 2024 (jos).
Ce poate și ce nu poate face un agent de inteligent
Există, într-adevăr, unele realizări foarte impresionante ale inteligenței artificiale, cum ar fi
Deep Blue (programul de șah al IBM care l-a învins pe campionul mondial Gary Kasparov),
AlphaGo, care joacă Go mai bine decât orice om, Watson de la IBM, care a învins cei mai buni
jucători de Jeopardy. Cel mai recent succes este ChatGPT ( Radford et al., 2019) care reprezintă
3
și integrează ceea ce a fost postat pe internet și poate răspunde la orice întrebare la care poate
răspunde Google. Face acest lucru „citind” o cantitate mare de text existent și învățând cum
apar cuvintele în context cu alte cuvinte. Apoi prezice următorul cuvânt cel mai probabil care
ar putea apărea in răspunsul la o intrebare și fiecare cuvânt ulterior (asemănător cu funcțiile de
autocompletare din motoarele de căutare, smartphone-uri și programe de e-mail).
Capacitățile sale excelente de generare a limbajului natural îi permit să compună răspunsuri și
să scrie povești și scrisori pentru diferite grupe de vârstă și cu diferite niveluri de detaliu. Poate
compune muzică, eseuri și poezii, poate scrie și depana programe de calculator, poate juca
jocuri, poate scrie CV-uri și scrisori de intenție personalizate etc.
Aceste rezultate sunt atât de impresionante, încât Geoffrey Hinton, unul dintre inventatorii
învățării profunde (deep learning), susține că agentii inteligenti pot „înțelege” și chiar vor
depăși inteligența umană. El atrage atenția asupra faptului că acestia folosesc rețele neuronale
care conțin deja mai mulți neuroni decât creierul uman și pot învăța mult mai repede decât
oamenii.
Voi demonstra că se înșeală, ca oamenii sunt mai inteligenti decat calculatoarele. Vom începe
prin a compara neuronul uman cu cel artificial (a se vedea figura 2).
Neuronul uman are o structură arborescentă, cu o coroană formată din corpul celular și nucleu,
ramuri (dendrite), un trunchi (axon) și rădăcini (dendrite). Dendritele se conectează cu
dendritele altor neuroni pentru a forma o rețea foarte complexă de neuroni interconectați.
Creierul funcționează pe bază de electricitate. Axonul este ca un fir cu izolație in care neuronul
trimite impulsuri electrice care se deplasează de-a lungul axonului până la dendrite. Dendrita
de la un neuron se termină și începe dendrita de la un alt neuron, dar exista un spatiu inte ele.
Această conexiune se numește sinapsă.
Transmisia nu este electrică, ci chimică.
Sinapsa determină eliberarea de substanțe
chimice către celălalt neuron, care
primește un semnal. Fiecare neuron
primește semnale de la alți neuroni. Dacă
suma electricitate depășește un prag,
atunci neuronii se declanșează. Sinapsa
poate fi tare, medie sau slabă. Dacă
sinapsa este slabă, atunci când intră un
semnal, acesta creează un semnal slab în
următorul neuron. Dar dacă sinapsa este
tare, aceasta creează un semnal tare. Ceea
ce face ca conexiunea să fie tare sau slabă
este experiența ta. Dacă acest neuron îl
face pe neuronul respectiv să se aprindă,
atunci conexiunea lor devine mai
puternică. Aceasta este ceea ce determină
învățarea. Din punct de vedere statistic,
dacă neuronii se aprind împreună, aceștia
sunt corelați. Atunci când vedeți că unul
dintre ei pornește, vă așteptați ca și
celălalt să pornească. Sistemele biologice de învățare sunt construite din rețele foarte complexe
de neuroni interconectați.
Neuronul artificial este o aproximare rudimentară a unui neuron uman. Acesta calculează suma
Figura 2: Neuronul uman (sus) și cel artificial (jos).
smooth version of the step
function
4
ponderată a intrărilor sale și
emite 1 (adevărat) dacă
această sumă este pozitivă și –
1 (fals) în caz contrar.
Tabelul 1 compară
caracteristicile celor două
tipuri de neuroni. Neuronul
artificial este mult mai rapid,
dar numărul său de conexiuni
este mult mai mic. Rețeaua artificială este mult mai mare, dar are nevoie de mult mai multă
energie și timp pentru a recunoaște o scenă decât creierul uman.
Există trei forme de raționament: deductiv (care arată că ceva este în mod necesar adevărat),
inductiv (care arată că ceva este probabil adevărat) și abductiv sau imaginativ (care arată că
ceva este posibil să fie adevărat). Un agent de inteligent poate efectua numai raționamente
deductive și inductive, dar nu poate efectua raționamente abductive (imaginative). Ca urmare,
un agent de AI este rapid, riguros, precis și obiectiv, dar nu are intuiție, imaginație și capacitatea
de a face față unor situații noi.
Dacă doriți să știți ce nu poate face un agent de inteligent, gândiți-vă la o prbblemă care
necesită un raționament imaginativ.
Inteligența umană
Un computer efectuează doar manipularea simbolurilor sintactice, așa cum a
demonstrat în mod convingător filosoful John Searle cu argumentul camerei
chinezești (1980):
John se află într-o cameră în care se află o carte care conține o colecție uriașă de reguli
„dacă-atunci”:
„DACĂ primești simbolul X, ATUNCI returnezi simbolul Y.”
Prin deschiderea unei uși, John primește din exteriorul camerei simbolul X, care
reprezintă o întrebare în chineză și, urmând una dintre reguli, returnează simbolul Y, care
reprezintă răspunsul în chineză. Pentru observatorul din exterior, John pare să înțeleagă
chineza. Dar John nu știe deloc chineza.
Adevărata „înțelegere” necesită o procesare „semantică” pe care numai
oamenii o pot face.
Mihai Drăgănescu (1979, 1985) a avansat ideea că creierul are atât moduri
de procesare a informației care utilizează calculul, cât și moduri care nu
utilizează calculul. Acest lucru a fost demonstrat ulterior de Roger Penrose
(1994). Drăgănescu face distincție între două tipuri de informații:
structurale, care pot fi reduse la biți, și fenomenologice, care au o
manifestare în sentimente, semnificații și qualia. În filosofia minții, qualia
sunt definite ca fiind instanțe ale experienței subiective, conștiente. Printre
exemplele de qualia se numără senzația de durere percepută în urma unei
dureri de cap, gustul vinului și roșeața unui cer de seară. Ambele tipuri de
informații pot acționa, de asemenea, împreună, constituind un tip mixt de
informații.
Creierul are minte și conștiință. Potrivit lui Drăgănescu (2000), în creier există mai multe
niveluri de procesare a informației:
• Cel mai înalt nivel este nivelul psihologic, care poate fi considerat un nivel macroscopic
Roger Penrose
John Searle
Mihai Drăgănescu
1929-2010
Tabelul 1: Neuronul uman față de cel artificial.
Neuron uman Neuron artificial
Timp de comutare10-3 secundă Timp de comutare ≈ 10-9 secundă
Numărul de neuroni≈1010 Numărul de tranzistori/cip > 1010
Conexiuni/neuron≈104 – 5 Conexiuni / tranzistor ≈ 10
Consumul de energie creier:
20 wați
Consumul de energie al unui
computer echivalent ≈106 wați
Timp de recunoaștere a scenei ≈
0,1 secundă
Timp de recunoaștere a scenei:
mult mai mae
5
specific, care cuprinde comportamentul, activitățile intelectuale, gândirea,
sentimentele, voința și altele.
• Nivelul neuronal cuprinde rețelele de neuroni, modulele de neuroni și organizarea
structurală a creierului.
• Nivelul molecular cuprinde activitățile moleculare din interiorul neuronilor și de la
nivelul sinapselor dintre neuroni.
• Nivelul cuantic, care a fost propus de o serie de fizicieni.
• Nivelul experiențial (nivelul fenomenologic) s-a dovedit a fi o realitate a creierului și a
minții.
Oamenii sunt lenți, neglijenți, uituci, impliciți și subiectivi, dar au conștiință, intuiție și
imaginație și pot găsi soluții creative în situații noi. Oamenii pot efectua toate tipurile de
raționament, inclusiv raționamentul abductiv (imaginativ), ceea ce o mașină nu poate face.
Vorbind despre imaginație, Einstein a spus,
Când mă examinez pe mine însumi și metodele mele de gândire, ajung
concluzia că darul fanteziei [imaginației] a însemnat mai mult pentru
mine decât talentul meu de a absorbi cunoașterea absolută.
Adevăratul semn al inteligenței nu este cunoașterea, ci imaginația.
Logica te va duce de la A la B. Imaginația te va duce peste tot.
După cum puteți vedea, inteligența artificială și inteligența umană sunt extrem de
complementare. Prin urmare, este logic să ne gândim la sisteme om-mașină. De exemplu, ce
om sau mașină ar fi în stare să-l învingă pe Kasparov dacă ar fi asistat de Deep Blue?
Sisteme om-mașină
Figura 3 oferă o imagine de ansamblu a unui model de gândire critică om-mașină care
facilitează integrarea sinergică a imaginației umane și a raționamentului critic al computerului.
Acest model general se bazează pe știința evidentei (Tecuci și Schum, 2024) și pe metoda
științifică de generare și testare a ipotezelor.
Gândirea critică este abilitatea de a
analiza în mod obiectiv informațiile și
de a emite judecăți argumentate.
Aceasta începe cu un fenomen
interesant care trebuie explicat sau cu o
întrebare la care trebuie să se răspundă
(de exemplu, Cine a pus bomba?).
Explicațiile fenomenului sau
răspunsurile la întrebare sunt ipotezele
generate prin raționament abductiv
(imaginativ).
Omul si agentul inteligent dezvoltă o argumentație Wigmoreană, o rețea probabilistică de
inferențe ilustrată în figura 3. Ipoteză 𝐻𝐻 este descompusă în ipoteze din ce in ce mai simple,
prin argumente favorabile (care susțin veridicitatea 𝐻𝐻), sub pătratul din stânga (verde), și
argumente defavorabile (care susțin falsitatea lui H) sub pătratul din dreapta (roz), până când
sub-ipotezele sunt suficient de simple pentru a indica evidentele ce ar trebui descoperite.
Probabilitățile ipotezelor cele mai simple sunt evaluate pe baza credibilității evidentelor
descoperite, iar probabilitățile ipotezelor de nivel superior sunt evaluate pe baza probabilităților
sub-ipoteezelor, utilizând reguli de combinare min-max comune probabilitatilor Fuzzy și
Baconiene.

Albert Einstein
[1879-1955]
Figura 3: Modelul om-mașină al gândirii critice.

6
Din fiecare argument, agentul învață, de asemenea, o regulă generală prin utilizarea învățării
multistrategie ( Tecuci et al., 2016, pp.252-328), care este o dezvoltare a metodei clasice a
spațiului de versiuni (Mitchell, 1977), și integrează învățarea din exemple din explicații și prin
analogie (a se vedea partea din stânga sus a figurii 4). De exemplu, din fiecare pas abductiv va
învăța o regulă care îi va permite să genereze abducții similare, dar acestea nu sunt „cu
adevărat” noi. O soluție „cu adevărat” imaginativă la o problemă poate fi generată doar prin
raționament abductiv (imaginativ) de către inteligența umană.
Problemele care pot fi rezolvate de un sistem om-agent sunt limitate doar de imaginația umană.
De exemplu, Steven Rieber (2023 ) și-a imaginat o aplicație de informații în care agentul ar
produce automat comentarii (feedback și recomandări), evidențiind dovezi relevante
suplimentare și identificând punctele forte și punctele slabe ale raționamentului analistului.
Analiștii pot utiliza comentariile pentru a-și îmbunătăți analizele. Spre deosebire de aplicațiile
actuale ale tehnicilor analitice structurate, sistemul va produce automat comentarii fără niciun
efort suplimentar din partea analiștilor, care pot utiliza orice comentariu pe care îl consideră
valoros. Aceste comentarii se vor baza pe aplicarea automată a unor tehnici analitice structurate
eficiente. Comentariile vor fi analoage cu cele făcute de verificările automate de ortografie și

Figura 4. Rețeaua de infrentare probabilistică wigmoreană (argumentare)

gramatică, cu excepția faptului că se vor concentra pe îmbunătățirea argumentării în loc de a
scrie. O soluție propusă pentru această problemă este prezentată în (Tecuci, 2023).
Concluzii
Ca orice tehnologie nouă și puternică, cum ar fi energia nucleară, inteligența artificială vine
cu riscuri și oportunități. Depinde de noi să gestionăm riscurile și să profităm de oportunitățile
enorme oferite. Inteligența Artificială va contribui la tranziția către o societate a cunoașterii
(Drăgănescu, 2002), în care multe locuri de muncă umane vor fi îndeplinite de mașini, dar
toate acestea sunt locuri de muncă algoritmice, lăsând oamenilor locurile de muncă cu
adevărat creative. Acest lucru s-a mai întâmplat înainte, odată cu Revoluția Industrială, când
multe locuri de muncă intensive au fost „pierdute” în favoarea mașinilor prin automatizare. Pe
lângă progresele tehnologice făcute posibile (de exemplu, doar AI poate determina
videoclipurile sau imaginile false), ne va ajuta să devenim gânditori critici mai buni, aceasta
fiind cea mai bună modalitate de a păstra democrația, care, cu toate imperfecțiunile sale, este
încă cel mai bun sistem de guvernare (Tecuci, 2024).
Referințe
Durden T. (2023). Musk, Wozniak Call for Pause in Developing ‘More Powerful’ AI than GPT4, Zero Hedge, 29 martie 2023.
Dawkins, R. (2008). The Oxford Book of Modern Writing, Oxford University Press.
Drăgănescu, M. (1979). Profunzimile lumii materiale, București 1979; ediția în limba engleză
1997, http://www.racai.ro/books/doe.
Drăgănescu , M. (1985). Ortofizică, Editura Sttintifica și Enciclopedică, București,
Drăgănescu, M. ( 2000). Creierul ca procesor de informații, NOESIS, XXV, 2000, p.9-20.
Drăgănescu, M. (2002). Broadband and the Knowledge Society, Conferința Internațională
Information Society Technologies for Broadband Europe, 9-11 octombrie, București,
România.
Mitchell, T.M. (1977). Version Spaces: A Candidate Elimination Approach to Rule Learning,
Proc. of the 5th IJCAI, Cambridge, MA. https://www.ijcai.org/Proceedings/77-
1/Papers/048.pdf https://www.ijcai.org/Proceedings/77-1/Papers/048.pdf
Radford et al., (2019. Modelele lingvistice sunt învățători multitask nesupravegheați. OpenAI
blog, 1(8):9.
Rieber, S. (2023). REASON Overview, IARPA, 11 ianuarie,
https://www.youtube.com/watch?v=FiHKoBi1No0.
Penrose. R (1994). Shadows of the Mind (Umbrele minții), Oxford, Oxford University Press.
Searle J.R. (1980), Minds, brains, and programs. Științe comportamentale și ale creierului, 3
(3): 417-457.
Tecuci, G., (2023). Cognitive Agent for Rapid Explanation, Analysis, and Sourcing Online
(Cogent REASON), IARPA, 11 ianuarie,https://www.youtube.com/watch?v=jYAFnKKVdpU,
2:05:43 până la 2:10:42,
Tecuci, G., Marcu, D., Boicu, M., Schum, D.A. (2016). Ingineria cunoașterii: Building
Cognitive Assistants for Evidence-based Reasoning, Cambridge University Press.
Tecuci, G., (2024). Gentle Introduction to Critical Thinking, Critical Thinking Press.
Tecuci G., Schum D.A. (2024). Știința dovezilor, Critical Thinking Press.