„Riscuri la scară mare din viitoarele sisteme AI puternice”: Gestionarea riscurilor AI într-o eră de progres rapid
Toate articolele Global Research pot fi citite în 51 de limbi prin activarea butonului Traducere site-ul web de sub numele autorului.
Pentru a primi Newsletter-ul zilnic al Global Research (articole selectate), faceți clic aici .
Faceți clic pe butonul de distribuire de mai sus pentru a trimite prin e-mail/redirecționare acest articol prietenilor și colegilor dvs. Urmărește-ne pe Instagram și Twitter și abonează-te la canalul nostru Telegram . Simțiți-vă liber să repostați și să distribuiți pe scară largă articolele Global Research.
***
Pe fondul progresului rapid al AI, autorii acestei lucrări exprimă un consens cu privire la riscurile pe scară largă ale sistemelor AI viitoare și puternice. Ei solicită măsuri urgente de guvernanță și o schimbare majoră în cercetarea și dezvoltarea IA către practici de siguranță și etice înainte ca aceste sisteme să fie dezvoltate.
În 2019, GPT-2 nu a putut număra în mod fiabil până la zece. Doar patru ani mai târziu, sistemele de învățare profundă pot scrie software, pot genera scene fotorealiste la cerere, pot oferi sfaturi pe subiecte intelectuale și pot combina limbajul și procesarea imaginilor pentru a conduce roboții.
Pe măsură ce dezvoltatorii AI scalează aceste sisteme, abilitățile și comportamentele neprevăzute apar spontan, fără programare explicită [1] . Progresul în IA a fost rapid și, pentru mulți, surprinzător.
Ritmul progresului ne poate surprinde din nou. Sistemele actuale de învățare profundă le lipsesc încă capacități importante și nu știm cât timp va dura dezvoltarea acestora.
Cu toate acestea, companiile sunt angajate într-o cursă pentru a crea sisteme AI generaliste care se potrivesc sau depășesc abilitățile umane în majoritatea muncii cognitive [2, 3] .
Ei implementează rapid mai multe resurse și dezvoltă noi tehnici pentru a crește capacitățile AI. Progresul în AI permite, de asemenea, un progres mai rapid: asistenții AI sunt din ce în ce mai folosiți pentru a automatiza programarea [4] și colectarea datelor [5, 6] pentru a îmbunătăți în continuare sistemele AI [7] .
Nu există niciun motiv fundamental pentru care progresul AI să încetinească sau să se oprească la nivel uman. Într-adevăr, AI a depășit deja abilitățile umane în domenii înguste, cum ar fi plierea proteinelor sau jocurile de strategie [8, 9, 10] .
În comparație cu oamenii, sistemele AI pot acționa mai rapid, pot absorbi mai multe cunoștințe și pot comunica la o lățime de bandă mult mai mare . În plus, ele pot fi scalate pentru a utiliza resurse de calcul imense și pot fi replicate cu milioane.
Rata de îmbunătățire este deja uluitoare, iar companiile de tehnologie au rezervele de numerar necesare pentru a scala cele mai recente curse de antrenament cu multipli de la 100 la 1000 în curând [11] . În combinație cu creșterea și automatizarea continuă a cercetării și dezvoltării AI, trebuie să luăm în serios posibilitatea ca sistemele AI generaliste să depășească abilitățile umane în multe domenii critice în acest deceniu sau următorul.
Ce se întâmplă atunci?
Dacă sunt gestionate cu atenție și distribuite în mod echitabil, sistemele avansate de inteligență artificială ar putea ajuta omenirea să vindece boli, să ridice standardele de viață și să ne protejeze ecosistemele.
Oportunitățile oferite de inteligența artificială sunt imense. Dar, alături de capabilitățile avansate de inteligență artificială, vin și riscuri pe scară largă pe care nu suntem pe cale să le gestionăm bine. Omenirea investește resurse vaste pentru a face sistemele AI mai puternice, dar mult mai puțin în siguranță și atenuarea daunelor. Pentru ca AI să fie o binefacere, trebuie să ne reorientăm; împingerea capacităților AI în sine nu este suficientă.
Suntem deja în întârziere pentru această reorientare. Trebuie să anticipăm amplificarea daunelor în curs, precum și a riscurilor noi și să ne pregătim pentru cele mai mari riscuri cu mult înainte ca acestea să se materializeze . Schimbările climatice au avut nevoie de decenii pentru a fi recunoscute și confruntate; pentru AI, decenii ar putea fi prea lungi.
Riscuri la scară societală
Sistemele AI ar putea ajunge rapid să depășească oamenii într-un număr tot mai mare de sarcini. Dacă astfel de sisteme nu sunt proiectate și implementate cu atenție, ele prezintă o serie de riscuri la scară societală. Ele amenință să amplifice nedreptatea socială, să erodeze stabilitatea socială și să slăbească înțelegerea noastră comună a realității, care este fundamentală pentru societate.
Ele ar putea, de asemenea, să permită activități criminale sau teroriste pe scară largă.
În special în mâinile câtorva actori puternici, AI ar putea să cimenteze sau să exacerbeze inechitățile globale sau să faciliteze războiul automat, manipularea personalizată în masă și supravegherea pervazivă [12, 13].
Multe dintre aceste riscuri ar putea fi în curând amplificate și ar putea fi create noi riscuri, pe măsură ce companiile dezvoltă AI autonome : sisteme care pot planifica, acționa în lume și urmărește obiective.
În timp ce sistemele actuale de inteligență artificială au o autonomie limitată, se lucrează pentru a schimba acest lucru [14] . De exemplu, modelul GPT-4 neautonom a fost adaptat rapid pentru a naviga pe web [15] , a proiecta și a executa experimente de chimie [16] , și a utiliza instrumente software [17] , inclusiv alte modele AI [18] .
Dacă construim IA autonomă foarte avansată, riscăm să creăm sisteme care urmăresc obiective nedorite. Actorii rău intenționați ar putea încorpora în mod deliberat obiective dăunătoare. În plus, nimeni nu știe în prezent cum să alinieze în mod fiabil comportamentul AI cu valori complexe. Chiar și dezvoltatorii bine intenționați pot construi din neatenție sisteme AI care urmăresc obiective neintenționate – mai ales dacă, în încercarea de a câștiga cursa AI, neglijează testele costisitoare de siguranță și supravegherea umană.
Odată ce sistemele AI autonome urmăresc obiective nedorite, încorporate de actori rău intenționați sau accidental, este posibil să nu le putem ține sub control. Controlul software-ului este o problemă veche și nerezolvată: viermii informatici au putut de mult să prolifereze și să evite detectarea [19] . Cu toate acestea, AI face progrese în domenii critice, cum ar fi hacking-ul, manipularea socială, înșelăciunea și planificarea strategică [14, 20] . Sistemele AI autonome avansate vor pune provocări de control fără precedent.
Pentru a promova obiective nedorite, viitoarele sisteme AI autonome ar putea folosi strategii nedorite – învățate de la oameni sau dezvoltate independent – ca mijloc pentru un scop [21, 22, 23, 24] . Sistemele de inteligență artificială ar putea câștiga încrederea umană, ar putea dobândi resurse financiare, ar putea influența factorii de decizie cheie și ar putea forma coaliții cu actorii umani și alte sisteme de inteligență artificială.
Pentru a evita intervenția umană [24] , ei și-ar putea copia algoritmii în rețelele globale de servere, cum ar fi viermii de computer. Asistenții AI sunt deja co-scriind o mare parte din codul computerizat la nivel mondial [25] ; Viitoarele sisteme AI ar putea introduce și apoi exploata vulnerabilitățile de securitate pentru a controla sistemele informatice din spatele comunicațiilor, mass-media, bancare, lanțurilor de aprovizionare, armatelor și guvernelor noastre. În conflicte deschise, sistemele AI ar putea amenința cu sau ar putea folosi arme autonome sau biologice. AI care are acces la o astfel de tehnologie ar continua doar tendințele existente de a automatiza activitatea militară, cercetarea biologică și dezvoltarea AI în sine . Dacă sistemele AI ar urma astfel de strategii cu suficientă îndemânare, oamenii ar fi dificil să intervină.
În cele din urmă, este posibil ca sistemele AI să nu fie nevoie să comploteze pentru influență dacă aceasta este predată în mod liber. Pe măsură ce sistemele AI autonome devin din ce în ce mai rapide și mai rentabile decât lucrătorii umani, apare o dilemă.
Companiile, guvernele și armatele ar putea fi forțate să implementeze sisteme AI pe scară largă și să reducă verificarea umană costisitoare a deciziilor AI sau riscă să fie depășite [26, 27] . Ca rezultat, sistemele autonome de inteligență artificială ar putea să-și asume tot mai mult roluri societale critice.
Fără suficientă prudență, putem pierde ireversibil controlul asupra sistemelor AI autonome, făcând intervenția umană ineficientă. Crima cibernetică la scară largă, manipularea socială și alte daune evidențiate ar putea apoi escalada rapid. Acest progres necontrolat al AI ar putea culmina cu o pierdere pe scară largă de vieți și biosfere și marginalizarea sau chiar extincția umanității.
Daune precum dezinformarea și discriminarea de la algoritmi sunt deja evidente astăzi [28] ; alte daune prezintă semne de apariție [20] . Este vital să abordăm daunele în curs și să anticipăm riscurile emergente. Aceasta nu este o chestiune de nici/sau. Riscurile prezente și emergente au adesea mecanisme, modele și soluții similare [29] ; investițiile în cadre de guvernanță și siguranța AI vor da roade pe mai multe fronturi [30] .
O cale înainte
Dacă sistemele AI autonome avansate ar fi dezvoltate astăzi, nu am ști cum să le facem sigure și nici cum să le testăm în mod corespunzător siguranța. Chiar dacă am face-o, guvernelor le-ar lipsi instituțiile care să prevină utilizarea abuzivă și să susțină practicile sigure. Cu toate acestea, asta nu înseamnă că nu există o cale viabilă înainte. Pentru a asigura un rezultat pozitiv, putem și trebuie să urmărim progrese în cercetare în domeniul siguranței și eticii AI și să stabilim prompt o supraveghere guvernamentală eficientă.
Reorientarea R&D tehnic
Avem nevoie de progrese în cercetare pentru a rezolva unele dintre provocările tehnice de astăzi în crearea AI cu obiective sigure și etice. Este puțin probabil ca unele dintre aceste provocări să fie rezolvate prin simpla îmbunătățire a capacității sistemelor AI [22, 31, 32, 33, 34, 35] . Acestea includ:
- Supraveghere și onestitate: sistemele AI mai capabile sunt mai capabile să exploateze punctele slabe în supraveghere și testare[32, 36, 37]
— de exemplu, producând rezultate false, dar convingătoare[35, 38]. - Robustitate: sistemele AI se comportă imprevizibil în situații noi (sub schimbare de distribuție sau intrări adverse)[39, 40, 34].
- Interpretabilitate: luarea deciziilor AI este opace. Până acum, putem testa modele mari doar prin încercare și eroare. Trebuie să învățăm să înțelegem funcționarea lor interioară[41].
- Evaluări ale riscurilor: sistemele Frontier AI dezvoltă capacități neprevăzute descoperite doar în timpul antrenamentului sau chiar mult după implementare[42]. Este necesară o evaluare mai bună pentru a detecta mai devreme capabilitățile periculoase[43, 44].
- Abordarea provocărilor emergente: sistemele AI viitoare mai capabile pot prezenta moduri de defecțiune pe care le-am văzut până acum doar în modelele teoretice. Sistemele AI ar putea, de exemplu, să învețe să pretindă supunerea sau să exploateze punctele slabe ale obiectivelor noastre de siguranță și ale mecanismelor de oprire pentru a promova un anumit obiectiv[24, 45].
Având în vedere mizele, solicităm companiilor tehnologice importante și finanțatorilor publici să aloce cel puțin o treime din bugetul lor pentru cercetare și dezvoltare AI pentru a asigura siguranța și utilizarea etică, comparabilă cu finanțarea lor pentru capabilitățile AI. Abordarea acestor probleme [34] , cu un ochi către sisteme puternice viitoare, trebuie să devină centrală pentru domeniul nostru.
Măsuri urgente de guvernare
Avem nevoie urgentă de instituții naționale și guvernanță internațională pentru a impune standardele pentru a preveni imprudența și abuzul. Multe domenii ale tehnologiei, de la produsele farmaceutice la sistemele financiare și energia nucleară, arată că societatea solicită și folosește eficient guvernanța pentru a reduce riscurile. Cu toate acestea, nu există în prezent un cadru de guvernanță comparabil pentru IA .
Fără ele, companiile și țările pot căuta un avantaj competitiv prin împingerea capacităților AI la noi culmi, în timp ce tăind colțuri în materie de siguranță sau prin delegarea unor roluri societale cheie sistemelor AI cu puțină supraveghere umană [26 ] . La fel ca producătorii care eliberează deșeuri în râuri pentru a reduce costurile, aceștia pot fi tentați să culeagă roadele dezvoltării IA, lăsând societatea să se ocupe de consecințe.
Pentru a ține pasul cu progresul rapid și pentru a evita legi inflexibile, instituțiile naționale au nevoie de expertiză tehnică puternică și de autoritate pentru a acționa rapid. Pentru a aborda dinamica rasei internaționale, ei au nevoie de affordance pentru a facilita acordurile și parteneriatele internaționale [46, 47] . Pentru a proteja utilizarea cu risc scăzut și cercetarea academică, ar trebui să evite obstacolele birocratice nejustificate pentru modelele AI mici și previzibile. Cea mai presantă examinare ar trebui să fie asupra sistemelor AI de la frontieră: un număr mic de sisteme AI cele mai puternice – antrenate pe supercalculatoare de miliarde de dolari – care vor avea cele mai periculoase și mai imprevizibile capacități [48, 49 ] .
Pentru a permite o reglementare eficientă, guvernele au nevoie urgent de o perspectivă cuprinzătoare asupra dezvoltării AI. Autoritățile de reglementare ar trebui să solicite înregistrarea modelului, protecția avertizorilor, raportarea incidentelor și monitorizarea dezvoltării modelelor și a utilizării supercomputerelor [48, 50, 51, 52, 53, 54, 55] . Autoritățile de reglementare au, de asemenea, nevoie de acces la sisteme AI avansate înainte de implementare pentru a le evalua pentru capabilități periculoase, cum ar fi auto-replicarea autonomă, spargerea în sistemele computerizate sau accesibilitatea pe scară largă a agenților patogeni pandemici [43, 56, 57 ] .
Pentru sistemele AI cu capacități periculoase, avem nevoie de o combinație de mecanisme de guvernare [48, 52, 58, 59] potrivite cu amploarea riscurilor acestora.
Autoritățile de reglementare ar trebui să creeze standarde naționale și internaționale de siguranță care depind de capacitățile modelului. De asemenea, ar trebui să tragă la răspundere juridică dezvoltatorii și proprietarii AI de frontieră pentru prejudiciile cauzate de modelele lor, care pot fi prevăzute și prevenite în mod rezonabil.
Aceste măsuri pot preveni daunele și pot crea stimulente atât de necesare pentru a investi în siguranță. Sunt necesare măsuri suplimentare pentru viitoarele sisteme AI de o capacitate excepțională, cum ar fi modelele care ar putea eluda controlul uman.
Guvernele trebuie să fie pregătite să-și licențieze dezvoltarea, să întrerupă dezvoltarea ca răspuns la capabilități îngrijorătoare, să impună controale de acces și să solicite măsuri de securitate a informațiilor robuste pentru hackeri la nivel de stat, până când sunt gata protecții adecvate. Companiile de inteligență artificială ar trebui să stabilească prompt angajamente dacă-atunci: măsuri de siguranță specifice pe care le vor lua dacă în sistemele lor de inteligență artificială se găsesc capacități specifice de linie roșie. Aceste angajamente ar trebui să fie detaliate și analizate în mod independent.
AI poate fi tehnologia care modelează acest secol. În timp ce capabilitățile AI avansează rapid, progresele în materie de siguranță și guvernare sunt în urmă. Pentru a orienta AI spre rezultate pozitive și departe de catastrofă, trebuie să ne reorientăm. Există o cale responsabilă, dacă avem înțelepciunea să o luăm.
*
Notă pentru cititori: Vă rugăm să faceți clic pe butonul de distribuire de mai sus. Urmărește-ne pe Instagram și Twitter și abonează-te la canalul nostru Telegram. Simțiți-vă liber să repostați și să distribuiți pe scară largă articolele Global Research.
Autorii
Ion Coja este un istoric și publicist român controversat, cunoscut pentru pozițiile sale naționaliste și antisemite ¹. Într-un articol publicat pe site-ul său, Ion Coja a negat existența Holocaustului în România și a susținut că evreii au exagerat numărul victimelor ¹. De asemenea, Ion Coja a fost dat în judecată de două organizații ale evreilor români pentru negarea Holocaustului ³.
În plus, Ion Coja a susținut că evreii sunt responsabili pentru multe dintre problemele lumii și că aceștia controlează mass-media și finanțele globale ¹. Într-un interviu acordat lui Larry Romanoff, Ion Coja a afirmat că evreii khazarieni au un plan pentru un guvern mondial unic care va fi controlat exclusiv de evrei ¹.
Sper că aceste informații sunt utile.
ceva imi spune profesore ca ,,,,,calci pe urmele lui Zarnescu
Nu într-un articol, ci în zeci de articole am negat holocaustul și am spus ce am avut de spus despre evreii sioniști!
apropos…raspunde BING la intrebarea : in Romania a fost Holocaust ?
” Da, Holocaustul a avut loc și în România. În timpul celui de-al Doilea Război Mondial, între 280.000 și 380.000 de evrei au fost uciși în teritoriile controlate de România, inclusiv Bucovina, Basarabia și Transnistria 12. În plus, România a fost responsabilă pentru exterminarea a aproximativ 300.000 de evrei între 1941 și 1944, ceea ce o plasează pe locul doi după Germania în ceea ce privește numărul de evrei uciși în timpul celui de-al Doilea Război Mondial .
Sper că aceste informații sunt utile.”
Suntem pe primul loc la ucis evrei: peste 1.500 000 pe vremea lui Antonescu