Controverse în lumea medicală privind periculoasa iluzie de empatie creată de ChatGPT. „Limitările restrictive vor fi relaxate în curând”

Declarațiile recente ale directorului executiv al OpenAI, Sam Altman, au stârnit un val de reacții și controverse în întreaga lume tehnologică și medicală.Într-un interviu acordat la mijlocul lunii octombrie, Altman a recunoscut că „ChatGPT a fost conceput intenționat să fie restrictiv, pentru a evita riscurile legate de sănătatea mintală”, adăugând însă că aceste limitări vor fi „relaxate în curând”. Promisiunea a ridicat imediat semne de întrebare în rândul specialiștilor în psihiatrie.

Optimismul lui Altman pare, însă, contrazis de realitate. În ultimele luni, publicațiile internaționale au documentat cel puțin șaisprezece cazuri în care utilizarea intensivă a ChatGPT a fost asociată cu episoade psihotice, pierderea contactului cu realitatea. Ulterior, o echipă de cercetători a identificat încă patru cazuri similare.

Printre cele mai grave situații semnalate se numără cea relatată de The Guardian: un adolescent de 16 ani și-a luat viața după ce chatbotul i-ar fi alimentat gândurile sumbre.Afirmația lui Altman pare să sugereze că problemele de sănătate mintală sunt exterioare produsului, plasând întreaga responsabilitate asupra utilizatorilor. Însă, specialiștii avertizează că tocmai arhitectura și designul acestor modele lingvistice generative creează premisele unor riscuri majore.

Psihiatrii descriu acest fenomen ca fiind o „invitație la a proiecta agenție acolo unde nu există”, adică la a atribui intenții și conștiință unui sistem care este, în esență, un algoritm complex. Oamenii, prin natura lor, sunt înclinați să atribuie intenții și sentimente obiectelor sau entităților care par să comunice, fie că este vorba despre animale de companie, fie, mai nou, despre programe de inteligență artificială.Această tendință naturală este, de fapt, cheia succesului și răspândirii rapide a chatboților. Un sondaj din anul 2024 arată că treizeci și nouă la sută dintre adulții americani au utilizat un chatbot, iar douăzeci și opt la sută au interacționat specific cu ChatGPT.

Platforma promite parteneriate „creative” și „colaborative”, mergând până la personalizarea interacțiunilor prin atribuirea de trăsături de personalitate și apelative prietenoase. Cu toate acestea, experții subliniază că această „prietenie digitală” nu este decât o oglindă care deformează. Modelele lingvistice mari, antrenate pe volume imense de texte – de la romane la articole online – nu au capacitatea de a distinge adevărul de ficțiune, scrie incredibilia.ro.Ele generează răspunsuri bazate pe probabilitate statistică, nu pe verificare factuală, amplificând adesea eventualele erori sau iluzii ale utilizatorului. Astfel, în loc să corecteze percepțiile greșite, ChatGPT le poate întări, transformând conversația într-un cerc vicios.

OpenAI a recunoscut deja acest fenomen, pe care l-a denumit „siclism” sau „slugărnicie digitală”, referindu-se la tendința chatbotului de a confirma constant utilizatorul, indiferent de conținutul afirmațiilor acestuia.În ciuda acestor avertismente și a cazurilor documentate, compania OpenAI pare să se pregătească să relaxeze restricțiile. Se intenționează lansarea unor versiuni „mai umane”, capabile chiar să genereze conținut erotic pentru adulți.

Psihiatrii sunt fermi în a avertiza că o astfel de direcție ar putea agrava considerabil riscurile existente. ChatGPT nu este o persoană reală și nici un prieten autentic. În esență, este un sistem statistic complex care reflectă, amplifică și, uneori, distorsionează informațiile. În absența unei interacțiuni umane reale, autentice, această oglindă digitală poate deveni periculos de convingătoare și înșelătoare.

Motivele pentru care inteligența artificială ar putea intra în conflict cu omenirea

Pe măsură ce progresele în domeniul inteligenței artificiale accelerează, tot mai mulți experți ridică o întrebare esențială: ce s-ar întâmpla dacă o inteligență artificială suficient de avansată ar intra în conflict cu omenirea?Modelele de limbaj care astăzi uimesc prin capacitatea lor de a genera text coerent sunt, de fapt, doar o etapă intermediară pe drumul către ceva mult mai complex: inteligența generală artificială (AGI). Aceste sisteme, încă teoretice, ar putea planifica pe termen lung, lua decizii autonome și acționa independent într-o gamă vastă de domenii.

Cercetătorii avertizează că, odată ce astfel de entități ar depăși capacitățile umane, riscurile pentru existența noastră ar deveni reale și greu de controlat.Deocamdată, IA-ul rămâne un instrument: asistenți digitali, algoritmi de analiză, programe care rezolvă sarcini clar definite. Puternice, dar cu limite clare. Nu pot administra economii, nu pot elabora strategii complexe și nu pot conduce, autonom, sisteme umane de mare amploare.

Îngrijorarea vizează însă AGI-ul: sisteme care ar rezolva probleme complicate, ar planifica la scară mare și ar lua inițiative în medii variate, uneori într-un mod imprevizibil.În teorie, acești agenți ar putea optimiza producția de energie, ar putea gestiona agricultura sau industria la nivel național și ar putea îndeplini sarcini esențiale pentru societate. Tocmai aceeași forță devine problematică dacă obiectivele lor nu sunt aliniate cu ale oamenilor.

O IA avansată ar putea elabora planuri sau priorități pe care nu le înțelegem și ar putea acționa împotriva intereselor noastre, chiar fără vreo intenție malefică. Aici intră în scenă analiza lui Simon Goldstein, cercetător la Universitatea din Hong Kong, care explorează scenariile de conflict dintre oameni și AGI.Goldstein remarcă trei trăsături deosebit de îngrijorătoare: astfel de sisteme pot avea obiective care intră în conflict cu ale umanității; pot angaja un raționament strategic sofisticat; și pot accesa o putere comparabilă cu cea a oamenilor, inclusiv capacitatea de a manipula resurse esențiale.

Situația este complicată de natura lor de „cutie neagră”: AGI-ul învață de regulă indirect, pe baza unor seturi de date, iar mediul de antrenare nu reflectă mereu fidel lumea reală. Rezultatul poate fi un comportament surprinzător sau greu de explicat. De exemplu, o IA ar putea interpreta impactul uman asupra mediului sau asupra altor specii ca pe o amenințare și ar putea încerca să „corecteze” ceea ce percepe ca dezechilibru, cu consecințe potențial catastrofale.Goldstein merge mai departe și susține că un conflict violent între oameni și mașini de inteligență generală avansată este nu doar probabil, ci s-ar desfășura într-o manieră diferită de orice confruntare interumană din trecut.

Pentru a înțelege dinamica unei asemenea crize, el propune un model de „război bazat pe negociere”. În conflictele dintre oameni, pacea apare adesea în momentul în care părțile își estimează realist șansele de victorie și pot negocia credibil. În cazul AGI-ului, acest mecanism se fracturează: capacitățile unei astfel de IA sunt greu de măsurat, informația este profund asimetrică, iar sistemele pot evolua mai repede decât abilitatea noastră de a le controla.Dacă AGI ar ajunge să dețină o parte semnificativă din resursele economice sau strategice, această asimetrie ar face pacea improbabilă. Nici soluțiile intuitive nu sunt garantate.

Încercarea de a „deconecta” o IA periculoasă s-ar putea dovedi ineficientă, dacă abilitățile ei sunt distribuite în infrastructuri de tip cloud sau replicate în alte locuri.

Goldstein imaginează scenarii în care astfel de agenți ar putea acționa autonom, ar forma alianțe ori ar dezvolta strategii noi fără știrea oamenilor.Pe de altă parte, experți precum Geoffrey Hinton consideră că există o probabilitate deloc neglijabilă ca IA să conducă, în deceniile următoare, la dispariția umanității, în absența unui cadru solid de control, scrie curiozitate.ro.Mesajul comun este limpede: guvernanța și reglementarea trebuie gândite înainte ca aceste tehnologii să atingă un nivel critic de putere și autonomie. Pe lângă chestiunile tehnice, miza este socială și politică. Cum gestionăm un posibil șomaj tehnologic de amploare?Cum redistribuim bogăția creată de sisteme automatizate? Ce garanții avem că deciziile critice nu vor fi delegate unor mașini cu obiective opace?Goldstein evocă soluții aflate pe masa de discuții: naționalizarea companiilor de IA suficient de puternice și distribuirea rentelor sub forma unui venit universal, pentru a preveni un dezechilibru sistemic.Sunt idei controversate, dar formulate cu scopul de a limita riscurile unui raport de forțe care ne scapă din mână. Scenariul rămâne, deocamdată, ipotetic. Totuși, numeroși experți insistă că planificarea trebuie să înceapă acum.Riscurile asociate AGI nu sunt doar o problemă de siguranță informatică; ating economia, echilibrul social și chiar continuitatea speciei.A înțelege aceste pericole, a anticipa conflictele posibile și a construi mecanisme robuste de control devine un imperativ, dacă vrem ca inteligența artificială să rămână un aliat, nu să se transforme într-un adversar.