Temerile că inteligența artificială ar putea ajunge să scape de sub control și chiar să amenințe existența umanității au revenit în centrul dezbaterii publice, după o serie de avertismente venite din interiorul unora dintre cele mai importante companii din domeniu. Dezbaterea a căpătat amploare după ce Jacob Coxon, cercetător la Anthropic, a anunțat la începutul lunii septembrie că părăsește compania, invocând teama că sistemele dezvoltate în prezent ar putea scăpa de sub control. Postarea lui Coxon a ajuns la peste 100 de milioane de vizualizări într-o singură zi. Ulterior, Evan Hubinger, care coordonează cercetarea privind alinierea sistemelor AI la valorile și obiectivele umane la Anthropic, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10%.
Directorul general al Anthropic, Dario Amodei, a cerut ulterior ca ritmul dezvoltării sistemelor AI de vârf să fie încetinit, dar nu oprit. Ideea a fost susținută public și de directorii OpenAI și xAI, Sam Altman și Elon Musk. Scenariile invocate de cercetătorii preocupați de riscul existențial pornesc, în general, de la două presupuneri: că sistemele viitoare ar putea depăși radical capacitățile cognitive umane și că obiectivele lor nu ar fi aliniate cu… CITEȘTE CONTINUAREA!
Adaugă-ne ca sursă preferată în Google