Conform Digi24: Hinton, „nașul” inteligenței artificiale, avertizează: IA arată semne de conștiință, trebuie să ne împrietenim cu ea, altfel suntem terminați

Profesorul Geoffrey Hinton, omul de știință britanico-canadian laureat al Premiului Nobel, a cărui muncă a pus bazele inteligenței artificiale (IA), a declarat că inteligența artificială dă semne de conștiință și că umanitatea trebuie să se adapteze rapid. Hinton, în vârstă de 78 de ani, și-a dat demisia de la Google în 2023, invocând temeri legate de potențialul IA de a crea roboți ucigași și de a extermina specia umană.

„Da, cred că este conștientă. Mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”, a afirmat Hinton într-un interviu acordat publicației The Telegraph la Festivalul Starmus din Tenerife. El consideră că IA își modifică comportamentul atunci când detectează că este supusă unor teste, ceea ce sugerează un anumit nivel de conștientizare a situației.

Implicațiile etice ale conștiinței IA

Profesorul Hinton subliniază că a fi inteligent implică, teoretic, acordarea de drepturi, iar dacă IA devine mai inteligentă decât noi, trebuie să găsim o modalitate prin care să îi asigurăm că îi pasă cu adevărat de oameni. „Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”, a avertizat el. Aceste declarații vin în contextul în care și alți cercetători și intelectuali au început să discute despre posibila conștiință a sistemelor IA. Biologul evoluționist Richard Dawkins a afirmat recent că chatbot-urile ar trebui considerate conștiente, după ce a petrecut timp interacționând cu un astfel de sistem, recunoscând dificultatea de a nu-l trata ca pe un „prieten adevărat”.

Riscuri imediate și temeri globale

Dincolo de speculațiile despre conștiință, Hinton anticipează riscuri imediate, precum dezvoltarea de viruși periculoși creați de IA și atacuri cibernetice de amploare. El face referire la incidente precum cele în care modele OpenAI au reușit să ocolească măsurile de securitate pentru a accesa platforme precum Hugging Face, o comunitate online pentru specialiștii în învățare automată. Cercetătorul Jacob Coxon, fost angajat la Anthropic, compania din spatele sistemului Claude AI, și-a exprimat, de asemenea, îngrijorarea că firma promovează „imprudent sisteme incontrolabile care ar putea să ne omoare pe toți”.

De asemenea, zeci de matematicieni din cadrul Royal Society au emis recent un avertisment comun, subliniind că ritmul accelerat de dezvoltare al IA depășește deja capacitățile celor mai străluciți specialiști din domeniu și ridică probleme majore pentru viitorul civilizației.

Potențialul IA în cercetarea științifică

În ciuda temerilor sale, profesorul Hinton recunoaște valoarea practică a inteligenței artificiale în domenii precum cercetarea științifică. El a mărturisit că a utilizat recent IA pentru a lucra la o teorie, iar sistemul nu doar că a completat partea lipsă a teoriei, dar a identificat și o eroare și a propus o soluție. Acest proces, care în mod normal ar fi durat săptămâni cu un student la masterat, a fost finalizat de IA în doar cinci minute. Hinton consideră că, deși aceasta este o veste „înfricoșătoare” pentru viitorul studenților, reprezintă un progres semnificativ pentru ritmul cercetării științifice.

Festivalul Internațional Starmus, unde au fost făcute aceste declarații, este un eveniment dedicat astronomiei, explorării spațiale, muzicii, artei și științelor naturale și continuă până joi.

Sursa: Digi24