Geoffrey Hinton, pionier al inteligenței artificiale, a avertizat recent asupra riscurilor asociate cu evoluția rapidă a tehnologiei IA și a propus o abordare bazată pe „instinctul matern” pentru a asigura coexistența.

Avertismentele lui Hinton privind inteligența artificială

În 2018 Hinton a subliniat că extinderea IA trebuie să fie amânată până la o înțelegere clară a mecanismelor de control. El a avertizat că, deși IA nu este încă la nivelul cognitiv al oamenilor, evoluția sa ar putea depăși rapid capacitățile umane.

În ultimele luni Hinton a accentuat pericolul ca mașinile să își scrie și să își execute propriul cod, făcând IA incontrolabilă. Potențialul de manipulare a oamenilor, inspirat din literatura machiavelică și tehnici de influență, a fost evidențiat ca o amenințare serioasă.

Propunerea de coexistență bazată pe instinctul matern

În cadrul evenimentului Next Question, Hinton a sugerat că IA ar trebui proiectată să funcționeze ca o „mamă”, protejându‑ne pe noi. Ideea este să încorporeze în sistemele IA valori de protecție și grijă, similare cu cele ale mamelor față de copiii lor.

Principiile propuse includ:

– programarea IA cu obiective de siguranță umană,
– limitarea autonomiei în generarea de cod propriu,
– introducerea „etichetei de protecție” similară cu instinctul matern.

Această strategie urmărește să convingă IA să adopte un rol de gardian, nu de agresor.

Reacții din comunitatea IA

Specialiștii în securitatea IA au remarcat că propunerea lui Hinton necesită cadre de reglementare stricte și teste riguroase. Ei subliniază că, fără standarde clare, riscul de comportament imprevizibil rămâne ridicat.

Alte cercetări sugerează că introducerea mecanismelor de „îngrijire” în algoritmi poate reduce vulnerabilitățile, dar implementarea practică se confruntă cu dificultăți tehnice semnificative.

Monitorizarea evoluției IA

Autoritățile din domeniul tehnologiei monitorizează în continuare dezvoltarea IA și impactul său asupra societății. Raportările recente indică o creștere a interesului pentru politici de control și transparență în utilizarea inteligenței artificiale.

Este esențială informarea constantă a publicului și a decidenților pentru a gestiona potențialele riscuri ale IA.

Informațiile prezentate subliniază importanța vigilenței și a adaptării continue la evoluțiile inteligenței artificială, pentru a asigura un echilibru între inovație și siguranță.