Conform Mediafax: ONU trage un semnal de alarmă cu privire la dezvoltarea rapidă a inteligenței artificiale, cerând implementarea urgentă a unui sistem de guvernanță globală pentru a preveni ca tehnologia să scape de sub controlul uman. Înaltul Comisar al ONU pentru Drepturile Omului, VOLKER TURK, a avertizat că sistemele de IA tot mai autonome ar putea depăși capacitatea oamenilor de a le controla, prezentând un risc existențial pentru umanitate.

Linii roșii pentru inteligența artificială

Declarațiile au fost făcute luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului. VOLKER TURK a subliniat necesitatea stabilirii unor „linii roșii” comune pentru dezvoltarea și utilizarea inteligenței artificiale, în special pentru țările care găzduiesc infrastructura relevantă și cele implicate în lanțurile de aprovizionare. Oficialul ONU a cerut, de asemenea, verificarea independentă a sistemelor de IA și o cooperare mai strânsă între companiile din industrie privind siguranța. Intenționează să trimită o scrisoare companiilor din sector pentru a le îndemna să ia măsuri în vederea reducerii riscurilor.

Modelele IA, tot mai autonome

Modelele generative de inteligență artificială demonstrează deja o capacitate crescândă de a executa sarcini complexe și de a lua decizii fără o intervenție umană constantă. Anumite sisteme pot identifica singure pașii necesari pentru a finaliza o sarcină, depășind simpla execuție a instrucțiunilor succesive. Această autonomie tot mai mare ridică însă întrebări legate de supravegherea și limitarea comportamentului lor. VOLKER TURK a avertizat explicit că „o inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”.

Impactul IA asupra societății

Riscurile asociate inteligenței artificiale nu se limitează doar la potențiala autonomie excesivă. ONU atrage atenția și asupra impactului pe care tehnologia îl poate avea asupra vieții cotidiene. VOLKER TURK a cerut evaluarea atentă a efectelor inteligenței artificiale asupra pieței muncii, democrației, mediului și asupra drepturilor fundamentale ale omului. De asemenea, oficialul a criticat concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și indivizi, argumentând că dezvoltarea IA trebuie să fie însoțită de reglementări menite să protejeze drepturile oamenilor.

Uniunea Europeană și Coreea de Sud au adoptat deja măsuri pentru limitarea riscurilor din mediul digital și din domeniul inteligenței artificiale. În UE, Digital Services Act (DSA) impune marilor platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, să respecte cerințe de transparență și să acționeze împotriva conținutului ilegal. Coreea de Sud a introdus, la rândul său, reguli dedicate IA, inclusiv obligația de a informa utilizatorii despre interacțiunile cu sistemele de IA și cerințe de transparență pentru conținutul generat artificial. Totuși, VOLKER TURK a recunoscut că recunoașterea necesității unor reglementări nu s-a transpus încă suficient în măsuri concrete.

Sursa: Mediafax