Conform HotNews: Experți AI avertizează asupra unei „explozii a inteligenței”

nnDoi dintre cercetătorii considerați „părinții” inteligenței artificiale moderne, împreună cu directori de rang înalt de la OpenAI și Anthropic, lansează un avertisment către guverne: acestea trebuie să se pregătească pentru o „explozie a inteligenței” în domeniul AI, un eveniment ce ar putea deveni cea mai importantă evoluție tehnologică din istorie. Laureatul Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, nume de referință în AI, publică un raport în care cer politicienilor să acționeze acum, înainte ca progresul să scape de sub control.

nnRaportul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este semnat de peste 20 de experți, inclusiv Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetător-șef la OpenAI. YANN LECUN, al treilea „naș” al AI, nu a participat la redactarea documentului.

Tehnologia AI se îmbunătățește singură, un risc major

nnPreocuparea centrală a autorilor este posibilitatea ca sistemele AI să își poată îmbunătăți singure capacitățile, un proces numit „autoîmbunătățire recursivă”. Acest fenomen, denumit „cercetare și dezvoltare automatizată”, ar putea permite unui singur dezvoltator să coordoneze o forță de muncă echivalentă cu milioane de cercetători umani.

nnAutomatizarea cercetării și dezvoltării AI este considerată cea mai probabilă sursă a unei explozii a inteligenței, întrucât sistemele AI contribuie deja la propria lor îmbunătățire. Evoluțiile rapide ar putea comprima ani de progres în luni sau chiar mai puțin, amenințând controlul uman și perturbând echilibrul puterii.

Apel la intervenții guvernamentale proactive

nnAutorii subliniază urgența intervenției guvernamentale, afirmând că „fereastra de oportunitate pentru a acționa s-ar putea închide odată ce începe o explozie a inteligenței”.

nnSunt recomandate trei priorități de politică publică: impunerea unor rapoarte transparente privind progresul în cercetarea și dezvoltarea AI, inclusiv prin auditori independenți; limitarea ritmului extrem de rapid al dezvoltării AI; și pregătirea pentru adaptarea la o astfel de „explozie”.

nnAtât Anthropic, cât și OpenAI colaborează cu evaluatori independenți, recunoscând punctele critice legate de siguranța dezvoltării AI. Anthropic afirmă că AI-ul produce deja 80% din propriul cod sursă, în timp ce OpenAI folosește agenți autonomi pentru antrenarea modelelor noi.

nnLucrarea sugerează că o explozie a inteligenței bazată pe software este posibilă, conducând la dezvoltarea rapidă a sistemelor AI superioare capacităților umane. Riscurile semnalate includ apariția unor amenințări biologice și cibernetice greu de contracarat, pierderea controlului uman asupra sistemelor și utilizarea avantajelor AI pentru dominare geopolitică. Deși incerte, aceste efecte necesită o pregătire urgentă la cel mai înalt nivel guvernamental.

Măsuri concrete pentru gestionarea riscurilor AI

nnExperții propun măsuri specifice guvernelor pentru a aborda potențialul unei explozii a inteligenței. Printre acestea se numără raportarea transparentă a progresului în cercetarea și dezvoltarea AI, cu implicarea auditorilor independenți.

nnDe asemenea, se recomandă limitarea vitezei de auto-îmbunătățire a AI, colaborarea cu centrele de date pentru suspendarea anumitor proiecte de cercetare și dezvoltare și asigurarea izolării complete a sistemelor automate de cercetare și dezvoltare AI. Crearea unor „planuri de răspuns în situații de urgență” este, de asemenea, esențială.

nnChiar dacă sistemele AI prezintă încă deficiențe, proiectele de cercetare și dezvoltare care ar dura luni pentru oameni ar putea fi automatizate complet de AI până în 2028. Câștigurile de productivitate din automatizarea R&D AI nu au atins încă pragul critic, dar sistemele noi se apropie de acesta.

Sursa: HotNews