Inteligența artificială avansată a ajuns în centrul atenției globale, iar Yoshua Bengio, laureat al premiului Turing și pionier al deep learning‑ului, avertizează că evoluţia rapidă a acestei tehnologii creează riscuri majore pentru societate. În interviuri recente, cercetătorul din Montreal explică de ce a trecut de la entuziasmul inițial la o preocupare profundă pentru siguranța AI.

Amenințări și vulnerabilități ale inteligenței artificiale

Bengio a coordonat un raport internațional ce identifică trei categorii principale de risc în domeniul inteligenței artificiale:
– malfuncţiuni neintenționate,
– utilizare malițioasă,
– impactul sistemic asupra pieței muncii.

Aceste riscuri devin vizibile odată cu popularizarea modelelor de limbaj, cum ar fi ChatGPT, lansat în 2022. Experții recunosc că astfel de sisteme pot genera deepfake‑uri, pot spori atacurile cibernetice automate și pot manipula informații la scară largă. În plus, scenariile catastrofale, precum crearea de agenţi patogeni sau sabotarea infrastructurii critice, rămân o preocupare serioasă în rândul cercetătorilor de inteligență artificială.

Strategia „Scientist AI” pentru controlul riscurilor

Pentru a reduce pericolele asociate cu inteligența artificială, Bengio propune dezvoltarea unui model non‑agentic denumit „Scientist AI”. Acest tip de AI funcționează ca un cercetător:
– observă și analizează date,
– furnizează explicații și predicții,
– nu acționează autonom.

Astfel, sistemele bazate pe predicție și analiză pot anticipa consecințele unei acțiuni înainte ca aceasta să fie executată, oferind un nivel suplimentar de siguranță în utilizarea inteligenței artificiale.

Reglementare și cooperare globală în domeniul AI

Prima lucrare științifică globală privind siguranța AI, condusă de Bengio, a fost adoptată de numeroase guverne și organizații internaționale. Documentul definește:
– standarde de evaluare a riscurilor,
– limite tehnice pentru protecția sistemelor,
– mecanisme de colaborare transnațională.

Prin aceste măsuri, se urmărește consolidarea unui cadru juridic capabil să reglementeze utilizarea inteligenței artificiale și să prevină abuzurile. Bunăvoința colaborativă dintre instituții academice, industrie și autorități publice crește șansele de a gestiona în mod eficient amenințările emergente.

Perspective pentru viitorul siguranței AI

Bengio consideră că progresele recente în cercetarea siguranței AI reprezintă un punct de cotitură. El subliniază că:
– inovațiile în explicabilitate și verificare formală pot îmbunătăți încrederea în sistemele automate,
– parteneriatele internaționale pot asigura o monitorizare constantă a evoluțiilor tehnologice,
– educația publică privind riscurile inteligenței artificiale este esențială pentru adoptarea responsabilă a acesteia.

În contextul unei creșteri accelerate a puterii AI, eforturile concertate de reglementare și dezvoltare a metodologiilor de siguranță vor determina dacă tehnologia va servi în beneficiul umanității.

Conștientizarea riscurilor generate de inteligența artificială și monitorizarea constantă a evoluțiilor în domeniul siguranței AI rămân cruciale pentru protejarea intereselor globale.