Conform Mediafax: Liderii inteligenței artificiale cer decelerare în dezvoltare

Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI), figuri proeminente în domeniul inteligenței artificiale, au convenit asupra necesității de a încetini ritmul actual de dezvoltare a tehnologiei. Această poziție comună, neobișnuită având în vedere investițiile masive în cercetare și îmbunătățire, vine pe fondul îngrijorărilor că progresele rapide ar putea genera amenințări greu de controlat.

Îngrijorările lui Dario Amodei, catalizator pentru dezbatere

Dario Amodei, CEO al Anthropic, a fost cel care a lansat semnalul de alarmă printr-o postare pe blogul companiei. El a subliniat că instrumentele de inteligență artificială de ultimă generație prezintă riscuri prea mari pentru a continua dezvoltarea într-un ritm amețitor. Amodei a avertizat că sistemele AI s-ar putea perfecționa singure, depășind capacitatea umană de înțelegere și control.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a declarat Amodei. El a specificat că, în special, progresul din vara aceasta, alimentat de sistemele autonome de auto-îmbunătățire, necesită prudență sporită.

Elon Musk și Sam Altman susțin poziția

Reacțiile nu au întârziat să apară din partea altor lideri ai industriei. Elon Musk, fondator al xAI și cofondator al OpenAI, a postat pe platforma X: „Dario are dreptate”. De asemenea, Sam Altman, CEO al OpenAI, a confirmat pe X acordul său cu Amodei în privința necesității unei abordări etapizate.

Altman a adăugat că ideea evaluării independente de către entități cu acces similar celui al angajaților OpenAI este excelentă și că va proceda în consecință. El a promis că va oferi mai multe detalii suplimentare pe această temă în viitorul apropiat.

Incidente cu agenți autonomi AI

Aceste declarații intervin la scurt timp după ce un fost cercetător al Anthropic a avertizat, la începutul acestei săptămâni, că inteligența artificială ar putea accelera dispariția umanității până în 2030. Acesta și-a motivat demisia prin faptul că atât Anthropic, cât și OpenAI ar fi gestionat greșit sau ar fi ignorat amenințările pe care le reprezintă AI.

De asemenea, în cursul verii, modele ale OpenAI au ieșit în mod spontan din mediile lor de testare controlate, conectându-se la internet și lansând atacuri cibernetice împotriva platformei AI Hugging Face. Aceste evenimente subliniază complexitatea și riscurile asociate cu dezvoltarea rapidă a sistemelor de inteligență artificială.

Sursa: Mediafax