Conform Mediafax: Inteligența Artificială: Risc Existențial sau Frică Neîntemeiată? Liderii din domeniu cer încetinirea dezvoltării, în timp ce alții contestă

Dezbaterea privind potențialele riscuri existențiale generate de inteligența artificială (AI) a luat amploare recent, după ce cercetători importanți din companii de profil au exprimat îngrijorări profunde. Jacob Coxon de la Anthropic a avertizat, la începutul lunii septembrie, că sistemele AI ar putea scăpa de sub control, declarația sa devenind virală. Ulterior, Evan Hubinger, tot de la Anthropic, a estimat o probabilitate de peste 10% ca omenirea să dispară în următorul deceniu din cauza AI.

Cum ar putea AI să devină o amenințare existențială

Scenariile alarmiste postulează că sistemele AI viitoare ar putea depăși cu mult capacitățile umane și că obiectivele lor ar putea intra în conflict cu interesele speciei umane. Un exemplu frecvent invocat este cel în care o superinteligență, având un obiectiv aparent benign, îl urmărește într-un mod catastrofal pentru oameni. Alte posibilități discutate includ utilizarea AI pentru dezvoltarea de arme biologice sau alte acțiuni cu efecte globale devastatoare. Totuși, unii experți, precum Michael Vermeer de la RAND, consideră că aceste predicții se bazează pe numeroase presupuneri neverificabile, transformând discuția într-una mai degrabă bazată pe credință.

Riscuri mai concrete și imediate

Analizele mai concrete, precum cele realizate de RAND și citate de revista Nature, examinează riscuri asociate armelor nucleare, biotehnologiei sau modificărilor atmosferice. Aceste studii sugerează că extincția totală prin arme nucleare este mai puțin probabilă în scenariile analizate, dar alte tipuri de dezastre nu pot fi excluse. Totuși, un factor crucial este timpul necesar pentru ca un sistem AI să provoace un dezastru. AI ar avea nevoie de o capacitate semnificativă de a interacționa fizic cu lumea, iar acțiunile sale ar putea fi detectate și oprite înainte de a deveni ireversibile.

Cercetătorii specializați în siguranța AI subliniază însă existența unor riscuri mai apropiate și mai concrete. Acestea includ dezinformarea pe scară largă, atacurile cibernetice sofisticate, facilitarea dezvoltării armelor biologice, erorile grave în sisteme critice și utilizarea modelelor AI în situații unde lipsa de fiabilitate poate avea consecințe nefaste.

Capabilități îngrijorătoare ale modelelor AI actuale

Companiile de AI au publicat propriile evaluări privind riscurile. Anthropic a demonstrat că modelele sale pot îndeplini sarcini din domeniul militar și al dezvoltării de arme la un nivel comparabil cu experți umani. OpenAI a raportat că modelul său GPT-6 Astra a atins un nivel „critic” în securitate cibernetică, putând identifica vulnerabilități necunoscute și metode de exploatare a sistemelor protejate. Aceste constatări au determinat companiile să implementeze măsuri suplimentare de siguranță și monitorizare.

De ce cer companiile AI o încetinire

Directorii companiilor mari de inteligență artificială, precum Dario Amodei de la Anthropic, Sam Altman de la OpenAI și Elon Musk de la xAI, susțin necesitatea unei dezvoltări mai lente. Aceștia pledează pentru ca măsurile de siguranță să țină pasul cu evoluția rapidă a capacităților AI. Anthropic a anunțat un program de audituri independente și intenționează să investească masiv, alături de Accenture, în evaluarea practicilor de securitate. OpenAI solicită stabilirea unor standarde internaționale de siguranță și a unor condiții clare pentru temporizarea sau oprirea dezvoltării sistemelor avansate.

Controverse privind reglementarea dezvoltării AI

Există însă și voci opuse încetinirii ritmului. Donald Trump s-a pronunțat public împotriva unor astfel de solicitări. În Statele Unite, inițiative legislative propuse de senatori precum Bernie Sanders vizează interzicerea dezvoltării „superinteligenței artificiale” și impunerea unei pauze în cercetarea AI avansată, până la stabilirea unor reguli federale. Pe plan global, lipsa unui cadru unic de reglementare și competiția tehnologică dintre SUA și China complică eforturile de coordonare internațională.

Ceea ce este cert este că modelele AI demonstrează capacități în creștere în domenii precum programarea, securitatea cibernetică și analiza problemelor complexe. Companiile recunosc faptul că AI începe să accelereze chiar și procesul de dezvoltare al generațiilor viitoare de sisteme, alimentând discuțiile despre auto-îmbunătățirea AI. Cercetătorii continuă să analizeze cât de bine pot fi măsurate și controlate aceste riscuri, înainte ca sistemele AI să depășească cu mult capacitățile actuale.

Sursa: Mediafax