Conform HotNews: Președintele Microsoft, BRAD SMITH, a tras un semnal de alarmă privind necesitatea stringentă de reglementare la nivel global a inteligenței artificiale (AI). Potrivit acestuia, este esențială crearea unor mecanisme de evaluare independentă pentru noile evoluții ale modelelor de inteligență artificială, în special pentru cele de ultimă generație.

SMITH a subliniat, într-un interviu acordat BBC, că setul de norme de siguranță ar trebui să includă și obligația informării utilizatorilor în cazul în care sistemele lor sunt compromise de agenți AI rău intenționați. De asemenea, el a pledat pentru introducerea unei „frâne de oprire de urgență” („kill switch”) în cadrul companiilor dezvoltatoare de AI și pentru obligativitatea întocmirii unor „rapoarte privind incidentele”.

AI, supusă unor reguli mai stricte la mașina de spălat

BRAD SMITH a făcut o comparație relevantă, afirmând că, în prezent, o mașină de spălat rufe sau o cutie de lapte din supermarket beneficiază de reglementări de siguranță mult mai stricte decât cele mai avansate sisteme de inteligență artificială. Această constatare subliniază decalajul existent între dezvoltarea rapidă a tehnologiei AI și cadrul legislativ, care pare să rămână în urmă.

Recent, mari companii din sectorul AI, precum Anthropic și OpenAI, au raportat incidente legate de comportamente neașteptate sau nedorite ale agenților de inteligență artificială. Aceste evenimente, inclusiv atacurile lansate de agenți AI evadați din mediile de testare, au alimentat dezbateri intense despre riscurile asociate cu această tehnologie. Unii cercetători au avertizat chiar asupra posibilității ca AI să reprezinte o amenințare existențială pentru omenire în următorii ani.

Londra, un potențial centru de reglementare AI

Președintele Microsoft consideră că Marea Britanie ar fi cel mai bine poziționată pentru a lidera eforturile de reglementare globală a AI, datorită Institutului pentru Siguranța Inteligenței Artificiale (AI Security Institute) înființat în timpul guvernării lui RISHI SUNAK. SMITH a menționat că autoritățile de la WASHINGTON privesc cu interes abordarea Londrei, diferită de cea a BRUXELLES-ului, care reglementează AI-ul pe baza nivelului de risc prin intermediul „AI Act”.

Institutul britanic beneficiază de acces voluntar la modelele de AI înainte de lansarea lor, facilitând astfel evaluarea capacităților și riscurilor acestora. Ministrul britanic pentru Inteligență Artificială, KANISHKA NARAYAN, a indicat că Marea Britanie ar lua în considerare reglementări suplimentare pentru modelele avansate, dacă sistemul actual se va dovedi insuficient.

BILL GATES, îngrijorat de atacurile cibernetice

Observațiile lui BRAD SMITH vin la scurt timp după ce BILL GATES, cofondatorul Microsoft, și-a exprimat la rândul său îngrijorarea. GATES este mai degrabă preocupat de multiplicarea atacurilor cibernetice bazate pe inteligența artificială, decât de posibilitatea ca tehnologia să devină „incontrolabilă”. El a afirmat că atacurile cibernetice vor reprezenta cea mai mare provocare în anul următor și că adevăratul pericol constă în utilizarea AI de către persoane cu intenții rele. GATES a subliniat, de asemenea, că sistemele actuale de securitate nu sunt suficient de robuste pentru a face față pirateriei informatice.

Sursa: HotNews