Google a lansat un program global de recompense pentru vulnerabilități AI, cu premii de până la 30.000 de dolari. Inițiativa vizează protejarea produselor bazate pe inteligență artificială.

Cum funcționează programul de recompense lansat de Google

Programul de recompense invită cercetători și experți în securitate să identifice defecte în modele AI. Recompensele variază în funcție de gravitatea descoperirii și impactul potențial asupra securității AI.

– Vulnerabilități critice: până la 30.000 de dolari.
– Probleme serioase: până la 20.000 de dolari.
– Defecte moderate: până la 10.000 de dolari.

De ce este esențială securitatea în era inteligenței artificiale

Modelul AI poate fi exploatat prin atacuri de tip prompt injection. Acestea pot expune date sensibile sau permite control neautorizat al conturilor.

Google excludă din recompense conținutul generat, cum ar fi informațiile false. Aceasta se consideră o problemă etică, nu o vulnerabilitate tehnică.

Alte companii de tehnologie, precum Microsoft și Meta, au adoptat scheme similare. Eforturile comune reflectă necesitatea unei protecții robuste pentru sistemele AI.

Din octombrie 2023, Google a plătit peste 430.000 de dolari pentru rapoarte de vulnerabilități AI. Noua inițiativă extinde acest model la nivel mondial.

Programul de recompense pentru vulnerabilități AI subliniază importanța monitorizării continue a securității. Utilizatorii și cercetătorii sunt încurajați să raporteze orice anomalie pentru a menține încrederea în tehnologie.