Conform Playtech.ro: Inteligența artificială generativă a demonstrat, în premieră, capacitatea de a proiecta secvențe genetice funcționale pentru virusuri, ridicând noi semne de întrebare privind biosiguranța și biosecuritatea globală. Experimentele desfășurate de cercetători subliniază rapiditatea cu care domeniul de aplicare al AI se extinde, depășind simpla generare de informații false sau atacuri cibernetice. Acum, modelele avansate dobândesc abilități relevante în domenii biologice sensibile, un aspect ce necesită o atenție sporită.

Pericolul proiectării de agenți patogeni

Marea problemă apare când ne întrebăm ce alte entități biologice ar putea fi proiectate de inteligența artificială. Rezultatele recente ale experimentelor atrag atenția asupra riscurilor reale de biosiguranță și biosecuritate. Tehnologia capabilă să compună genomuri virale există deja, însă mecanismele de guvernanță necesare pentru controlul acesteia nu au evoluat în același ritm. Aceasta nu înseamnă că un simplu chatbot ar putea crea un virus uman complet nou, dat fiind că bacteriile utilizate în experimente au genomuri foarte mici și au reprezentat ținte relativ simple.

Tom Ellis, profesor de inginerie a genomului sintetic la Imperial College London, subliniază că trecerea la organisme sau virusuri mult mai complexe ar fi considerabil mai dificilă. Totuși, pericolul nu poate fi ignorat. Un model AI antrenat intenționat pe material genetic provenit de la agenți patogeni periculoși ar putea, teoretic, deveni un instrument pentru proiectarea unor variante biologice nedorite.

Abordări multistrat pentru siguranță

Prevenirea unor astfel de scenarii impune măsuri stricte de control al accesului la date, verificarea secvențelor comandate pentru sintetizare și securitatea laboratoarelor. Incidentele legate de biosecuritatea laboratoarelor au demonstrat deja importanța controlului materialelor biologice, chiar și în absența implicării inteligenței artificiale.

Specialiștii propun o abordare în mai multe straturi pentru a gestiona aceste riscuri. Aceasta include introducerea unor măsuri de siguranță direct în modelele AI, controlul accesului la anumite instrumente specifice, evaluarea atentă a cercetărilor propuse, verificarea riguroasă a secvențelor de ADN înainte de sintetizare și implementarea unor reguli stricte de biosecuritate în laboratoare. Tom Inglesby și Moritz Hanke, de la Johns Hopkins Center for Health Security, avertizează că tehnologia capabilă să compună genomuri virale există deja, în timp ce mecanismele de guvernanță necesare pentru controlarea ei nu au evoluat în același ritm.

Experimentul de la Stanford nu sugerează că AI poate crea orice virus sau că apariția unor agenți patogeni proiectați artificial este iminentă. El demonstrează însă un lucru ce până recent ținea mai degrabă de domeniul teoriei: un model generativ poate concepe genomuri virale complete care, odată sintetizate, devin virusuri funcționale. Această capacitate poate fi un instrument extraordinar pentru medicină, dar și o tehnologie ce va necesita limite atent stabilite.

Sursa: Playtech.ro