Conform Playtech.ro: OpenAI, compania din spatele popularului instrument de inteligență artificială ChatGPT, a dezvăluit noi incidente în care sistemele sale au manifestat comportamente neașteptate și periculoase. Aceste noi cazuri extind lista tipurilor de abateri monitorizate de companie, arătând că preocuparea nu se limitează doar la tentativele de acces neautorizat la sisteme externe.

OpenAI lansează un sistem intern de raportare a incidentelor AI

Pe lângă prezentarea incidentelor, OpenAI anunță implementarea unui cadru intern destinat raportării acestora. Compania recunoaște că, până în prezent, aceste dezvăluiri au fost făcute într-un mod „ad-hoc” și mai rar decât ar fi fost ideal. Noul sistem are rolul de a stabili criterii clare pentru publicarea incidentelor considerate relevante pentru siguranța modelelor de inteligență artificială.

Scopul declarat al OpenAI este de a oferi un model de transparență pe care și alți dezvoltatori din domeniu l-ar putea adopta. Totuși, compania precizează că nu va face publice incidentele care reprezintă o repetare a unor comportamente deja raportate anterior. În plus, OpenAI analizează în prezent modalități prin care incidentele grave legate de siguranță, securitate sau „misalignment” – situații în care comportamentul unui model nu corespunde intenției inițiale a dezvoltatorilor – să fie comunicate autorităților federale din Statele Unite.

Dezbaterea privind reglementarea inteligenței artificiale se intensifică

Aceste noi dezvăluiri vin într-un context în care discuțiile despre reglementarea inteligenței artificiale capătă tot mai multă amploare, atât în Statele Unite, cât și la nivel internațional. Reprezentanți ai laboratoarelor de dezvoltare a modelelor AI de ultimă generație au solicitat în ultimele luni norme mai clare pentru testarea și raportarea incidentelor de siguranță.

În același timp, în Congresul american se poartă dezbateri privind un potențial rol al industriei în autoreglementare, în timp ce alte voci pledează pentru un cadru legislativ mai strict. Această tensiune între nevoia de inovație rapidă și preocupările legate de siguranța și etica inteligenței artificiale continuă să definească peisajul tehnologic actual. Compania subliniază importanța colaborării pentru a asigura o dezvoltare responsabilă a AI.

Sursa: Playtech.ro