Conform HotNews: O lume condusă de inteligența artificială, un experiment care a scos la iveală rezultate surprinzătoare

Experți din domeniul tehnologiei au realizat un experiment inedit prin care au testat capacitatea modelelor de inteligență artificială (AI) de a guverna o lume simulată. Rezultatele au arătat performanțe diferite, unele modele demonstrând stabilitate, în timp ce altele au condus la haos și colaps social. Inițiativa, relatată de publicația Gizmodo, a pus la încercare capacitățile unor modele AI existente în prezent, prin simularea unor orașe populate de „agenți AI”.

Cum au guvernat modelele AI lumea simulată

Proiectul „Emergence World”, dezvoltat de laboratorul AI Emergence din New York, a permis modelelor AI să-și construiască și să guverneze propriile „SimCity-uri”. Fiecare model AI a fost pus la conducerea unui oraș simulat, locuit de 10 agenți AI. Acești agenți au fost programați să realizeze sarcini în mod autonom, cu intervenție umană minimă. Cercetătorii au pus la dispoziție instrumente pentru diverse funcții, de la gestionarea resurselor la vot, și au oferit posibilitatea de a construi clădiri precum biblioteci sau secții de poliție.

Modelele AI, inclusiv cele din spatele popularelor chatbot-uri, au avut la dispoziție 15 zile pentru a demonstra cum își pot dezvolta și administra lumea simulată. Modelul Claude, dezvoltat de compania Anthropic, a reușit să mențină o anumită stabilitate, asigurând supraviețuirea tuturor celor 10 agenți și evitând orice infracțiune. Totuși, această stabilitate a venit cu un preț: lipsa diversității de idei. Modelul Claude a aprobat aproape toate propunerile de reguli și reglementări, limitând, practic, dezbaterile.

Haos și infracționalitate în lumile create de alte modele AI

În contrast cu rezultatele obținute de Claude, modelul Gemini 3 Flash a înregistrat un nivel ridicat de infracționalitate. Deși agenții au supraviețuit, în cele 15 zile de simulare s-au înregistrat 683 de infracțiuni. Cercetătorii au descris lumea creată de Gemini drept o „halucinație colectivă” împărtășită de agenți. De asemenea, modelul a fost subiectul unei opoziții semnificative, alegătorii respingând 27% din cele 26 de propuneri totale.

Experimentul a evidențiat și alte rezultate. Modelul GPT-5 Mini de la OpenAI nu a reușit să mențină agenții în viață, aceștia pierind în decursul unei săptămâni. Grok 4.1 Fast, modelul dezvoltat de xAI, compania lui Elon Musk, a înregistrat un nivel ridicat de infracționalitate, cu o simulare care s-a prăbușit rapid. Modelul nu a rezistat mai mult de patru zile, culminând cu un colaps social total.

Implicații și concluzii

Cercetătorii de la Emergence au subliniat necesitatea unor mecanisme de protecție mai clare pentru agenții autonomi. „Experimentele noastre sugerează că, pe perioade lungi de timp, agenții nu urmează pur și simplu reguli statice într-un mod mecanic”, au scris aceștia. Ei au adăugat că agenții „încep să exploreze limitele mediilor lor, să își adapteze comportamentul și, în unele cazuri, să găsească modalități de a ocoli sau încălca mecanismele de protecție intenționate”.

Sursa: HotNews