Conform Mediafax: Claude, pe cale să redea majoritatea codului companiei

Anthropic, compania care dezvoltă chatbotul Claude, avertizează asupra unui riscmajor pentru următorii ani: apariția procesului de „auto-îmbunătățire recursivă”, în care inteligența artificială devine capabilă să își creeze și optimizeze singură versiunile viitoare. Conform analizei publicate de companie, aproximativ 80% din codul utilizat în prezent de Anthropic este deja generat de propriul chatbot, Claude. Această schimbare s-a produs într-un interval extrem de scurt, date fiind că la începutul lui 2025, majoritatea sarcinilor de codare erau realizate de programatori umani.

Calitatea codului generat de AI a crescut spectaculos, ajungând aproape de performanța umană. Anthropic estimează că sistemul ar putea depăși performanțele umane chiar în cursul acestui an. Pe lângă codare, Claude este utilizat activ în cercetare, acolo unde agenții AI au condus proiecte cu rezultate superioare celor obținute de echipele umane, deși au necesitat un timp de procesare mai lung.

De la asistent digital la sistem autonom de dezvoltare

Conceptul care îngrijorează cel mai mult compania este cel de „auto-îmbunătățire recursivă”. Acesta descrie un scenariu în care un model AI își poate proiecta și antrena singur versiuni mai performante ale sale, inițiind astfel un ciclu continuu de progres tehnologic. Această idee se apropie de conceptul de „singularitate tehnologică”, unde ritmul dezvoltării depășește capacitatea umană de înțelegere și control. Anthropic consideră că acest scenariu nu mai poate fi tratat ca o simplă ipoteză science-fiction.

Trei direcții pentru evoluția inteligenței artificiale

Compania a conturat trei posibile scenarii de evoluție. Primul este cel al unei încetiniri naturale a progresului, din cauza limitărilor hardware sau a dificultăților inerente modelelor actuale, fiind considerat cel mai puțin probabil.

Cel de-al doilea scenariu, considerat cel mai realist, anticipează apariția unor sisteme AI extrem de eficiente care vor transforma radical economia. Astfel, grupuri mici de oameni ar putea concura cu organizații mari, bazându-se pe agenți AI autonomi, în timp ce colaborarea strânsă între oameni și AI va fi esențială.

Al treilea scenariu este cel mai controversat, sugerând că dezvoltarea accelerată a AI ar putea reduce semnificativ rolul economic al oamenilor, în condițiile în care munca umană nu ar mai fi competitivă.

Cursa inteligenței artificiale, improbabil de oprit

Anthropic recunoaște că un acord global pentru decelerarea dezvoltării inteligenței artificiale este improbabil. Companiile tehnologice se află într-o competiție acerbă, iar Statele Unite și China consideră AI o tehnologie strategică națională. Orice actor care ar încetini voluntar dezvoltarea riscă să piardă în fața concurenței. Compania subliniază, paradoxal, că preocuparea sa pentru siguranță o obligă să continue investițiile. În viziunea sa, dacă organizațiile prudente ar încetini ritmul, avansul ar putea fi preluat de actori mai puțin preocupați de riscuri.

Sursa: Mediafax