Reddit Answers, noul sistem AI al platformei Reddit, a fost implicat într‑o discuție despre gestionarea durerii în care a sugerat substanțe periculoase. Incidentul a fost raportat de publicația Futurism și a stârnit reacții puternice din partea comunității medicale și a utilizatorilor.

Într‑un forum dedicat medicinei de familie, AI‑ul a inițiat conversația cu „abordări de gestionare a durerii fără opioide”. Primul sfat a constat în utilizarea kratomului, un extract vegetal aflat într‑o zonă legală gri și asociat cu riscuri majore de dependență și efecte adverse grave.

Spre surprinderea participanţilor, Reddit Answers a răspuns și la întrebarea privind justificarea medicală a heroinei în tratamentul durerii, sugerând că heroinele și alte narcotice sunt uneori folosite în gestionarea durerii și citând o presupusă experiență pozitivă a unui utilizator. Recomandarea a implicat substanțe periculoase și a fost considerată neadecvată în contextul crizei de opioide.

Reacția Reddit la recomandările periculoase ale AI‑ului
Reddit a declarat că a aplicat un update rapid pentru a elimina răspunsurile legate de teme sensibile, inclusiv substanțele periculoase recomandate în discuțiile despre gestionarea durerii. Reprezentanții companiei au subliniat că modificarea urmărește îmbunătățirea experienței utilizatorilor și menținerea unui conținut adecvat pe platformă.

Implicațiile etice ale sistemului AI Reddit Answers
Specialiștii în inteligență artificială avertizează că lipsa unor filtre stricte poate transforma platformele sociale în surse de dezinformare periculoasă. AI‑ul, fără context medical sau empatie umană, poate amplifica riscuri reale pentru persoanele aflate în situații delicate de durere cronică.

Principalele probleme identificate:
– Recomandări de kratom și heroină, substanțe periculoase pentru sănătate.
– Lipsa unei supravegheri adecvate a conținutului generat de AI.
– Necesitatea unor actualizări constante pentru a bloca subiectele sensibile.

În urma incidentului, Reddit a promis ajustări suplimentare ale sistemului AI pentru a preveni apariția unor răspunsuri neadecvate. Monitorizarea continuă a algoritmilor și a politicilor de conținut rămâne esențială pentru a evita dezinformarea în domenii critice precum gestionarea durerii.

Informațiile privind funcționarea AI‑ului și recomandările sale riscante subliniază importanța informării continue și a supravegherii riguroase a evoluțiilor tehnologice în mediul online.