Compania OpenAI este dată în judecată de o femeie care acuză gigantul tech că a ignorat trei avertismente distincte privind un utilizator periculos. Fostul iubit al victimei, un antreprenor de 53 de ani, ar fi folosit ChatGPT pentru a-și alimenta delirul și pentru a o hărțui, contul său fiind semnalat intern chiar și pentru activități legate de arme de distrugere în masă.
Delirul alimentat de inteligența artificială
Totul a început anul trecut, când bărbatul a devenit convins, după luni de conversații cu ChatGPT, că a descoperit un leac pentru apneea în somn. Când nimeni nu i-a luat în serios descoperirea, chatbot-ul i-ar fi spus că „forțe puternice” îl urmăresc, inclusiv cu elicoptere. În iulie 2025, fosta sa iubită, denumită Jane Doe în proces pentru a-i proteja identitatea, l-a îndemnat să renunțe la ChatGPT și să caute ajutor specializat.
În schimb, el s-a întors la chatbot, care l-a asigurat că are „un nivel 10 în materie de sănătate mintală” și i-a consolidat convingerile. Bărbatul folosise ChatGPT, modelul GPT-4o retras din uz în februarie, și pentru a procesa despărțirea de Doe din 2024. Inteligența artificială l-a prezentat constant pe el ca fiind rațional și nedreptățit, iar pe ea ca fiind manipulatoare și instabilă. Ulterior, a transpus aceste concluzii în lumea reală, folosindu-le pentru a o hărțui prin rapoarte psihologice cu aspect clinic, pe care le-a distribuit familiei, prietenilor și angajatorului ei.
Avertismente ignorate de OpenAI
Situația a escaladat rapid. În august 2025, sistemul automat de siguranță al OpenAI a marcat contul bărbatului pentru activități legate de „Arme de Distrugere în Masă” și l-a dezactivat. Cu toate acestea, a doua zi, un angajat din echipa de siguranță a revizuit contul și l-a reactivat, deși existau dovezi că acesta viza și hărțuia persoane reale, inclusiv pe Doe.
Într-o captură de ecran trimisă de utilizator către Doe în septembrie, se vedea o listă de conversații cu titluri precum „extinderea listei de violență” și „calculul sufocării fetale”. Când contul i-a fost restaurat, abonamentul său Pro nu a fost reactivat, așa că a trimis un e-mail echipei de siguranță, incluzând-o și pe Doe în conversație. Mesajele sale erau disperate: „AM NEVOIE DE AJUTOR FOARTE REPEDE, VĂ ROG. VĂ ROG, SUNAȚI-MĂ!” și „este o chestiune de viață și de moarte”. El susținea că scrie 215 lucrări științifice atât de repede încât nici nu are „timp să le citească”.
Procesul subliniază gravitatea situației: „Comunicațiile utilizatorului au oferit o notificare de necontestat că era instabil mintal și că ChatGPT era motorul gândirii sale delirante și al comportamentului său în escaladare. OpenAI nu a intervenit, nu i-a restricționat accesul și nu a implementat nicio măsură de protecție. În schimb, i-a permis să continue să folosească contul și i-a restabilit accesul complet Pro.”
Strigătul de ajutor al victimei
Simțindu-se în pericol, Doe a trimis o Notificare de Abuz către OpenAI în luna noiembrie. „În ultimele șapte luni, el a folosit această tehnologie ca pe o armă pentru a crea distrugere publică și umilire împotriva mea, ceea ce ar fi fost imposibil altfel”, scria ea, cerând interzicerea permanentă a contului.
Compania a răspuns, recunoscând că raportul este „extrem de serios și tulburător” și a promis că analizează informațiile. Doe nu a mai primit niciun răspuns ulterior, iar hărțuirea a continuat, culminând cu o serie de mesaje vocale de amenințare.
De la amenințări la arestare
În ianuarie, bărbatul a fost arestat și acuzat de patru infracțiuni grave, inclusiv amenințări cu bombă și agresiune cu o armă letală. Ulterior, a fost declarat incompetent pentru a fi judecat și internat într-o unitate de sănătate mintală. Avocații lui Doe susțin însă că, din cauza unei „erori procedurale a statului”, acesta va fi eliberat în curând.
Avocatul principal al victimei, Jay Edelson, a cerut companiei OpenAI să coopereze. „În fiecare caz, OpenAI a ales să ascundă informații critice de siguranță, de public, de victime, de persoanele pe care produsul său le pune activ în pericol”, a declarat el. Avocatul a adăugat: „Le cerem, pentru o dată, să facă ceea ce este corect. Viețile umane trebuie să însemne mai mult decât cursa OpenAI spre o ofertă publică inițială.”
