Statul Florida a deschis un proces juridic împotriva companiei OpenAI și a directorului său executiv, Sam Altman, acuzându-i că nu au gestionat corespunzător riscurile asociate chatbotului ChatGPT, în special în cazul utilizatorilor minori.
Procurorul general al statului, James Uthmeier, susține că OpenAI ar fi ignorat avertismente interne și externe privind siguranța produsului și ar fi permis accesul la o tehnologie care putea pune în pericol copiii și adolescenții.
Printre acuzațiile prezentate în proces se află cazul unui adolescent de 16 ani, Adam Raine, care ar fi discutat cu ChatGPT despre gândurile sale suicidare. Potrivit autorităților din Florida, chatbotul nu ar fi încercat să îl descurajeze și ar fi oferit răspunsuri considerate problematice în contextul stării sale emoționale. Tânărul și-a luat ulterior viața.
Procurorii mai susțin că persoana acuzată de atacul armat de anul trecut de la Florida State University ar fi folosit ChatGPT în etapa de planificare a atacului.
OpenAI respinge acuzațiile și afirmă că a implementat numeroase măsuri de protecție pentru utilizatorii minori. Compania spune că a introdus filtre suplimentare de siguranță, sisteme de estimare a vârstei utilizatorilor și instrumente care permit părinților să monitorizeze modul în care copiii folosesc inteligența artificială.
În ceea ce privește atacul de la universitate, OpenAI susține că ChatGPT a oferit doar informații generale, disponibile deja în surse publice de pe internet.
Autoritățile din Florida cer despăgubiri de ordinul miliardelor de dolari și solicită modificarea unor aspecte ale modului în care funcționează chatbotul.