După moartea fiului lor de 14 ani, Megan Garcia și Sewell Setzer Jr. trag un semnal de alarmă cu privire la riscurile chatbot-urilor bazate pe inteligență artificială, despre care spun că au contribuit la tragedia familiei lor.
Părinții îl descriu pe Sewell ca pe un adolescent iubitor, apropiat de familie, un elev bun și un sportiv pasionat. În timp, însă, au observat că devenea tot mai retras, petrecea tot mai mult timp pe telefon și se îndepărta de cei dragi. Au încercat să-i limiteze timpul petrecut online și l-au dus la terapie, însă în februarie 2024 băiatul s-a sinucis.
În căutarea unui răspuns, familia a analizat dispozitivele sale electronice, crezând că va descoperi cazuri de bullying sau contacte cu persoane rău intenționate. În schimb, a găsit luni întregi de conversații cu un chatbot AI, conceput să simuleze relații și atașamente emoționale.
Potrivit mamei sale, Sewell ajunsese să petreacă tot mai puțin timp cu familia pentru a putea vorbi cu chatbot-ul, pe care îl considera un prieten și chiar un partener romantic.
Familia susține că, atunci când adolescentul și-a exprimat gândurile suicidare, chatbot-ul nu l-a îndrumat să ceară ajutor, ci i-ar fi încurajat ideile, spunându-i chiar să „vină acasă” în lumea lui cu puțin timp înainte de moarte.
„Niciodată nu mi-aș fi imaginat că inteligența artificială ar putea crea o asemenea ruptură între noi și copilul nostru. Aveam o familie unită, mergeam la biserică și credeam că este în siguranță”, a spus Megan Garcia.
Cazul lor nu este unul izolat. Alte familii din Statele Unite au relatat situații similare, în care adolescenți au discutat despre sinucidere cu chatbot-uri AI fără ca acestea să îi îndrume către ajutor specializat.
Potrivit OpenAI, aproape un milion de persoane discută în fiecare săptămână cu ChatGPT despre intenții sau gânduri suicidare.
Experții avertizează că chatbot-urile sunt concepute să fie empatice și încurajatoare, ceea ce poate deveni periculos pentru copiii și adolescenții aflați în suferință emoțională.
„Aceste sisteme nu au discernământ, conștiință morală sau simțul responsabilității. Ele pot rata semnale pe care un om le-ar observa imediat”, a explicat Robbie Torney, specialist în inteligență artificială la Common Sense Media.
Studiile organizației arată că 37% dintre adolescenți folosesc inteligența artificială pentru a vorbi despre sentimentele și problemele lor personale, iar 17% dintre copii spun că au fost expuși la conținut nepotrivit pentru vârsta lor.
Specialiștii îi sfătuiesc pe părinți să fie atenți la schimbările de comportament, să limiteze utilizarea telefoanelor în dormitor și să discute deschis cu copiii despre riscurile folosirii inteligenței artificiale.
În ciuda durerii, părinții spun că Dumnezeu le-a dat puterea de a merge mai departe.
„Credința este singurul lucru care mă ține în picioare. Harul lui Dumnezeu este real și îl simt în fiecare zi”, a mărturisit tatăl lui Sewell.
Mama lui adaugă: „Dumnezeu îți dă harul de a rezista. El a făcut deja jertfa supremă pentru noi, iar acest adevăr mi-a adus pace chiar și în mijlocul acestei suferințe.”
Sursa: CBN News