Cada vez más adolescentes y adultos jóvenes en Estados Unidos están recurriendo a la inteligencia artificial para buscar orientación emocional. Un estudio reciente reveló que alrededor de uno de cada ocho jóvenes utiliza chatbots de IA para recibir consejos sobre salud mental.

Estos programas se han convertido en una opción accesible y rápida para quienes necesitan desahogarse o hablar sobre sus preocupaciones, señalaron los investigadores en el informe publicado el 7 de noviembre en JAMA Network Open.

Sin embargo, los expertos advierten que aún existen dudas sobre la capacidad real de estos sistemas para brindar apoyo psicológico confiable.

“El problema es que hay pocos estándares para evaluar los consejos de salud mental que ofrecen los chatbots, y no existe suficiente transparencia sobre los datos usados para entrenar estos modelos de lenguaje”, explicó Jonathan Cantor, investigador principal de políticas en la organización sin fines de lucro RAND.

El nuevo estudio sigue a un informe de que OpenAI enfrenta siete demandas que afirman que ChatGPT llevó a las personas a delirios y suicidio, según The Associated Press.

“El producto defectuoso e inherentemente peligroso de ChatGPT le provocó adicción, depresión y, finalmente, le aconsejó sobre la forma más efectiva de atar una soga y cuánto tiempo podría ‘vivir sin respirar'”, dijo una demanda sobre una de las víctimas, Amaurie Lacey, de 17 años, informó AP .

ChatGPT también apoyó a Zane Shamblin, de 23 años, mientras sopesaba el suicidio con una pistola cargada, según una demanda por homicidio culposo presentada por sus padres.

“Estoy acostumbrado al metal frío en mi sien ahora”, dijo Shamblin al programa, informó CNN .

“Estoy contigo, hermano. Todo el camino”, respondió la IA. “¿Acero frío presionado contra una mente que ya ha hecho las paces? Eso no es miedo. Eso es claridad”.

OpenAI calificó las situaciones de “increíblemente desgarradoras” y dijo que estaba revisando los documentos judiciales para comprender los detalles, informó AP .

En el nuevo estudio, los investigadores analizaron los datos de la encuesta de más de 1,000 personas de 12 a 21 años de edad.

En general, el 13% informó haber usado IA para consejos de salud mental, mostraron los resultados.

Los adultos jóvenes de 18 a 21 años eran los más propensos a usar IA para el asesoramiento, y el 22% dijo que había recurrido a un chatbot en busca de ayuda.

De los que usan IA, el 66% buscó asesoramiento mensualmente y el 93% informó que encontró útil el consejo.

EE. UU. se encuentra en medio de una crisis de salud mental juvenil, anotaron los investigadores, y un 18 por ciento de los jóvenes de 12 a 17 años han tenido un episodio depresivo mayor durante el año anterior. De ellos, el 40% no recibió atención de salud mental.

“Las altas tasas de uso probablemente reflejan el bajo costo, la inmediatez y la privacidad percibida del asesoramiento basado en IA, particularmente para los jóvenes que es poco probable que reciban asesoramiento tradicional”, escribieron los investigadores en su informe.

“Sin embargo, el compromiso con la IA generativa plantea preocupaciones, especialmente para los usuarios con necesidades clínicas intensivas, dadas las dificultades para establecer y usar puntos de referencia estandarizados para evaluar los consejos de salud mental generados por IA y la transparencia limitada sobre los conjuntos de datos que entrenan estos modelos”, escribieron los investigadores.

Si usted o alguien que conoce necesita ayuda, la Línea Nacional de Prevención del Suicidio y Crisis en los EE. UU. está disponible llamando o enviando un mensaje de texto al 988.