Los niños y adolescentes menores de 18 años no deberían usar aplicaciones de acompañamiento de IA, dice un grupo de seguridad
Las aplicaciones de inteligencia artificial (IA) de asistencia o tipo acompañante plantean “riesgos inaceptables” para niños y adolescentes, señaló la organización sin ánimo de lucro Common Sense Media en un informe publicado el miércoles En EE.UU.: llama o envía un mensaje de texto al 988, la Línea de Prevención del Suicidio y Crisis.
El informe llega tras una demanda presentada el año pasado por la muerte por suicidio de un chico de 14 años cuya última conversación fue con un chatbot. Esa demanda, interpuesta contra la aplicación Character.AI, puso de relieve esta nueva categoría de aplicaciones conversacionales y sus riesgos potenciales para los jóvenes, lo que llevó a pedir más medidas de seguridad y transparencia.
Según el informe de este miércoles, el tipo de conversaciones detalladas en esa demanda —como intercambios sexuales y mensajes que incitan a autolesionarse— no son una anomalía en las plataformas de acompañamiento de IA, que sostiene que estas aplicaciones no deberían estar disponibles para usuarios menores de 18 años.
Para elaborar el informe, Common Sense Media colaboró con investigadores de la Universidad de Stanford para poner a prueba tres populares servicios de acompañamiento de inteligencia artificial: Character.AI, Replika y Nomi.