Abducidos por el algoritmo y el ‘chatbot’

Estadísticas que alertan y sucesos que dan pavor. Soledad, ansiedad, depresión, suicidio. Son los grandes males que acechan a la infancia de hoy. La primera ministra danesa, Mette Frederiksen, acusa a las redes sociales de «estar robando la infancia de nuestros niños» y aporta datos: el 60% de los varones daneses de 11 a 19 años no ven a ningún amigo en su tiempo libre; el 94% de los escolares ya tienen un perfil en redes antes de los 13 años, pese a ser la edad mínima obligatoria en la UE.

Sea por ingenuidad o dejadez el caso es que los gobiernos han dejado la puerta de la infancia abierta de par en par a las todopoderosas tecnológicas, a sus algoritmos y chatbots.

¿Cómo remediarlo? Poniéndoles cortapisas y la principal es imponer una mayoría de edad digital antes de la cual no pueden dar acceso a sus servicios.

Dinamarca y Noruega, la van a fijar en 15 años, Reino Unido la mantiene en 13 años pero la sube a 18 para contenidos dañinos como pornografía, violencia y odio, y obliga a las empresas a verificar la edad del usuario. Australia la eleva a 16 años para las plataformas de interacción entre dos o más usuarios y que faciliten publicar contenidos, salvo excepciones: educación, salud, mensajería y correo electrónico. La ley afecta a redes sociales como Facebook, Instagram, YouTube, X, TikTok, etc.

Pero el quid está en cómo se verifica la edad del usuario sin invadir su privacidad y recolectar sus datos. Australia sigue la senda abierta por Reino Unido en julio de 2025 al proponer que las plataformas recurran a terceros, como bancos o proveedores de móviles que confirmen la edad del usuario; o que usen instrumentos de estimación facial de la edad sin almacenar la imagen ni identificarla.

O sea, buscar soluciones tecnológicas que preserven la privacidad y protejan a la infancia. Eso es lo que reclaman los defensores de los derechos de los niños, indignados porque de nuevo la UE ha postergado medidas enfocadas a la protección en línea de los menores, por la división entre los Estados miembros. Una era el escaneo obligatorio de imágenes, vídeos y enlaces —que no de textos— por las tecnológicas para detectar el abuso sexual infantil. Se oponen los países que ven un atentado contra la privacidad y la apoyan los que quieren legislar para que la tecnología avance. Tampoco Dinamarca, que ejerce la presidencia semestral de la UE, ha conseguido imponer su plan de mayoría de edad digital a los 16 años.

¿Y del otro lado del Atlántico? Pues en la cuna de los gigantes tecnológicos ya están viviendo en la distopía de la IA. Dos empresas de chatbots, Character.AI y OpenAI han sido denunciadas por los padres de dos chicos cuyos suicidios atribuyen a sus interacciones con sus asistentes de IA. Uno de ellos se suicidó presuntamente inducido por un personaje de Juego de Tronos del que se había enamorado; el otro fue asesorado sobre cómo colgarse y dejar una nota a sus padres. El gobernador de California, Gavin Newson, acaba de promulgar una ley por la que los chatbots tienen que verificar la edad del usuario, detectar pensamientos suicidas y recordarle cada tres horas que es un robot.

Citando al primer ministro noruego, Jonas Gahr Støre, esta «es una batalla cuesta arriba porque hay fuerzas poderosas aquí, pero también es donde se necesita la política». Porque la infancia merece ser vivida en el mundo real.

Suscríbete para seguir leyendo