El algoritmo contra nuestros hijos

Las redes sociales, el suicidio adolescente y la industria que se beneficia de ambos.

En marzo de 2026, tras un juicio de casi siete semanas en Santa Fe, Nuevo México, un jurado dictó un veredicto que debería haber sacudido todas las salas de reuniones de Silicon Valley. El jurado determinó que Meta, la empresa propietaria de Instagram, Facebook y WhatsApp, había perjudicado a sabiendas la salud mental de los niños, ocultado lo que sabía sobre la explotación sexual infantil en sus plataformas e incurrido en prácticas comerciales «inaceptables», que explotaban injustamente las vulnerabilidades de los jóvenes. La pena: 375 millones de dólares. La miembro del jurado Linda Payton, de 38 años, explicó qué fue lo que guió el veredicto del jurado. Con un máximo de 5.000 dólares por infracción en juego, dijo que consideraba que cada niño merecía la cantidad máxima. (Fuente: NPR, «Un jurado de Nuevo México dictamina que Meta perjudica la salud mental y la seguridad de los niños, infringiendo la ley estatal», 24 de marzo de 2026, https://www.npr.org/2026/03/24/g-s1-115019/new-mexico-meta-children-mental-health; AP/ US News, 24 de marzo de 2026, https://www.usnews.com/news/technology/articles/2026-03-24/ new-mexico-jury-finds-meta-violated consumer-protection-law-at-trial-about-child-safety). El juicio examinó un corpus sustancial de documentos internos e investigaciones de la propia Meta. Estas eran pruebas de que los propios ingenieros y científicos de la empresa habían realizado estudios sobre el impacto de sus plataformas en los usuarios jóvenes y no habían actuado en función de lo que habían descubierto. El jurado escuchó a ejecutivos de Meta, ingenieros de la plataforma, antiguos empleados que se convirtieron en denunciantes, expertos psiquiátricos, consultores de seguridad tecnológica y educadores de escuelas públicas que describieron aulas perturbadas por esquemas de sextorsión dirigidos a los niños. Al jurado se le informó del incumplimiento documentado por parte de Meta de su propia prohibición de usuarios menores de 13 años y del papel que desempeñan sus algoritmos a la hora de priorizar contenidos sensacionalistas y perjudiciales, incluidos contenidos sobre el suicidio adolescente. En el centro del caso se encontraba una acusación que el fiscal general de Nuevo México, Raúl Torrez, planteó con claridad moral: Meta diseñó sus plataformas para crear adicción en los usuarios jóvenes. La empresa sabía lo que estaba pasando. Eligió el beneficio económico. «Sabemos que el objetivo es generar interacción y que los niños pasen tiempo en la plataforma», dijo la fiscal Linda Singer a los miembros del jurado. «Esta elección que hizo Meta tiene profundas repercusiones negativas en los niños». Más de 40 fiscales generales estatales de todo el país han presentado demandas similares contra Meta. Miles de familias se encuentran en proceso judicial. La coalición de padres que han perdido a sus hijos a causa de los daños provocados por las redes sociales, el grupo que se autodenomina ParentsSOS, calificó el veredicto de Nuevo México como «un momento decisivo». El grupo declaró en un comunicado: «Nosotros, los padres que hemos vivido lo inimaginable, la muerte de un hijo a causa de los daños de las redes sociales, aplaudimos este hito excepcional y trascendental». (Fuente: PBS NewsHour, «¿Qué viene después en las batallas legales sobre las redes

sociales ahora que un jurado de Nuevo México dictaminó que las plataformas de Meta perjudican a los niños?», 25 de marzo de 2026, https://www.pbs.org/newshour/nation/whats-next-in-social-media-legal-battles-after-a-new-mexic o-jury finds-meta-platforms-harm-children).

Una carta que cambió un país Una niña de doce años de Australia llamada Charlotte O'Brien se quitó la vida a causa del acoso escolar que las redes sociales permitieron y amplificaron. Su madre, Kelly O'Brien, escribió una carta personal al primer ministro Anthony Albanese. Él la leyó. Le conmovió. Y ayudó a conmover a un gobierno. La historia de Charlotte no fue una tragedia aislada. Es la historia central de «Let Them Be Kids», una campaña con más de 54.000 firmas de padres, educadores y defensores de la seguridad infantil, y que fue expuesta en los medios de comunicación australianos para mostrarle a las personas el poder de actuar frente al daño que estas redes sociales generan. En un acto celebrado en la Asamblea General de las Naciones Unidas en septiembre de 2025, una madre habló del suicidio de su hija como «una muerte por acoso... propiciada por las redes sociales». El discurso contó con el apoyo de líderes mundiales de Grecia, Fiji, Tonga y de la presidenta de la Comisión Europea, Ursula von der Leyen. El 29 de noviembre de 2024, el Parlamento australiano aprobó la Ley de Enmienda de Seguridad en Línea (Edad Mínima en Redes Sociales). Entró en vigor el 10 de diciembre de 2025. Australia se convirtió en el primer país del mundo en aplicar una prohibición a nivel nacional que impide a los menores de 16 años tener cuentas en las principales plataformas de redes sociales, entre ellas Facebook, Instagram, TikTok, YouTube, Snapchat, Reddit, X, Threads, Twitch y Kick. Las plataformas que no tomen «medidas razonables» para hacer cumplir la restricción de edad se enfrentan a multas de hasta 49,5 millones de dólares australianos. (Fuente: Wikipedia, Ley de Enmienda de Seguridad en Línea (Edad Mínima en Redes Sociales) de 2024, https://en.wikipedia.org/wiki/Online_Safety_Amendment; Comisionado de eSafety, «Restricciones de edad en las redes sociales», marzo de 2026, https://www.esafety.gov.au/about-us/industry-regulation/social-media-age-restrictions; Time, «Lo que hay que saber sobre la prohibición de las redes sociales para menores de 16 años en Australia», 10 de diciembre de 2025, https://time.com/7339762/australia-youth-social-media-ban-under-16-snapchat meta-tiktok/). «Este es el día en que las familias australianas recuperan el poder de estas grandes empresas tecnológicas», declaró el primer ministro Albanese cuando la ley entró en vigor. «Están reivindicando el derecho de los niños a ser niños». Jonathan Haidt, psicólogo social y autor de The Anxious Generation, un libro que documenta con rigor sistemático la relación entre la adopción masiva de los teléfonos inteligentes, las redes sociales y la crisis de salud mental que ahora afecta a toda una generación, acogió con satisfacción la medida de Australia. «El mundo está deseando que tengan éxito», escribió, «y muchas otras naciones seguirán su ejemplo». Ya están siguiendo sus pasos. A fecha de febrero de 2026, Francia, el Reino Unido, Alemania, Italia, Grecia, España, Dinamarca, Malasia y Nueva Zelanda están considerando o impulsando activamente restricciones similares para los menores de 16 años. El Parlamento Europeo aprobó una resolución no vinculante en la que se aboga por una edad mínima de 16 años y ha propuesto prohibir por completo para los menores de esta edad funciones adictivas como el desplazamiento infinito y la reproducción automática. (Fuente: CNBC, «Australia está tratando de aplicar la primera prohibición de las redes sociales para adolescentes. Los gobiernos de todo el mundo están atentos», 10 de diciembre de 2025, https://www.cnbc.com/2025/12/10/australia-16-year-old-teens-ban-social-media-policy-law-ig-

tikt ok-fb reddit-youtube-snapchat.html; La prohibición de las redes sociales en Australia: una prueba para la gobernanza digital global, BISI, enero de 2026, https://bisi.org.uk/reports/ australias-world-first-social-media-ban-a-test-for-global-digital-governa nce).

La trampa de la privacidad que se esconde tras la protección Quiero hablar con sinceridad sobre el enfoque de la restricción de edad, porque creo que los gobiernos que están avanzando en esta dirección están haciendo lo correcto por las razones adecuadas, y también creo que la implementación hacia la que se les empuja conlleva sus propios grandes peligros. La verificación de la edad, tal y como se está debatiendo y aplicando actualmente, exige a las plataformas de redes sociales que confirmen la edad de un usuario antes de permitir la creación de una cuenta. Los métodos que se están barajando incluyen comprobaciones de documentos de identidad oficiales, escaneo facial biométrico, inferencias de comportamiento a partir del historial de navegación y estimación de la edad basada en IA a partir de la apariencia física. Todos y cada uno de estos métodos requieren la recopilación de datos personales sensibles. Algunos requieren datos biométricos. Otros exigen vincular las cuentas de redes sociales a documentos de identidad oficiales. Otros crear un perfil digital del comportamiento, de las características demográficas y de la apariencia física del usuario, y además conservarlo. Las mismas empresas que he documentado a lo largo de este libro como infractoras reincidentes de la privacidad de los usuarios, empresas que añadieron «terrorista» a las biografías de los usuarios palestinos mediante un algoritmo, que escanearon 6.167 extensiones de navegador sin el conocimiento de los usuarios, y que compartieron datos con gobiernos extranjeros con una tasa de cumplimiento del 94 %, son las empresas ahora encargadas de hacer cumplir la verificación de la edad de los menores. Los datos que deben recopilar para cumplir la restricción son exactamente el mismo tipo de datos que históricamente han utilizado indebidamente, profitando con ellos, y los que han entregado a los gobiernos cuando se les ha solicitado. Mozilla, la organización sin fines de lucro que desarrolla el navegador Firefox y lleva décadas defendiendo la privacidad de los usuarios, planteó esta preocupación directamente en respuesta a la ley australiana. Los sistemas de estimación de la edad basados en datos biométricos, señaló Mozilla, suelen ofrecer resultados deficientes en el caso de personas con tonos de piel más oscuros y rasgos faciales no binarios. Los sistemas de inferencia conductual diseñados para estimar la edad a partir del historial de navegación crean perfiles detallados de cada usuario. La verificación de la edad mediante un documento de identidad oficial crea un vínculo entre la identidad en las redes sociales y la identidad legal que nunca antes había existido a gran escala. (Fuente: Fundación Mozilla, «La prohibición de las redes sociales en Australia: por qué no solucionará lo que falla en las plataformas en línea», 19 de diciembre de 2025, https://blog.mozilla.org/netpolicy/2025/12/19/australias-social-media-ban-why-age-limits-wont-fix -what-is-wrong-with-online-platforms/). Permítanme ser claro sobre lo que esto significa. Las empresas cuyas plataformas están perjudicando a los niños no pueden ser las mismas empresas a las que se confía la verificación de la identidad de esos niños con el fin de protegerlos de sus propias plataformas. Eso no es protección. Es una ampliación de la infraestructura de vigilancia bajo el pretexto de la seguridad, la misma estrategia que las grandes tecnológicas han seguido con la seguridad, la moderación de contenidos y las medidas antiterroristas cada vez que el público ha exigido rendición de cuentas. La protección de los niños frente a los daños de las redes sociales es una prioridad moral legítima y urgente. El mecanismo de esa protección no debe

crear un daño nuevo y más grande en su lugar. Cualquier marco de verificación de edad debe ser independiente de las plataformas, estar diseñado para mantener la privacidad, estar sujeto a auditoría pública y basarse en el principio de que el cumplimiento de una ley de protección infantil no da derecho a una empresa a crear una base de datos biométrica de todos los adultos que utilizan su servicio. El algoritmo que recompensa la ira, y los niños que pagan por ello Permítanme ahora pasar a algo de lo que se habla menos que de los daños explícitos de las redes sociales en los niños, pero que, en mi opinión, es igualmente trascendental para la generación que crece dentro de estas plataformas. Se trata del diseño deliberado de algoritmos de recomendación que premian el contenido más extremo, divisivo e incendiario, y los incentivos económicos que mantienen ese diseño. En 2025, Sky News llevó a cabo un experimento de un mes de duración en X, la plataforma anteriormente conocida como Twitter, ahora propiedad de Elon Musk. El estudio creó cuentas con diferentes inclinaciones políticas y realizó un seguimiento de los contenidos que el algoritmo recomendaba. La conclusión fue inequívoca: X «muestra un sesgo algorítmico significativo hacia la promoción de contenidos de extrema derecha y extremistas». The Wall Street Journal y The Washington Post llevaron a cabo sus propios análisis por separado. Ambos llegaron a la misma conclusión: X amplifica ahora el contenido político de tendencia derechista y extremista por encima de otras perspectivas. (Fuente: Social Media Today, «Los Estudios Muestran Que X Aumenta las Perspectivas Políticas Conservadoras», 19 de febrero de 2026, https://www.socialmediatoday.com/news/x-formerly-twitter-amplifies-conservative-political-persp ectives report/812652/). Un estudio académico de 2025 publicado en Science utilizó una metodología basada en una extensión de navegador para alterar los feeds de X de los usuarios durante las elecciones presidenciales estadounidenses de 2024, reduciendo la exposición de contenidos que expresaban actitudes antidemocráticas y hostilidad partidista. El estudio reveló que este único cambio modificó los sentimientos políticos de los usuarios hacia sus oponentes en más de dos puntos en una escala de 100 puntos, un cambio que normalmente tardaría aproximadamente tres años en producirse de forma orgánica en la población general. Los investigadores describieron esto como una prueba causal de que el algoritmo de X, con su sistema de recomendaciones y su estructura de incentivos económicos, está contribuyendo activamente a la polarización política. (Fuente: The Conversation, «Unas pocas semanas del algoritmo de X pueden hacerte más de derechas, y el efecto no desaparece rápidamente», 18 de febrero de 2026, https://theconversation.com/a-few-weeks-of-xs-algorithm-can-make-you-more-right-wing-and-it-doesnt wear-off-quickly-276153). Esto no es una casualidad. Es una decisión de ingeniería. Los algoritmos de X, TikTok, Facebook y YouTube no son filtros neutrales. Son máquinas de optimización, diseñadas para maximizar la interacción, y el contenido que impulsa la interacción de forma más fiable es aquel que provoca las reacciones emocionales más intensas: indignación, miedo, desprecio, identidad tribal, pánico moral. Eso es lo que hace que la gente siga desplazándose por la pantalla. Eso es lo que mantiene alta la duración de la sesión. Eso es lo que hace que el inventario publicitario sea valioso. Y eso es lo que se le ofrece, de forma desproporcionada, a adolescentes que aún están formando su comprensión del mundo, su sentido de identidad y su relación con personas diferentes a ellos. La estructura de incentivos económicos agrava esta situación. Las plataformas recompensan económicamente a los creadores que generan más interacción, a través de programas de monetización que pagan por visualización, por hora de

visualización, y por compartir. Un creador que produce contenido que provoca ira no sólo está consiguiendo más visualizaciones. Le están pagando más por producir ese contenido. El algoritmo selecciona el contenido más incendiario, el encuadre más polarizador, las posiciones más extremas, y luego extiende un cheque a quienquiera que los haya producido. Las granjas de contenido de extrema derecha que ahora operan a escala industrial en X y TikTok no producen lo que producen porque creen en ello. Lo producen porque el algoritmo lo ha convertido en la categoría de contenido más rentable disponible para un creador sin recursos de producción significativos. Lo que esto significa para un joven de quince años que pasa cuatro horas al día en TikTok o X, viendo ese contenido, quedando excluido económicamente de los espacios sociales donde se organizan sus compañeros, es una inmersión diaria en un entorno seleccionado que hace que el mundo parezca más enfadado, más dividido, más peligroso y más incierto de lo que realmente es. Eso tampoco es una casualidad. Es el producto. Silenciar a Palestina, amplificar el extremismo: el doble rasero del algoritmo En el capítulo nueve de este libro documenté los mecanismos específicos mediante los cuales Meta, TikTok, X, YouTube y LinkedIn suprimieron sistemáticamente las voces palestinas durante el genocidio en Gaza: eliminando publicaciones, suspendiendo cuentas, cumpliendo con las solicitudes de retirada del gobierno israelí en un porcentaje de hasta el 94 %, y borrando 700 vídeos que documentaban posibles crímenes de guerra por orden del gobierno de Estados Unidos. Quiero volver a ese historial aquí, en el contexto de lo que estas plataformas han permitido simultáneamente. Mientras que a los periodistas palestinos se les suspendían las cuentas, se les eliminaban las publicaciones y se les limitaba el alcance mediante algoritmos, las mismas plataformas dejaban en línea el discurso de odio contra los palestinos en un 96 %, según el Centre for Countering Digital Hate. La organización de derechos digitales 7amleh documentó más de 19.000 casos de discursos de odio y contenido incitador en hebreo en X en las semanas posteriores al 7 de octubre de 2023, contenido que permaneció en línea sin consecuencias. (Fuente: Centro de Empresas y Derechos Humanos, «Un informe denuncia que X no eliminó el 96 % de las publicaciones de discurso de odio», noviembre de 2023, https://www.business-humanrights.org/en/latest-news/report-exposes-xs-failure-to-remove-96- of (/publicaciones-con-discurso-de-odio-en-el-conflito-entre-Israel-y-Palestina/). El patrón es constante en todas las plataformas y se mantiene a lo largo del tiempo. El algoritmo silencia las voces de los ocupados y amplifica el discurso del ocupante. Silencia el dolor y recompensa la ira. Elimina la documentación de las atrocidades y recomienda la retórica que las justifica. Y lo hace no por una ideología integrada en el software, sino para optimizar la arquitectura financiera para la que el software está diseñado. El contenido que genera indignación obtiene más interacción. Más interacción genera más ingresos publicitarios. Las atrocidades se eliminan porque alguien con conexiones gubernamentales pidió que se eliminaran. La ira se amplifica porque la ira es lo que alimenta el modelo de negocio. El mismo algoritmo que suprime el testimonio del niño palestino mantiene al creador de contenido extremista en la cola de las recomendaciones, porque el creador de contenido extremista genera más interacción, y la interacción es dinero. Nuestros hijos se están criando dentro de esta arquitectura. Están aprendiendo cómo es el mundo a través de plataformas que tienen incentivos económicos para mostrarles la versión más extrema del mismo. Están aprendiendo qué se considera un ser humano por el que vale la pena llorar a través de plataformas que eliminan algunos sufrimientos y

amplifican otros en función de qué eliminación y qué amplificación producen el resultado más rentable. Y cuando las consecuencias de esa arquitectura se hacen visibles, cuando los estudios clínicos documentan el daño a la salud mental, cuando se producen los suicidios, cuando el jurado de Nuevo México determina que Meta incurrió en prácticas desmesuradas que explotaban las vulnerabilidades de los niños, las empresas emiten comunicados, actualizan sus directrices comunitarias y vuelven a la misma práctica, vuelven a la misma escala en el siguiente ciclo de noticias. Lo que la regulación debe exigir realmente Las leyes de restricción de edad que se están tramitando en los parlamentos, desde Canberra hasta Copenhague y Bruselas, son un comienzo genuino y necesario. Pero no son suficientes. Proteger a los niños de los daños de las redes sociales requiere ir más allá de restringir quién puede tener una cuenta. Requiere abordar la arquitectura algorítmica y financiera que hace que estas plataformas sean perjudiciales en primer lugar, porque un joven de dieciséis años no es menos vulnerable a un algoritmo optimizado para la indignación que uno de catorce. Y un adulto que pasa cuatro horas al día en un sistema de recomendaciones diseñado para maximizar la participación y la reacción emocional también está sufriendo daños. La restricción de edad aborda el síntoma, reflejado en los usuarios menores de edad, pero deja intacta la enfermedad, que vendría a ser el diseño. Lo que realmente se necesita, junto con la restricción de edad, es una transparencia algorítmica obligatoria: el requisito legal de que las plataformas revelen, ante auditores independientes con autoridad vinculante, exactamente cómo funcionan sus sistemas de recomendación y para qué están optimizados. No en un informe de transparencia trimestral redactado por el departamento de relaciones públicas de la empresa. Sino con una auditoría independiente y vinculante con la facultad de exigir cambios en el diseño algorítmico cuando las pruebas demuestren que estos sistemas están causando daño. Lo que se necesita es responsabilidad por la amplificación algorítmica de contenidos nocivos. La protección de la Sección 230, que exime a las empresas tecnológicas de responsabilidad por los contenidos publicados por los usuarios, no debería extenderse a los contenidos que el propio algoritmo de recomendación de la empresa ha amplificado, promovido y recompensado económicamente. Cuando una plataforma paga a un creador para que produzca contenidos que empujan a un adolescente a la autolesión, la plataforma no es un mero anfitrión pasivo. Es un participante. La ley debería tratarla como tal. Lo que se necesita es una prohibición global de las estructuras algorítmicas y de recompensa económica que incentivan los contenidos más extremos. El modelo de negocio que convierte la interacción en ingresos, y que, por lo tanto, selecciona los contenidos que generan las reacciones emocionales más intensas, es el motor tanto de la radicalización política como de la crisis de salud mental de nuestros hijos. No se pueden regular las consecuencias de ese motor sin abordar el motor en sí mismo. Lo que se necesita es el reconocimiento, a nivel de derecho internacional vinculante, de que las plataformas que operan a través de las fronteras no pueden regirse por las normas del país más dispuesto a hacer la vista gorda. Australia dio el primer paso. Docenas de países le siguen. La presión sobre la Unión Europea para que aplique la Ley de Servicios Digitales en toda su capacidad jurídica, donde responsabilizan a las plataformas por los daños algorítmicos con la misma urgencia con la que las responsabilizan por las violaciones de la privacidad, es real, creciente y largamente esperada. Charlotte O'Brien tenía doce años. El jurado de Nuevo México determinó que cada niño perjudicado merecía la pena máxima prevista por la ley. Yo también lo creo. --- El daño que he documentado en este capítulo hacia los niños, su salud

mental y su comprensión del mundo en desarrollo, es un daño causado por plataformas cuyas capacidades más peligrosas ya son visibles y están reguladas. O se están intentando regular. Lo que describe el capítulo doce que sigue es una categoría de capacidad de la IA que aún no está regulada, y que las empresas que la desarrollan reconocen que podría ser catastrófica. Además, se está extendiendo más rápido de lo que cualquier marco regulatorio puede seguirle el ritmo. La «bomba de código» no es una metáfora. Es una descripción técnica de lo que Anthropic ya ha creado y de lo que todos los grandes laboratorios de IA se apresuran a igualar.