¿Puede una red social ser responsabilizada por generar adicciones y manipular nuestras emociones? ¿Cómo proteger el libre desarrollo de niños, niñas y adolescentes (NNA) en las redes sin sofocar empresas e innovación? Se suele afirmar que los derechos humanos son contrarios al progreso tecnológico. Sin embargo, esta supuesta oposición es una falacia. No hay sociedad, derechos ni progreso sin tecnología e innovación. El desarrollo humano y social requiere un marco jurídico que proteja la innovación y el emprendimiento. El constitucionalismo del siglo XVIII, con constituciones y declaraciones de derechos, representó una conquista social que ha ido más allá de restringir el poder1: fundó un amplio marco de libertades civiles y privadas para el desarrollo social2.
Al mismo tiempo, el constitucionalismo protege a personas y a la sociedad cuando estos desarrollos asumen tendencias expansivas y destructivas3. Implica garantía de libertades, pero también autolimitación: poner amarras a sí mismos para evitar efectos destructivos sobre las personas y el entorno social. Jon Elster compara esta tarea del constitucionalismo democrático con Ulises, quien, en la Odisea, se ata al barco para no perderse ante el canto de las sirenas: la aparente “restricción” le permite seguir adelante y protegerse, junto con su tripulación y el barco4,5. En nuestra metáfora, las sirenas digitales representan los riesgos de las redes sociales, los mercados digitales y la inteligencia artificial: desarrollos bienvenidos, cuyos efectos nocivos deben mitigarse. La protección de los NNA funcionan hoy como brújula, atadura de Ulises, y cera para tapar los oídos de la tripulación.
El canto de las sirenas digitales: plataformas, polarización afectiva, perfilamiento emotivo y diseño manipulador
El 26 de agosto de 2026, Meta y los fiscales generales estadounidenses anunciaron un acuerdo por hasta 17 mil millones de dólares en un caso que acusó a la plataforma de diseños manipuladores y perfilaje intencional de datos de menores, bajo conocimiento de sus riesgos. Se prevén límites diarios, bloqueo nocturno, restricciones de notificaciones, recomendaciones no personalizadas, determinación de edad y auditoría independiente. El acuerdo interviene en la arquitectura de Facebook e Instagram6. Se suma al veredicto del 25 de marzo de 2026, cuando un jurado de California encontró negligentes a Meta y Google debido a los daños sufridos por una usuaria desde la infancia7.
El desplazamiento es decisivo. Si una plataforma organiza nuestra atención, aprende de vulnerabilidades y selecciona estímulos para retenernos, proteger derechos exige examinar su arquitectura. El asunto conecta seguridad de NNA y calidad del debate democrático: en los dos ámbitos, las emociones pueden convertirse en recursos de una infraestructura comercial global con efectos nocivos sobre derechos fundamentales.
Gunther Teubner explica que los problemas constitucionales ya no se concentran sólo en el Estado, sino que también surgen en poderes privados transnacionales8. Las redes sociales establecen reglas, distribuyen visibilidad y condicionan libertades. Sus riesgos no se resuelven mediante leyes nacionales aisladas: requieren un constitucionalismo social y digital que traduzca derechos humanos en exigencias para empresas, instituciones y sistemas técnicos globales.
La Ley de Servicios Digitales europea (DSA)9 muestra ese giro. Su artículo 25 prohíbe interfaces manipuladoras; el 26 exige transparencia publicitaria; el 27 información sobre recomendaciones; y el 28 impone protección reforzada de menores y prohíbe anuncios basados en perfiles cuando exista certeza razonable de su minoría de edad. Los artículos 34 y 35 exigen a las plataformas de gran tamaño evaluar y mitigar riesgos sistémicos, incluidos los electorales y los relativos al bienestar infantil9.
Este enfoque dialoga con otras directrices europeas, como el artículo 25 del Reglamento General de Protección de Datos, sobre protección desde el diseño, y con el artículo 5 del Reglamento de Inteligencia Artificial, que prohíbe determinadas técnicas manipuladoras y formas de explotación de vulnerabilidades cuando concurren sus requisitos de daño9.
Brasil ofrece una formulación pertinente. El ECA Digital (Lei 15.211/2025) exige medidas protectoras desde la concepción del servicio; su artículo 22 prohíbe el perfilamiento y el análisis emocional para publicidad dirigida a NNA10. En el Reino Unido, el Children’s Code establece privacidad elevada y perfilamiento desactivado por defecto y protección contra nudge techniques (Standard 13)10, mientras la Online Safety Act incorpora deberes de seguridad infantil10.
Pese a sus diferencias, estas regulaciones comparten un punto central: la protección debe intervenir antes del daño, dentro de la arquitectura de los servicios digitales. Para regularla, hay que comprenderla10. Si los medios digitales se internan cada vez más en nuestras emociones mesurándolas, perfilándolas, monetizándolas y haciendo de ellas su modelo de negocio, el constitucionalismo (digital) debe entrar también en esta arquitectura digital: human rights by design, es decir, “derechos humanos por diseño”, que implican incorporar garantías en la infraestructura algorítmica para prevenir daños a los derechos más básicos y fundamentales de nuestra sociedad.
Emociones como modelo de negocio: de los filtros burbuja a la polarización afectiva
Las redes ofrecen beneficios reales: vínculos, información, aprendizaje, creatividad y participación. El conflicto aparece cuando sus ingresos dependen de prolongar la atención. Tim Wu estudia sus “mercaderes”11; Georg Franck, la atención como riqueza12; y Shoshana Zuboff describe un capitalismo de vigilancia que transforma experiencias y conductas en datos predictivos y “excedente conductual”13. En el teléfono inteligente, esa economía acompaña aburrimiento, inseguridad y búsqueda de reconocimiento, alimentándose de emociones que prolongan la interacción: angustia, miedo, enojo y odio.
La plataforma observa cuánto tiempo miramos un video, dónde nos detenemos y cuándo regresamos. Con esas señales construye perfiles, ordena recomendaciones y permite dirigir anuncios a segmentos específicos: microtargeting. Nuestra reacción informa la siguiente selección: un circuito de aprendizaje continuo donde atención e interacción –engagement– se traducen en oportunidades publicitarias.
Interactuar no equivale a disfrutar. Podemos detenernos ante algo inquietante, rechazarlo o seguir mirando por ansiedad; el sistema puede ofrecernos más de aquello que deseamos evitar. Esta distancia entre la conducta observada y el bienestar de la persona explica por qué el consentimiento no resuelve todos los problemas del diseño.
Luciano Floridi llama “hiperpersuasión” a la capacidad de influir mediante estrategias computacionales intensivas y personalizadas14; Karen Yeung analiza los hypernudges (“hiperempujones”), entornos que reajustan dinámicamente las opciones disponibles para forzar un comportamiento o elección en la red15. La arquitectura no se limita a hacer recomendaciones personalizadas con base en nuestros perfiles, sino que trata datos y perfiles para incentivar comportamientos y emociones. Desplazamiento infinito, notificaciones y recomendaciones facilitan algunas conductas mientras que dificultan otras, incluso de modo semejante a una adicción.
El enojo puede ser rentable porque moviliza la interacción. Estudios muestran que alterar publicaciones con animosidad partidista modifica la polarización afectiva16. Esto no prueba que cualquier algoritmo radicalice a cualquier persona, pero sí que ordenar contenidos tiene consecuencias. El problema: un indicador de permanencia puede registrar éxito comercial ahí en donde una familia vive en conflicto, un ciudadano pierde disposición a escuchar o una adolescente es empujada a obsesionarse con contenidos de imagen o daño físico.
Eso ocurre por mecanismos ya conocidos. Mientras “burbujas de filtros” destacan la selección personalizada que estrecha lo visible; las “cámaras de eco” indican comunidades que repiten y refuerzan creencias compartidas. Ambos mecanismos pueden ayudar a dar una imagen muy particular del mundo y que tienda a radicalizarse progresivamente. La polarización afectiva añade la dimensión emotiva: el adversario se vuelve despreciable, peligroso o ilegítimo. Y las emociones también se potencializan y son extremadas. La indignación cohesiona al grupo y simplifica la complejidad; allí la desinformación circula porque confirma hostilidades, aunque su veracidad sea secundaria.
La “radicalización algorítmica” designa posibles trayectorias de exposición y participación hacia contenidos más extremos17. En adolescentes, pertenencia, comparación corporal y autorregulación aún en desarrollo pueden interactuar con recomendaciones repetitivas. El riesgo no es una emoción aislada, sino un entorno que convierte vulnerabilidades en recorridos persistentes.
Escenas que hacen visible el riesgo
La serie Adolescence llevó la manósfera a la conversación familiar. Aunque ficción, muestra códigos de agravio y pertenencia que pueden transformar la inseguridad en misoginia y violencia grave contra niñas y adolescentes. Por otro lado, el looksmaxxing abarca desde cuidados ordinarios hasta prácticas autolesivas, como golpearse el rostro para modificarlo (bone smashing). Niños y niñas están ampliamente expuestos a contenidos falsos o extremistas que incentivan violencia a otros y/o autolesiones18.
En Brasil, el video Adultização, del youtuber Felca, impulsó la denuncia presente en gran parte de la sociedad civil sobre la exposición, adultización y sexualización infantil en redes sociales19. El control parental o la biometría no bastan. La denuncia abordó desde el sharenting y los influencers infantiles hasta el “algoritmo P”, cuyas recomendaciones facilitaban encuentros entre usuarios interesados en material de abuso sexual infantil, incluso en plataformas lícitas19. Los perfilajes automáticos pueden agrupar cualquier interés, incluso sin intención alguna por parte de la plataforma. De ahí la importancia de fortalecer la cooperación entre plataformas, universidades, sectores técnicos, sociedad civil y Estado para proteger los derechos de NNA (y los derechos fundamentales en general).
Derechos humanos desde el diseño
Human rights by design significa convertir principios jurídicos en requisitos verificables durante todo el ciclo del servicio. Para NNA supone privacidad y seguridad por defecto, límites a la explotación publicitaria de datos, evaluación de riesgos, opciones comprensibles y canales efectivos de denuncia. También implica escucharlos como titulares de derechos. La verificación de edad debe ser proporcional y preservar la privacidad: proteger a menores no justifica vigilar a todos ni excluir NNA del entorno digital. Para ello, es esencial contar con organismos de especialistas técnicos en el ámbito, inclusión digital segura, autonomía progresiva y una noción ampliada de autodeterminación informativa.
Esta tarea requiere corresponsabilidad. Las empresas controlan el diseño; los gobiernos deben establecer y fiscalizar obligaciones; las familias acompañan; las organizaciones civiles representan intereses vulnerables. Universidades y profesionales del derecho, la ética, la ingeniería y la programación deben producir evidencia y soluciones. Así avanzamos hacia una “tecnología de interés público”, con respuestas adaptadas a cada país, que aprendan de experiencias ajenas sin ignorar instituciones, desigualdades y capacidades.
Una invitación
La transformación industrial, en el siglo XVIII, nos obligó a reconstruir relaciones entre mercado, sociedad y protección jurídica. Rerum novarum, de León XIII, participó en aquella discusión. En Magnifica humanitas, León XIV retoma esa genealogía ante la inteligencia artificial y advierte que las familias no pueden resistir solas a modelos que monetizan tiempo y atención20. La analogía invita a construir límites colectivos al poder digital sin renunciar a sus beneficios: una tarea para todos y para el constitucionalismo digital. Ante indignación, odio y desinformación viral, renovemos la “legitimación por el procedimiento” para enfrentar la cuarta Revolución industrial (digital), fortaleciendo procesos y derechos como una forma de alteridad y guía21.
En la UDEM, por ejemplo, reforzamos la línea de “Derecho, Tecnología y Sociedad”, con investigaciones sobre diseños manipulativos, hypernudges, linchamiento virtual de NNA, deepfakes, transformación de la profesión jurídica y responsabilidad de plataformas, entre otros. Lo anterior, tanto en pregrado, como también en posgrado e investigación aplicada. Comprender estos retos exige distintas disciplinas; transformarlos requiere la participación de distintos sectores de la sociedad. Invitamos a todos a participar.
Referencias
1 Luhmann, N. (1965). Grundrechte als Institution. Duncker & Humblot.
2 Vesting, Th. (2021). Gentleman, Manager, Homo Digitalis: Der Wandel der Rechtssubjektivität in der Moderne. Weilerswist.
3 Teubner, G. (2006). “Die anonyme Matrix: Zu Menschenrechtsverletzungen durch, private transnationale Akteure“. In Der Staat: Zeitschrift für Staatslehre und Verfassungsgeschichte, Vol. 44, pp. 161-187.
4 Elster, J. (1984). Ulysses and the Sirens: Studies In Rationality and Irrationality, Cambridge.
5 Elster, J. (2009) Ulysses Unbound Studies in Rationality, Precommitment, and Constraints, Cambridge.
6 BBC News. (2026, 27 de agosto). It shouldn’t have taken a lawsuit for Meta to implement safety measures, whistleblower says. BBC. https://www.bbc.com/news/live/cy5v0vrlp4xt
7 Rozen, C. (2026, 25 de marzo). Jury reaches verdict in Meta, Google trial over social media addiction. Reuters. https://www.reuters.com/legal/litigation/jury-reaches-verdict-meta-google-trial-social-media-addiction-2026-03-25/
8 Teubner, G. (2012). Verfassungsfragmente: Gesellschaftlicher Konstitutionalismus in der Globalisierung. Suhrkamp.
9 Reglamento DSA (UE) 2022/2065 (2022), arts. 25–28, 34–35. https://eur-lex.europa.eu/eli/reg/2022/2065/oj ; Reglamento (UE) 2016/679 (2016), art. 25; Reglamento (UE) 2024/1689 (2024), art. 5.
10 Brasil. (2025). Lei 15.211, arts. 3–8, 22. https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/lei/l15211.htm; Information Commissioner’s Office. (2020). Age appropriate design: A code of practice for online services. Online Safety Act 2023 (Reino Unido).
11 Wu, T. (2016). The Attention Merchants: The Epic Scramble to Get Inside Our Heads. Knopf.
12 Franck, G. (1998). Ökonomie der Aufmerksamkeit: Ein Entwurf. Hanser.
13 Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
14 Floridi, L. (2024). Hypersuasion: On AI’s Persuasive Power and How to Deal with It. Philosophy & Technology, 37, 67, https://doi.org/10.1007/s13347-024-00756-6.
15 Yeung, K. (2017). “Hypernudge”: Big Data as a mode of regulation by design. Information, Communication & Society, 20(1), pp. 118–136. https://doi.org/10.1080/1369118X.2016.1186713
16 Piccardi, T., Saveski, M., Jia, C., Hancock, J. T., Tsai, J. L., & Bernstein, M. S. (2025). Reranking partisan animosity in algorithmic social media feeds alters affective polarization. Science, 390(6776),. https://doi.org/10.1126/science.adu5584
17 Yesilada, M., & Lewandowsky, S. (2022). Systematic review: YouTube recommendations and problematic content. Internet Policy Review, 11(1). https://doi.org/10.14763/2022.1.1652
18 Agência Nacional de Proteção de Dados. (2026, 7 de agosto). ANPD instaura processo de fiscalização contra o Discord para apurar falhas na proteção de crianças e adolescentes (Processo SEI N.º 00261.004804/2026-54). https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-instaura-processo-de-fiscalizacao-contra-o-discord-para-apurar-falhas-na-protecao-de-criancas-e-adolescentes/sei-processo-00261-004804_2026-54.pdf/@@display-file/file
19 Felca. (2025, 6 de agosto). Adultização [Video]. YouTube. https://www.youtube.com/watch?v=FpsCzFGL1LE
20 León XIV. (2026). Magnifica humanitas. [Carta encíclica]. pp. 142–147. https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html
21 Ribeiro, P. H. (2023). Legitimation by indignation and the legal sociology of scandal. En G. F. da Fonseca, L. F. Amato y M. A. L. L. de Barros (Eds.), Contemporary socio-legal studies: Empirical and global perspectives (pp. 267–310). Faculdade de Direito da Universidade de São Paulo.
