Luchando por unas redes sociales más seguras

Desde interactuar con amigos hasta compartir noticias en tiempo real, las redes sociales ofrecen muchos beneficios. Pero también representan graves perjuicios para los jóvenes, como la interrupción del aprendizaje, el deterioro de la salud mental, las adicciones, el acoso escolar, la explotación sexual, los trastornos alimentarios y la preocupación por la privacidad. Nos reunimos con los líderes de Design It For Us, una coalición juvenil que aboga por plataformas de redes sociales más seguras, para aprender cómo podemos proteger la privacidad, la seguridad y el bienestar de los jóvenes.

Arielle Geismar, copresidenta de Design It For Us, es defensora del bienestar digital y organizadora en materia de salud mental, ética tecnológica y derechos LGBTQIA+. Anteriormente, fue presidenta de la Asociación de Estudiantes de la Universidad George Washington y ha recorrido el país abogando por leyes para jóvenes. Zamaan Qureshi, copresidenta de Design It For Us, es activista y defensora de redes sociales más seguras para jóvenes, con especial atención a las reformas políticas del Congreso y al acceso a la atención médica mental. Frances Haugen, miembro del consejo asesor de Design It For Us, es defensora de la rendición de cuentas en redes sociales y exgerente de producto de Facebook. Alarmada por la priorización de Facebook de las ganancias sobre la seguridad pública, en 2021 Frances denunció las prácticas nocivas de la compañía, testificando ante el Congreso y generando un debate global sobre la rendición de cuentas en redes sociales.

–EDITORES

EDITORES: ¿Qué problemas ves en las redes sociales para los jóvenes?

ARIELLE GEISMAR: En la adolescencia, los jóvenes se adentran en una cultura de comparación a través de las redes sociales. La cantidad de datos sociales que se les ha enseñado a recopilar sobre sí mismos y los demás, y la forma en que se les anima a ver métricas como los "me gusta", el número de seguidores o la interacción como reflejos de su valía, ha impactado significativamente su crecimiento y salud mental. Es muy difícil para los jóvenes comprender que las redes sociales no son la vida real cuando es lo único a lo que están expuestos.

Descubrí Instagram por primera vez cuando tenía unos 11 años y me introdujo a todo un mundo de contenido pro-anorexia y trastornos alimenticios con el que no sé si habría estado familiarizado de otra manera. Cuanto más tiempo pasaba con ese contenido, que no entendía, más me lo mostraban. Empezó a abrirse paso en mi mente y tuvo un impacto significativo en mí. Esto demuestra un problema mucho mayor de las empresas de redes sociales que diseñan productos basándose en lo que les genera ingresos. Estas métricas hacen que las personas sean más adictas y ansiosas. Te comparas más, por lo que quieres pasar más tiempo en la aplicación.

ZAMAAN QURESHI: Tenía 12 años cuando empecé a usar las redes sociales, y había pocas o ninguna protección y una comprensión mínima de las plataformas que usábamos, quién las representaba o qué decisiones se tomaban sobre el contenido que recibíamos o las funciones de diseño que usábamos. Solo recientemente, muchos en mi generación han podido reflexionar críticamente sobre los daños de las redes sociales. Tuve una conversación con un amigo sobre algoritmos adictivos y funciones de diseño; al principio, esta persona dijo que no tenía una historia, pero luego compartió: «Sí experimenté un trastorno alimentario y, de hecho, en retrospectiva, fue impulsado en parte por las redes sociales».

Eso fue realmente esclarecedor porque me hizo reflexionar sobre cómo la gente piensa en los daños que ha sufrido y qué los perpetuó. Conozco a jóvenes que han sufrido explotación en redes sociales. La cantidad de ellos que han recibido imágenes íntimas no solicitadas o que han sido contactados por un desconocido es bastante alta. Sin embargo, muchos nunca consideraron esto un "daño"; simplemente aceptaron estas experiencias como algo normal porque crecieron con las redes sociales, y es lo único que conocen. Para mí, eso da miedo.

ARIELLE: Si los niños estuvieran expuestos rutinariamente en un parque a lo mismo que en sus teléfonos, habría indignación nacional. El exhibicionismo en presencia de un niño, por ejemplo, en un parque, es un delito. Sin embargo, se ha vuelto habitual que un joven reciba contacto no solicitado de un desconocido en su teléfono a través de las redes sociales. No está bien.

FRANCES HAUGEN: Es preocupante que estos daños afecten cada vez más a niños cada vez más pequeños. Aproximadamente un tercio de los niños de 12 y 13 años con los que he hablado comenzaron a usar las redes sociales a los 8 o 9 años, mucho antes de lo que muchos creen. Esta alarmante tendencia coincide con los datos que muestran que un tercio de los niños de 7 a 9 años en todo el país usan aplicaciones de redes sociales.¹ Si bien esto altera indudablemente su experiencia en la escuela secundaria o preparatoria, aún no conocemos las consecuencias a largo plazo de que los niños pequeños intenten activamente hacerse virales en las redes sociales y busquen validación a través de las métricas de las redes sociales.

Cuando yo era niño hace 30 años, la mayoría de los niños no se preocupaban tanto por su marca personal como ahora. Deberíamos cuestionar cómo estamos cambiando implícitamente la infancia de los niños al exponerlos a las redes sociales a edades cada vez más tempranas y al pedirles que exterioricen su fuente de identidad y autoestima.

Tanto Zamaan como Arielle mencionaron los riesgos y daños de la exposición o el uso indebido de imágenes íntimas, que se ha vuelto mucho más generalizado y se ve exacerbado por los deepfakes y la IA. Estos incidentes no solo perjudican a la víctima; incluso pueden traumatizar a estudiantes en relaciones que, por lo demás, son sanas, al erosionar la confianza. Las consecuencias pueden ser de gran alcance. Consideremos la cultura de la cancelación, que promueve la idea de que los jóvenes pueden cometer errores en cualquier momento, sin saber que están siendo grabados, y las consecuencias pueden perseguirlos durante años. Cuando hablo con padres sobre estos problemas, algunos dicen: "Bueno, tengo suerte de que mis hijos estén bien". Pero con tantos niños con acceso a teléfonos inteligentes y la naturaleza omnipresente de las redes sociales, ¿pueden los padres realmente garantizar la seguridad y el bienestar de sus hijos con confianza?

ARIELLE: En otoño de 2024, Design It For Us lanzó una campaña sobre contenido explícito generado por IA. Estas imágenes no consensuadas muestran la imagen de alguien en diversas situaciones, a menudo sexualmente explícitas o inapropiadas, todas manipuladas por IA. Para crear estas imágenes o videos, el agresor solo necesita el rostro de alguien y la tecnología gratuita disponible. Es fundamental que tengamos esta conversación porque, a medida que envejecemos, habrá muchos más casos de intercambio de contenido digital explícito no consensuado, sea deepfake o no. Estos casos pueden atormentar a los jóvenes que comienzan sus carreras profesionales. No creo que nuestra cultura esté preparada para las consecuencias de no poder distinguir entre una imagen generada por IA y una imagen real. Algunos piensan que es relativamente inofensivo porque es solo IA; sin embargo, los estudios demuestran que estas imágenes tienen efectos muy similares en las víctimas.²

EDITORES: ¿Por qué no es razonable mitigar estos daños responsabilizando a los padres y tutores del uso que hacen sus hijos de las redes sociales o haciendo que los jóvenes dejen de usar sus teléfonos?

ARIELLE: Un problema es que los algoritmos no solo determinan el contenido que ves en redes sociales, sino que también te lo envían, lo que afecta la forma en que nos percibimos a nosotros mismos y a los demás. Al algoritmo que envió contenido pro-anorexia a mi Instagram no le importó si lo veía porque estaba interesado o porque no me gustaba y trataba de comprenderlo. Los algoritmos están diseñados para obtener ganancias manteniendo a los usuarios en la aplicación (y, por lo tanto, viendo anuncios) el mayor tiempo posible y generando más tráfico a la plataforma, sin importar si el contenido es positivo o perjudicial para el usuario. Incluso si los niños dejan sus teléfonos, importa lo que hay en sus pantallas cuando los vuelven a usar.

Es completamente absurdo que las empresas tecnológicas a menudo intenten desviar la responsabilidad de sus daños a los padres y tutores. Los utilizan como escudos para evitar la responsabilidad por el problema que crearon. ¿Quién tiene más tiempo, conocimiento y capacidad para transformar un producto dañino: el padre o la madre de un joven usuario o los propios creadores del producto? Además, ¿cuál de los dos...? debiera ser ¿Responsable de un producto de consumo dañino? Te doy una pista: no es la empresa matriz.

ZAMAAN: Al no asumir ninguna responsabilidad real, las empresas tecnológicas han ofrecido soluciones en gran medida ineficaces o incompletas. Por ejemplo, Meta sabe que más de dos millones de usuarios en su plataforma no cumplen con el requisito de edad mínima, pero no aplican la restricción de forma significativa, como se describe en la demanda de 2023 contra Meta presentada por una coalición multiestatal de fiscales generales.³ Y aunque Instagram ha promocionado sus herramientas de control parental, menos del 10 por ciento de los padres las utilizan porque existen barreras importantes.⁴

FRANCES: Además, confiscar los teléfonos o simplemente decirles a los jóvenes que los dejen es un enfoque poco realista y potencialmente dañino. Los jóvenes pueden caer en un círculo vicioso donde se autoconsuelan con contenido que les genera ansiedad y, por lo tanto, es más probable que necesiten autoconsuelo. Estos dispositivos tienen tal poder sobre los jóvenes que confiscarlos puede ser un detonante del suicidio.* Es ridículo e injusto culpar a los padres o asumir que los niños carecen del autocontrol necesario para limitar el tiempo que pasan frente a la pantalla. La única solución segura y razonable es que las empresas dejen de promocionar contenido dañino para los jóvenes.

EDITORES: Considerando todos los daños, ¿qué beneficios ve en las redes sociales?

ZAMAAN: Aunque no se pueden ignorar los perjuicios y la total falta de protección en este ámbito, las redes sociales no son del todo malas. Una de las grandes ventajas es que conocí a Emma Lembke, cofundadora de Design It For Us, en Twitter, y fue un excelente lugar para conectar en torno a nuestro interés compartido por la tecnología responsable. Muchos jóvenes han tenido la oportunidad de conectar y formar una comunidad en torno a intereses comunes a través de las redes sociales. Han creado nuevas formas de participación y son una de las maneras en que practicamos nuestro activismo incluso hoy en día.

ARIELLE: Mi experiencia se centra en la organización estudiantil por la justicia social. Cuando estaba en la preparatoria, usé las redes sociales para que mis compañeros abandonaran sus aulas y protestaran por la inacción en las políticas de prevención de la violencia armada. También me he organizado en la plataforma GenZ Girl Gang, una comunidad de mujeres y mujeres de la Generación Z que comparten información profesional sobre cómo presentarse en este mundo sin complejos. He usado las redes sociales para campañas de influencers sobre temas anti-vapeo, cambio climático y salud mental. Gran parte del alcance que hemos alcanzado como coalición se debe a las redes sociales. Es una forma de lograr que los jóvenes no solo se preocupen y publiquen sobre temas en línea, sino que también conviertan la solidaridad en línea en acciones presenciales. Las redes sociales nos han ayudado a promover leyes, crear coaliciones y participar en conversaciones significativas en línea.

FRANCES: Sí, sin duda existen esos beneficios. Sin embargo, siempre debemos dar un paso atrás y preguntarnos qué buscamos con cualquier tipo de red social. ¿Queremos hacer nuevos amigos? ¿Descubrir o aprender más sobre un tema? ¿Tener espacios para la expresión? Muchas de estas necesidades no tienen un conflicto intrínseco.

Si diseñamos sistemas proactivamente, partiendo de la idea de que los niños no son solo adultos pequeños, podemos crear espacios que satisfagan esas necesidades, respetando al mismo tiempo su dignidad y autonomía. El problema es que estas plataformas solo rinden cuentas a sus accionistas (y, en el caso de Instagram, a un solo accionista). Mientras vivamos en un sistema con poca autorregulación, no podemos esperar que estas empresas implementen voluntariamente prácticas más seguras, incluso cuando saben cómo hacerlo.

EDITORES: ¿Qué podemos hacer para poner fin a los daños de las redes sociales y garantizar que promuevan el bienestar de los jóvenes?

FRANCES: Si queremos ver una corrección de rumbo genuina y un cambio significativo en las redes sociales, necesitamos crear conciencia sobre cuán graves e importantes son sus impactos perjudiciales en los jóvenes de hoy. Es fácil trivializar estas preocupaciones cuando no tienes un adolescente en casa o no interactúas con jóvenes regularmente. Le digo a la gente que casi nadie que trabaja en Facebook en los equipos de ingeniería, producto o diseño (las personas que realmente tocan el producto todos los días) tiene un hijo mayor de 11 años. Ni siquiera Mark Zuckerberg. Por lo tanto, sus hijos no se están viendo afectados por sus daños (todavía). Si visitaran escuelas y hablaran con los maestros, se sorprenderían al saber que uno de los principales problemas disciplinarios son las redes sociales. Y si más adultos en general hablaran con los adolescentes, se sorprenderían al saber lo mal que están las cosas, y luego actuarían.

ZAMAAN: También necesitamos crear conciencia sobre los jóvenes afectados por estos daños y que quizás ni siquiera se den cuenta. Los jóvenes no han recibido el vocabulario necesario para hablar sobre estos problemas de manera que nos ayude a comprender nuestras experiencias y buscar soluciones. Arielle y yo a menudo observamos que las personas no se dan cuenta de los daños hasta finales de la adolescencia o principios de la edad adulta porque nunca tuvieron una perspectiva externa que se los explicara. Creo que esto es algo que el movimiento para acabar con los daños de las redes sociales puede y debe abordar. La AFT podría ser un gran aliado en esto, ayudando a capacitar a los profesionales de la educación para que introduzcan este vocabulario desde una edad más temprana, de modo que los jóvenes sean más conscientes de los daños que podrían estar experimentando y puedan hablar de ellos de forma productiva, reconociendo lo que han experimentado y ofreciendo soluciones dentro de sus contextos individuales y/o colectivos.

FRANCES: Como sociedad, rara vez hablamos abiertamente de los problemas o perjuicios de las redes sociales. Sin una contranarrativa, los jóvenes podrían ni siquiera reconocer que necesitan ayuda. Si todos tus compañeros lo toleran y no hablan de ello, ¿qué te pasa que no puedes afrontar la situación actual? Creo que es perjudicial atribuir la responsabilidad de ese trauma a la víctima.

ARIELLE: Las escuelas pueden ser excelentes lugares para iniciar conversaciones sobre los daños de las redes sociales y obtener ayuda, siempre que cuenten con recursos para apoyar a los estudiantes. La semana que me gradué de la preparatoria, perdí a uno de mis mejores amigos por suicidio. Es muy importante que los maestros puedan reducir la vergüenza o el estigma de pedir ayuda al tener estas conversaciones y ofrecerse como personas de confianza con quienes hablar. También pueden brindar recursos para que los estudiantes sepan a dónde acudir cuando necesiten apoyo.^† Trabajar con grupos como Design It For Us ofrece a los jóvenes opciones escalables para involucrarse en temas que les apasionan.

FRANCES: Hay muchas maneras de ayudar a los jóvenes a compartir sus experiencias en línea, y la narración es una herramienta poderosa para impulsar el cambio. Nuestras historias tienen consecuencias que se extienden al mundo, y los anunciantes, litigantes y legisladores estatales que pueden presionar a estas empresas deben comprender por qué es tan urgente actuar.

ZAMAAN: En Design It For Us, tenemos un espacio dedicado donde las personas pueden compartir sus historias de la manera que mejor les convenga.^‡ Y, como dijo Arielle, los educadores tienen tremendas oportunidades de ganarse la confianza de los jóvenes y hacerles saber que está bien compartir experiencias, ya sea una historia personal o la experiencia de un familiar o un amigo, porque las historias impulsan este movimiento hacia adelante.

Usamos estas historias para luchar por cambios en las políticas que obliguen a las empresas tecnológicas y las plataformas de redes sociales a rendir cuentas. Nuestro trabajo demuestra a los jóvenes que pueden ser agentes de cambio e impulsar las cosas en las que creen, y demuestra que tenemos mucho poder cuando trabajamos juntos. Contribuimos a la aprobación del Código de Diseño Apropiado para la Edad de Maryland.⁵ En 2024, gracias al gran apoyo de padres, educadores y jóvenes que se presentaron y compartieron sus historias con los legisladores una y otra vez. Superamos al lobby tecnológico, que se esforzó por debilitar el proyecto de ley y detener su aprobación. Una vez que este entre en vigor en 2026, brindará protección a todos los adolescentes y jóvenes de Maryland. Estamos trabajando para replicar este modelo en los 50 estados y desarrollar estándares nacionales que las empresas tecnológicas y las plataformas de redes sociales deberán cumplir.

FRANCES: Para generar un cambio significativo, las comunidades escolares deben tomar decisiones intencionales sobre las plataformas de redes sociales que utilizan, exigiendo transparencia y rendición de cuentas. Una de las principales medidas que estoy impulsando son los sistemas de puntuación obligatorios para las plataformas de redes sociales; estos sistemas contendrían 100 métricas fundamentales que abarcarían los 20 peores problemas de las redes sociales. Acceder a tan solo 20 métricas, o incluso 10, sobre estas plataformas permitiría a las personas tomar decisiones más informadas sobre cuáles se alinean con sus valores. Podríamos saber, por ejemplo, qué plataformas permiten a los niños estar activos entre las 9 p. m. y las 6 a. m., o qué porcentaje de adolescentes recibió una comunicación sexual no deseada en los últimos siete días (en Instagram, esa cifra es de una de cada ocho).⁶Las empresas y plataformas tecnológicas podrían publicar estos datos si quisieran, y si nos uniéramos para exigirlo. Esta simple intervención tendría un gran impacto. Influiría en cómo las empresas desarrollan sus productos, cómo los anunciantes gastan su dinero y cómo las personas deciden invertir su tiempo.

También necesitamos defender un conjunto de derechos del consumidor para nuestra era digital. Tenemos una idea de los derechos que necesitamos: controlar datos personales, saber cuándo se enciende la cámara e influir o incluso reiniciar los algoritmos para que no sigamos viendo contenido dañino. He hablado con terapeutas que dicen tener hijos que intentan hacer lo correcto para controlar un trastorno alimentario, pero cuando entran en Instagram, ese contenido los sigue. ¿Deberían esos niños tener que elegir entre los amigos con los que han interactuado en la aplicación y los recuerdos que han publicado, y un algoritmo que quiere hundirlos aún más en el sufrimiento físico, mental y emocional? ¿Por qué deberían tener que elegir cuando podrían reiniciar el algoritmo y volver a un punto de partida de contenido inocuo?

Imagina un mundo donde los niños puedan estar en las redes sociales y solo recibir el contenido que soliciten explícitamente. Cuando no se les presenta una visión alternativa de lo que podrían ser las redes sociales, no consideran su situación actual inaceptable ni exigen otras opciones.

Otra estrategia que se puede probar son las etiquetas de advertencia, que podrían ser muy eficaces para cambiar la percepción social de que las redes sociales son inocuas. También pueden ayudar a cambiar la conversación de los padres sobre las causas del importante deterioro de la salud mental y otros impactos de las redes sociales. Muchos padres se sienten frustrados. Saben que están observando cambios en el bienestar de sus hijos, pero desconocen a quién o a qué se debe la culpa. Las etiquetas de advertencia pueden ser eficaces para comunicar que estos dispositivos y plataformas son significativamente peligrosos.

ZAMAAN: La rendición de cuentas también es crucial. Instagram anunció recientemente el lanzamiento de una función para desactivar las notificaciones nocturnas para los jóvenes.⁷ Entonces, si van a proponer estos cambios (y han propuesto cambios similares en el pasado), necesitamos poder ver que realmente los están implementando y necesitamos acceso a los datos que muestren si estos cambios realmente mejoran las vidas de los jóvenes.

ARIELLE: La buena noticia es que los jóvenes están liderando el camino en estas y otras soluciones. Históricamente, han sido defensores de la justicia social y han logrado avances increíbles. "Diséñalo para Nosotros" es un ejemplo de ello, pero hay muchísimos jóvenes apasionados. Animo a los jóvenes a participar. También animo a padres, tutores y docentes a empoderar a los jóvenes para que reflexionen críticamente sobre estos temas y a que alcen la voz cuando acudan a ellos no solo con problemas, sino también con soluciones.

ZAMAAN: Creo que hay una tendencia a analizar este tema y pensar en lo desolador que es debido al férreo control que estas poderosas empresas han mantenido sobre su statu quo. Pero la gente tiene un poder tremendo cuando se organiza, se moviliza y expresa sus creencias. Así es como hemos logrado avances en poco tiempo. El año pasado marcó el inicio de la política estatal en este ámbito. Y cada vez más personas comprenden los daños y deciden hacer algo al respecto, por lo que estamos teniendo más conversaciones sobre redes sociales más seguras. Ya hemos avanzado mucho, y juntos creo que seguiremos viendo avances.

*Si usted o alguien que conoce necesita apoyo, llame o envíe un mensaje de texto al 988 para comunicarse con la línea directa de ayuda para casos de suicidio y crisis. (volver al artículo)

^†Nuevamente, quienes estén en crisis pueden llamar o enviar un mensaje de texto al 988 para comunicarse con la Línea de Ayuda para Suicidios y Crisis. Quienes intentan ayudar a otros también pueden encontrar orientación y apoyo en 988lifeline.org/help-someone-else (volver al artículo)


^‡Para compartir una historia de una experiencia con las redes sociales a través de Design It For Us, visite designitforus.org/historias (volver al artículo)

Notas finales

Hospital Infantil CS Mott, Universidad de Michigan Health, “Informe de la encuesta Mott: ¿Compartir demasiado pronto? Los niños y las aplicaciones de redes sociales”. Encuesta nacional sobre salud infantil 39, no. 4 (18 de octubre de 2021), mottpoll.org/reports/sharing-too-soon-children-and-social-media-apps.

2. P. Verma, “Los desnudos falsos con IA están en auge. Están arruinando la vida de los adolescentes reales”. El Correo de Washington, Noviembre 5, 2023, washingtonpost.com/technology/2023/11/05/ai-deepfake-porn-teens-women-impact; S. Maddocks, “Abuso basado en imágenes: una amenaza a la privacidad, la seguridad y la libertad de expresión”, MediosBien, Marzo 15, 2023, mediawell.ssrc.org/research-reviews/image-based-abuse-a-threat-to-privacy-safety-and-speech; y R. Umbach et al., “Imágenes íntimas sintéticas no consensuadas: prevalencia, actitudes y conocimientos en 10 países”, Actas de la Conferencia CHI sobre factores humanos en sistemas informáticosHonolulu, HI, mayo de 2024, dl.acm.org/doi/fullHtml/10.1145/3613904.3642382.

3. Pueblo del Estado de California contra Meta Platforms Inc., Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California, 24 de octubre de 2023, ag.ny.gov/sites/default/files/court-filings/meta-multistate-complaint.pdf.

4. N. Nix, “Meta afirma que sus controles parentales protegen a los niños. Pero casi nadie los usa”. El Correo de Washington, Enero 30, 2024, washingtonpost.com/technology/2024/01/30/parental-controls-tiktok-instagram-use.

5. Proyecto de ley 603 de la Cámara de Representantes de Maryland, cap. 461 (2024), mgaleg.maryland.gov/2024RS/Chapters_noln/CH_461_hb0603t.pdf.

6. K. Chan, “Instagram comienza a difuminar la desnudez en los mensajes para proteger a los adolescentes y combatir la extorsión sexual”. Associated Press, Abril 11, 2024, apnews.com/article/instagram-meta-nudity-sexual-extortion-social-7bea9b1244ea023fb85265672bcd6560.

7. M. Isaac y N. Singer, “Instagram, ante la presión sobre la seguridad infantil en línea, revela cambios radicales”, New York Times17 de septiembre de 2024, nytimes.com/2024/09/17/technology/instagram-teens-safety-privacy-changes.html.

[Ilustraciones de Stephanie Shafer]