Las aplicaciones de redes sociales presentan regularmente a los adolescentes contenido seleccionado algorítmicamente y que a menudo se describe como “para ti”, lo que sugiere, por implicación, que el contenido seleccionado no es sólo “para ti” sino también “sobre ti”: un espejo que refleja señales importantes sobre la persona que son.
Todos los usuarios de las redes sociales están expuestos a estas señales, pero los investigadores entienden que los adolescentes se encuentran en una etapa especialmente maleable en la formación de su identidad personal. Los académicos han comenzado a demostrar que la tecnología está teniendo efectos generacionales , no sólo en la forma en que influye en las perspectivas culturales, el comportamiento y la privacidad, sino también en la forma en que puede moldear la personalidad entre aquellos que crecen en las redes sociales.
La prevalencia del mensaje "para ti" plantea preguntas importantes sobre el impacto de estos algoritmos en cómo los adolescentes se perciben a sí mismos y ven el mundo, y la sutil erosión de su privacidad, que aceptan a cambio de esta visión.
A los adolescentes les gusta su reflejo algorítmico
Inspirados por estas preguntas, mis colegas John Seberger y Afsaneh Razi de la Universidad de Drexel y yo preguntamos: ¿Cómo navegan los adolescentes en este entorno generado algorítmicamente y cómo se reconocen a sí mismos en el espejo que presenta?
En nuestro estudio de entrevista cualitativa con adolescentes de 13 a 17 años, descubrimos que el contenido algorítmico personalizado parece presentar lo que los adolescentes interpretan como una imagen reflejada confiable de sí mismos , y que les gusta mucho la experiencia de ver ese reflejo en las redes sociales.
Los adolescentes con los que hablamos dicen que prefieren una red social completamente personalizada para ellos, que muestre con qué están de acuerdo, qué quieren ver y, por tanto, quiénes son.
Si busco algo que sea importante para mí, aparecerá como una de las publicaciones principales [y] mostrará personas [como yo] que están teniendo una buena discusión.
Resulta que los adolescentes que entrevistamos creen que los algoritmos de las redes sociales como el de TikTok se han vuelto tan buenos que ven sus reflejos en las redes sociales como bastante precisos. Tanto es así que los adolescentes se apresuran a atribuir las inconsistencias del contenido con su propia imagen como anomalías; por ejemplo, el resultado de una interacción involuntaria con contenido anterior o simplemente un problema técnico.
En algún momento vi algo sobre ese programa, tal vez en TikTok, e interactué con él sin darme cuenta.
Cuando el contenido personalizado no es agradable o coherente con su propia imagen, los adolescentes que entrevistamos dicen que lo pasan por alto con la esperanza de no volver a verlo nunca más. Incluso cuando estas anomalías percibidas toman la forma de contenido extremadamente hipermasculino o “desagradable”, los adolescentes no lo atribuyen a nada específico sobre ellos mismos, ni afirman buscar una explicación en sus propios comportamientos. Según los adolescentes en nuestras entrevistas, el espejo de las redes sociales no los hace más autorreflexivos ni desafía su sentido de identidad.
Una cosa que nos sorprendió fue que, si bien los adolescentes eran conscientes de que lo que ven en su feed "para ti" es producto de sus hábitos de desplazamiento en las plataformas de redes sociales, en gran medida no son conscientes o no les preocupa que los datos capturados en las aplicaciones contribuyan a este yo. -imagen. De todos modos, no ven su alimentación "para ti" como un desafío a su sentido de identidad, y mucho menos como un riesgo para su propia identidad, ni, de hecho, como un motivo de preocupación en absoluto.
Dar forma a la identidad
La investigación sobre la identidad ha avanzado mucho desde que el sociólogo Erving Goffman propuso la “ presentación del yo ” en 1959. Postuló que las personas gestionan sus identidades a través del desempeño social para mantener el equilibrio entre quiénes creen que son y cómo los perciben los demás.
Cuando Goffman propuso por primera vez su teoría, no había ninguna interfaz de redes sociales disponible para sostener un espejo práctico de uno mismo tal como lo experimentan los demás. Las personas se vieron obligadas a crear su propia imagen en mosaico, derivada de múltiples fuentes, encuentros e impresiones. En los últimos años, los algoritmos de recomendación de redes sociales se han insertado en lo que ahora es una negociación tripartita entre uno mismo, el público y el algoritmo de las redes sociales.
Las ofertas "Para ti" crean un espacio público-privado a través del cual los adolescentes pueden acceder a lo que consideran una prueba en gran medida precisa de su propia imagen. Al mismo tiempo, dicen que pueden ignorarlo fácilmente si parece no estar de acuerdo con esa autoimagen.
El pacto que los adolescentes hacen con las redes sociales, intercambiando datos personales y renunciando a la privacidad para asegurar el acceso a ese espejo algorítmico, les parece un buen negocio. Se presentan a sí mismos como personas con confianza capaces de desconectarse o pasar por alto el contenido recomendado que parece contradecir su sentido de identidad, pero las investigaciones muestran lo contrario .
De hecho, han demostrado ser muy vulnerables a la distorsión de la autoimagen y otros problemas de salud mental basados en algoritmos de las redes sociales diseñados explícitamente para crear y recompensar hipersensibilidades, fijaciones y dismorfia, un trastorno de salud mental en el que las personas se obsesionan con su apariencia.
Teniendo en cuenta lo que los investigadores saben sobre el cerebro adolescente y esa etapa de desarrollo social (y teniendo en cuenta lo que se puede suponer razonablemente sobre la maleabilidad de la autoimagen basada en la retroalimentación social), los adolescentes se equivocan al creer que pueden superar los riesgos de su propia identidad. algoritmos.
Contenido de nuestros socios
Intervenciones
Parte del remedio podría ser crear nuevas herramientas que utilicen inteligencia artificial para detectar interacciones inseguras y al mismo tiempo proteger la privacidad. Otro enfoque es ayudar a los adolescentes a reflexionar sobre estos “datos dobles” que han construido.
Mis colegas y yo ahora estamos explorando más profundamente cómo los adolescentes experimentan el contenido algorítmico y qué tipos de intervenciones pueden ayudarlos a reflexionar sobre ello. Alentamos a los investigadores de nuestro campo a diseñar formas de desafiar la precisión de los algoritmos y exponerlos como un reflejo del comportamiento y del no ser. Otra parte del remedio puede implicar dotar a los adolescentes de herramientas para restringir el acceso a sus datos, incluida la limitación de cookies, tener diferentes perfiles de búsqueda y desactivar la ubicación cuando utilizan ciertas aplicaciones.
Creemos que todos estos son pasos que probablemente reduzcan la precisión de los algoritmos, creando una fricción muy necesaria entre el algoritmo y uno mismo, incluso si los adolescentes no están necesariamente contentos con los resultados.
Involucrar a los niños
Recientemente, mis colegas y yo llevamos a cabo un taller sobre la Generación Z con jóvenes de Encode Justice , una organización global de estudiantes de secundaria y universitarios que abogan por una IA segura y equitativa. El objetivo era comprender mejor cómo piensan sobre sus vidas bajo algoritmos e inteligencia artificial. Los miembros de la Generación Z dicen que están preocupados, pero también ansiosos por participar en la configuración de su futuro, incluida la mitigación de los daños a los algoritmos. Parte del objetivo de nuestro taller fue llamar la atención y fomentar la necesidad de investigaciones sobre algoritmos y sus efectos impulsadas por adolescentes.
Lo que los investigadores también enfrentan es que en realidad no sabemos lo que significa negociar constantemente la identidad con un algoritmo. Muchos de los que estudiamos a los adolescentes somos demasiado mayores para haber crecido en un mundo moderado algorítmicamente. Para los adolescentes que estudiamos, no existe un " antes de la IA ".
Creo que es peligroso ignorar lo que hacen los algoritmos. El futuro de los adolescentes puede ser uno en el que la sociedad reconozca la relación única entre los adolescentes y las redes sociales. Esto significa involucrarlos en las soluciones, sin dejar de brindarles orientación.
Nora McDonald, profesora adjunta de tecnología de la información, Universidad George Mason .
Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original .
