Social-Media-Apps präsentieren Teenagern regelmäßig algorithmisch ausgewählte Inhalte, die oft als „für Sie“ beschrieben werden, was implizit suggeriert, dass die kuratierten Inhalte nicht nur „für Sie“, sondern auch „über Sie“ sind – ein Spiegel, der wichtige Signale über die Person, die Sie sind, widerspiegelt Sind.
Alle Nutzer sozialer Medien sind diesen Signalen ausgesetzt, aber Forscher wissen, dass sich Jugendliche in einem besonders formbaren Stadium bei der Bildung ihrer persönlichen Identität befinden. generationsprägende Auswirkungen hat , nicht nur in der Art und Weise, wie sie kulturelle Ansichten, Verhalten und Privatsphäre beeinflusst, sondern auch in der Art und Weise, wie sie die Persönlichkeit derjenigen formen kann, die in sozialen Medien aufgewachsen sind.
Die Verbreitung der „Für Sie“-Botschaft wirft wichtige Fragen über die Auswirkungen dieser Algorithmen auf die Art und Weise auf, wie Teenager sich selbst und die Welt sehen, und über die subtile Erosion ihrer Privatsphäre, die sie im Austausch für diese Sichtweise akzeptieren.
Teenager mögen ihre algorithmische Reflexion
Inspiriert von diesen Fragen fragten meine Kollegen John Seberger und Afsaneh Razi von der Drexel University und ich : Wie navigieren Teenager in diesem algorithmisch generierten Milieu und wie erkennen sie sich selbst in dem Spiegel, den es präsentiert?
In unserer qualitativen Interviewstudie mit Teenagern im Alter von 13 bis 17 Jahren haben wir herausgefunden, dass personalisierte algorithmische Inhalte offenbar das darstellen, was Teenager als verlässliches Spiegelbild ihrer selbst interpretieren , und dass ihnen die Erfahrung, dieses Spiegelbild in den sozialen Medien zu sehen, sehr gefällt.
Teenager, mit denen wir gesprochen haben, sagen, dass sie ein soziales Medium bevorzugen, das vollständig auf sie zugeschnitten ist und zeigt, womit sie einverstanden sind, was sie sehen möchten und somit wer sie sind.
Wenn ich nach etwas suche, das mir wichtig ist, wird es als einer der Top-Beiträge angezeigt [und] es werden Leute [wie ich] angezeigt, die eine nette Diskussion führen.
Es stellt sich heraus, dass die von uns befragten Teenager glauben, dass Social-Media-Algorithmen wie der von TikTok so gut geworden sind, dass sie die Spiegelungen ihrer selbst in den sozialen Medien als ziemlich zutreffend ansehen. So sehr, dass Jugendliche inhaltliche Inkonsistenzen mit ihrem Selbstbild schnell als Anomalien bezeichnen – zum Beispiel als Ergebnis einer versehentlichen Auseinandersetzung mit früheren Inhalten oder einfach als einen Fehler.
Irgendwann habe ich etwas über diese Show gesehen, vielleicht auf TikTok, und habe damit interagiert, ohne es wirklich zu merken.
Wenn personalisierte Inhalte nicht ansprechend sind oder nicht mit ihrem Selbstbild übereinstimmen, scrollen die von uns befragten Teenager nach eigenen Angaben daran vorbei und hoffen, sie nie wieder zu sehen. Selbst wenn diese wahrgenommenen Anomalien die Form von extrem hypermaskulinen oder „bösartigen“ Inhalten annehmen, führen Teenager dies nicht speziell auf sich selbst zurück und behaupten auch nicht, in ihrem eigenen Verhalten nach einer Erklärung zu suchen. Den Teenagern in unseren Interviews zufolge fördert der Social-Media-Spiegel weder ihre Selbstreflexion noch fordert sie ihr Selbstbewusstsein heraus.
Eine Sache, die uns überraschte, war, dass Teenager zwar wussten, dass das, was sie in ihrem „Für Sie“-Feed sehen, das Produkt ihrer Scrollgewohnheiten auf Social-Media-Plattformen ist, ihnen jedoch weitgehend nicht bewusst war oder sich nicht darum kümmerte, dass die über Apps hinweg erfassten Daten zu diesem Selbst beitragen -Bild. Unabhängig davon sehen sie ihren „Für Sie“-Feed nicht als Herausforderung für ihr Selbstbewusstsein, geschweige denn als Risiko für ihre Selbstidentität – und auch nicht als Grund zur Besorgnis.
Identität gestalten
Die Identitätsforschung hat große Fortschritte gemacht, seit der Soziologe Erving Goffman 1959 die „ Präsentation des Selbst “ vorschlug. Er ging davon aus, dass Menschen ihre Identität durch soziale Leistung verwalten, um das Gleichgewicht zwischen dem, was sie zu sein glauben, und der Art und Weise, wie andere sie wahrnehmen, aufrechtzuerhalten.
Als Goffman seine Theorie zum ersten Mal vorstellte, gab es keine Social-Media-Schnittstelle, die einen praktischen Spiegel des Selbst, wie es andere erlebten, vorhalten konnte. Die Menschen waren verpflichtet, ihr eigenes Mosaikbild zu schaffen, das sich aus mehreren Quellen, Begegnungen und Eindrücken zusammensetzte. In den letzten Jahren haben sich Social-Media-Empfehlungsalgorithmen in eine mittlerweile dreiseitige Verhandlung zwischen sich selbst, der Öffentlichkeit und dem Social-Media-Algorithmus eingefügt.
„Für Sie“-Angebote schaffen einen privat-öffentlichen Raum, über den Jugendliche auf einen ihrer Meinung nach weitgehend zutreffenden Test ihres Selbstbildes zugreifen können. Gleichzeitig sagen sie, dass sie es leicht ignorieren können, wenn es nicht mit ihrem Selbstbild übereinstimmt.
Der Pakt, den Teenager mit den sozialen Medien schließen, indem sie persönliche Daten austauschen und ihre Privatsphäre aufgeben, um sich den Zugang zu diesem algorithmischen Spiegel zu sichern, kommt ihnen wie ein gutes Geschäft vor. Sie geben an, dass sie selbstbewusst in der Lage sind, empfohlene Inhalte, die ihrem Selbstwertgefühl zu widersprechen scheinen, auszuschalten oder darüber hinwegzuscrollen, aber Untersuchungen zeigen etwas anderes .
Tatsächlich haben sie sich als äußerst anfällig für Selbstbildverzerrungen und andere psychische Gesundheitsprobleme , die auf Social-Media-Algorithmen basieren, die explizit darauf ausgelegt sind, Überempfindlichkeiten, Fixierungen und Dysmorphien hervorzurufen und zu belohnen – eine psychische Störung, bei der Menschen auf ihr Aussehen fixiert sind.
Angesichts dessen, was Forscher über das Gehirn von Teenagern und diese Phase der sozialen Entwicklung wissen – und angesichts dessen, was man vernünftigerweise über die Formbarkeit des Selbstbildes auf der Grundlage sozialer Rückmeldungen vermuten kann – liegen Teenager falsch, wenn sie glauben, dass sie die Risiken ihrer Selbstidentität überwinden können Algorithmen.
Inhalte unserer Partner
Interventionen
Ein Teil der Abhilfe könnte darin bestehen, neue Tools zu entwickeln , um unsichere Interaktionen zu erkennen und gleichzeitig die Privatsphäre zu schützen. Ein anderer Ansatz besteht darin, Teenagern dabei zu helfen, über diese von ihnen konstruierten „Datendoppel“ nachzudenken.
Meine Kollegen und ich erforschen jetzt genauer, wie Jugendliche algorithmische Inhalte erleben und welche Arten von Interventionen ihnen dabei helfen können, darüber nachzudenken. Wir ermutigen Forscher auf unserem Gebiet, Wege zu entwickeln, um die Genauigkeit von Algorithmen in Frage zu stellen und sie als Verhalten und nicht als Realität zu entlarven. Ein weiterer Teil der Abhilfe könnte darin bestehen, Jugendliche mit Tools auszustatten, mit denen sie den Zugriff auf ihre Daten einschränken können, einschließlich der Einschränkung von Cookies, der Verwendung unterschiedlicher Suchprofile und der Deaktivierung der Standortbestimmung bei der Verwendung bestimmter Apps.
Wir glauben, dass dies alles Schritte sind, die wahrscheinlich die Genauigkeit von Algorithmen verringern und die dringend benötigte Reibung zwischen Algorithmus und sich selbst erzeugen, auch wenn Jugendliche mit den Ergebnissen nicht unbedingt zufrieden sind.
Die Kinder einbeziehen
Kürzlich haben meine Kollegen und ich einen Gen-Z-Workshop mit jungen Leuten von Encode Justice , einer globalen Organisation von Schülern und Studenten, die sich für sichere und gerechte KI einsetzen. Ziel war es, besser zu verstehen, wie sie über ihr Leben unter Algorithmen und KI denken. Die Angehörigen der Generation Zer sagen, dass sie besorgt sind, aber auch daran interessiert sind, an der Gestaltung ihrer Zukunft mitzuwirken, einschließlich der Eindämmung von Algorithmenschäden. Ein Teil unseres Workshop-Ziels bestand darin, die Aufmerksamkeit auf die Notwendigkeit jugendlicher Untersuchungen von Algorithmen und ihren Auswirkungen zu lenken und diese zu fördern.
Was die Forscher auch konfrontiert, ist, dass wir eigentlich nicht wissen, was es bedeutet, ständig mit einem Algorithmus über Identität zu verhandeln. Viele von uns, die Teenager studieren, sind zu alt, um in einer algorithmisch moderierten Welt aufzuwachsen. Für die Teenager, die wir studieren, gibt es kein „ vor der KI “.
Ich glaube, dass es gefährlich ist, zu ignorieren, was Algorithmen tun. Die Zukunft für Teenager kann eine sein, in der die Gesellschaft die einzigartige Beziehung zwischen Teenagern und sozialen Medien anerkennt. Das bedeutet, sie in die Lösungen einzubeziehen und ihnen gleichzeitig Orientierung zu geben.
Nora McDonald, Assistenzprofessorin für Informationstechnologie, George Mason University .
Dieser Artikel wurde von The Conversation unter einer Creative Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel .
