Sosiale medier-apper presenterer jevnlig tenåringer med algoritmisk valgt innhold som ofte beskrives som «for deg», noe som tyder på at det kuraterte innholdet ikke bare er «for deg», men også «om deg» – et speil som reflekterer viktige signaler om personen du er.
Alle brukere av sosiale medier blir utsatt for disse signalene, men forskere forstår at tenåringer er på et spesielt formbart stadium i dannelsen av personlig identitet. Forskere har begynt å demonstrere at teknologi har generasjonsformende effekter , ikke bare i måten den påvirker kulturell syn, atferd og personvern, men også i måten den kan forme personligheten blant de som er oppdratt på sosiale medier.
Utbredelsen av "for deg"-meldingen reiser viktige spørsmål om virkningen av disse algoritmene på hvordan tenåringer oppfatter seg selv og ser verden, og den subtile erosjonen av privatlivet deres, som de aksepterer i bytte mot dette synet.
Tenåringer liker deres algoritmiske refleksjon
Inspirert av disse spørsmålene spurte mine kolleger John Seberger og Afsaneh Razi fra Drexel University og jeg : Hvordan navigerer tenåringer i dette algoritmisk genererte miljøet, og hvordan kjenner de seg igjen i speilet det presenterer?
I vår kvalitative intervjustudie av tenåringer 13–17, fant vi at personlig tilpasset algoritmisk innhold ser ut til å presentere det tenåringer tolker som et pålitelig speilbilde av seg selv , og at de liker opplevelsen av å se den sosiale media-refleksjonen.
Tenåringer vi snakket med sier at de foretrekker et sosialt medium som er helt tilpasset for dem, og viser hva de er enige i, hva de vil se og dermed hvem de er.
Hvis jeg slår opp noe som er viktig for meg, vil det dukke opp som et av de beste innleggene [og] det vil vise folk [som meg] som har en hyggelig diskusjon.
Det viser seg at tenåringene vi intervjuet tror sosiale medier-algoritmer som TikToks har blitt så gode at de ser refleksjonene av seg selv i sosiale medier som ganske nøyaktige. Så mye at tenåringer er raske til å tilskrive innholdsinkonsistens med selvbildet deres som anomalier – for eksempel et resultat av utilsiktet engasjement med tidligere innhold, eller bare en feil.
På et tidspunkt så jeg noe om det showet, kanskje på TikTok, og jeg interagerte med det uten å være klar over det.
Når personlig tilpasset innhold ikke er behagelig eller i samsvar med selvbildet deres, sier tenåringene vi intervjuet at de ruller forbi det, i håp om å aldri se det igjen. Selv når disse oppfattede anomaliene tar form av ekstremt hypermaskulint eller "esty" innhold, tilskriver ikke tenåringer dette til noe spesifikt ved seg selv, og de hevder heller ikke å lete etter en forklaring i sin egen oppførsel. I følge tenåringer i intervjuene våre gjør ikke speilet i sosiale medier dem mer selvreflekterende eller utfordrer selvfølelsen deres.
En ting som overrasket oss var at mens tenåringer var klar over at det de ser i «for deg»-feeden deres er et produkt av rullevanene deres på sosiale medieplattformer, er de stort sett uvitende eller ubekymrede for at data som fanges på tvers av apper bidrar til dette selvet. -bilde. Uansett ser de ikke på "for deg"-feeden deres som en utfordring for følelsen av selvtillit, langt mindre en risiko for deres selvidentitet – og heller ikke, for den saks skyld, noe grunnlag for bekymring i det hele tatt.
Former identitet
Forskning på identitet har kommet langt siden sosiolog Erving Goffman foreslo « presentasjon av selvet » i 1959. Han hevdet at mennesker styrer identiteten sin gjennom sosial ytelse for å opprettholde likevekt mellom hvem de tror de er og hvordan andre oppfatter dem.
Da Goffman først foreslo teorien sin, var det ikke noe grensesnitt for sosiale medier tilgjengelig for å holde opp et praktisk speil av selvet slik det oppleves av andre. Folk var forpliktet til å lage sitt eget mosaikkbilde, hentet fra flere kilder, møter og inntrykk. De siste årene har anbefalingsalgoritmer for sosiale medier satt seg inn i det som nå er en treveis forhandling mellom seg selv, offentlige og sosiale medier-algoritmer.
"For deg"-tilbud skaper et privat-offentlig rom der tenåringer kan få tilgang til det de føler er en stort sett nøyaktig test av selvbildet deres. Samtidig sier de at de lett kan ignorere det hvis det ser ut til å være uenig med det selvbildet.
Avtalen tenåringer inngår med sosiale medier, utveksler personlige data og gir avkall på personvern for å sikre tilgang til det algoritmiske speilet, føles for dem som en god handel. De representerer seg selv som selvsikkert i stand til å tune ut eller bla forbi anbefalt innhold som ser ut til å motsi selvfølelsen deres, men forskning viser noe annet .
De har faktisk vist seg svært sårbare for selvbildeforvrengning og andre psykiske helseproblemer basert på sosiale medier-algoritmer som er eksplisitt designet for å skape og belønne hypersensitiviteter, fikseringer og dysmorfi – en psykisk helselidelse der folk fikserer på utseendet sitt.
Gitt hva forskerne vet om tenåringshjernen og det stadiet av sosial utvikling – og gitt det som med rimelighet kan antas om formbarheten til selvbilde basert på sosial tilbakemelding – tar tenåringer feil når de tror at de kan rulle forbi risikoen for selvidentitet. algoritmer.
Innhold fra våre partnere
Intervensjoner
En del av løsningen kan være å bygge nye verktøy ved å bruke kunstig intelligens for å oppdage utrygge interaksjoner samtidig som personvernet beskyttes. En annen tilnærming er å hjelpe tenåringer til å reflektere over disse "datadoblingene" som de har konstruert.
Mine kolleger og jeg utforsker nå dypere hvordan tenåringer opplever algoritmisk innhold og hvilke typer intervensjoner som kan hjelpe dem å reflektere over det. Vi oppfordrer forskere innen vårt felt til å utforme måter å utfordre nøyaktigheten til algoritmer og avsløre dem som reflekterende atferd og ikke væren. En annen del av løsningen kan innebære å bevæpne tenåringer med verktøy for å begrense tilgangen til dataene deres, inkludert å begrense informasjonskapsler, ha forskjellige søkeprofiler og slå av plassering når du bruker visse apper.
Vi tror at dette er alle trinn som sannsynligvis vil redusere nøyaktigheten til algoritmer, og skape sårt tiltrengt friksjon mellom algoritme og seg selv, selv om tenåringer ikke nødvendigvis er fornøyd med resultatene.
Få barna med
Nylig gjennomførte kollegene mine og jeg en Gen Z-workshop med unge mennesker fra Encode Justice , en global organisasjon av videregående skole- og høyskolestudenter som tar til orde for sikker og rettferdig AI. Målet var å bedre forstå hvordan de tenker om livene sine under algoritmer og AI. Gen Zers sier de er bekymret, men også ivrige etter å være med på å forme fremtiden deres, inkludert å redusere algoritmeskader. En del av vårt workshopmål var å vekke oppmerksomhet til og fremme behovet for tenåringsdrevne undersøkelser av algoritmer og deres effekter.
Det forskere også konfronterer er at vi faktisk ikke vet hva det vil si å hele tiden forhandle identitet med en algoritme. Mange av oss som studerer tenåringer er for gamle til å ha vokst opp i en algoritmisk moderert verden. For tenåringene vi studerer, er det ingen " før AI ."
Jeg tror at det er farlig å ignorere hva algoritmer gjør. Fremtiden for tenåringer kan være en der samfunnet anerkjenner det unike forholdet mellom tenåringer og sosiale medier. Dette betyr å involvere dem i løsningene, samtidig som de gir veiledning.
Nora McDonald, assisterende professor i informasjonsteknologi, George Mason University .
Denne artikkelen er publisert på nytt fra The Conversation under en Creative Commons-lisens. Les originalartikkelen .
