Le app di social media presentano regolarmente agli adolescenti contenuti selezionati tramite algoritmi, spesso descritti come “per te”, suggerendo, implicitamente, che il contenuto curato non è solo “per te” ma anche “su di te” – uno specchio che riflette segnali importanti sulla persona che stai frequentando. Sono.
Tutti gli utenti dei social media sono esposti a questi segnali, ma i ricercatori comprendono che gli adolescenti si trovano in una fase particolarmente malleabile nella formazione dell’identità personale. Gli studiosi hanno iniziato a dimostrare che la tecnologia sta avendo effetti generazionali , non solo nel modo in cui influenza la prospettiva culturale, il comportamento e la privacy, ma anche nel modo in cui può modellare la personalità di coloro che sono cresciuti sui social media.
La prevalenza del messaggio “per te” solleva importanti domande sull’impatto di questi algoritmi sul modo in cui gli adolescenti percepiscono se stessi e vedono il mondo, e sulla sottile erosione della loro privacy, che accettano in cambio di questa visione.
Agli adolescenti piace la loro riflessione algoritmica
Ispirati da queste domande, i miei colleghi John Seberger e Afsaneh Razi della Drexel University e io ci siamo chiesti: come si muovono gli adolescenti in questo ambiente generato algoritmicamente e come si riconoscono nello specchio che presenta?
Nel nostro studio qualitativo condotto su adolescenti di età compresa tra 13 e 17 anni, abbiamo scoperto che i contenuti algoritmici personalizzati sembrano presentare ciò che gli adolescenti interpretano come un'immagine speculare affidabile di se stessi e che a loro piace molto l'esperienza di vedere quel riflesso sui social media.
Gli adolescenti con cui abbiamo parlato dicono di preferire un social media completamente personalizzato per loro, che descriva ciò su cui sono d'accordo, ciò che vogliono vedere e, quindi, chi sono.
Se cerco qualcosa che è importante per me, verrà visualizzato come uno dei post più importanti [e] mostrerà, ad esempio, persone [come me] che stanno avendo una bella discussione.
Si scopre che gli adolescenti che abbiamo intervistato credono che gli algoritmi dei social media come quello di TikTok siano diventati così efficaci da considerare abbastanza accurati i riflessi di se stessi nei social media. Tanto che gli adolescenti sono pronti ad attribuire le incongruenze dei contenuti con la loro immagine di sé come anomalie, ad esempio il risultato di un coinvolgimento involontario con contenuti passati o semplicemente un problema tecnico.
Ad un certo punto ho visto qualcosa su quello show, magari su TikTok, e ho interagito senza rendermene conto.
Quando i contenuti personalizzati non sono graditi o coerenti con la loro immagine di sé, gli adolescenti che abbiamo intervistato affermano di ignorarli, sperando di non rivederli mai più. Anche quando queste anomalie percepite assumono la forma di contenuti estremamente ipermascolini o “cattivi”, gli adolescenti non attribuiscono ciò a qualcosa di specifico su se stessi, né pretendono di cercare una spiegazione nei propri comportamenti. Secondo gli adolescenti nelle nostre interviste, lo specchio dei social media non li rende più autoriflessivi né mette alla prova il loro senso di sé.
Una cosa che ci ha sorpreso è che, mentre gli adolescenti erano consapevoli che ciò che vedono nel loro feed “per te” è il prodotto delle loro abitudini di scorrimento sulle piattaforme dei social media, sono in gran parte inconsapevoli o indifferenti del fatto che i dati acquisiti attraverso le app contribuiscono a questo sé. -immagine. Indipendentemente da ciò, non vedono il loro feed "per te" come una sfida al loro senso di sé, tanto meno un rischio per la loro identità personale - né, del resto, alcuna base di preoccupazione.
Dare forma all'identità
La ricerca sull’identità ha fatto molta strada da quando il sociologo Erving Goffman propose la “ presentazione di sé ” nel 1959. Egli ipotizzò che le persone gestiscono la propria identità attraverso la performance sociale per mantenere l’equilibrio tra chi pensano di essere e come gli altri li percepiscono.
Quando Goffman propose per la prima volta la sua teoria, non c’era alcuna interfaccia di social media disponibile per sostenere un pratico specchio del sé vissuto dagli altri. Le persone erano obbligate a creare la propria immagine a mosaico, derivata da molteplici fonti, incontri e impressioni. Negli ultimi anni, gli algoritmi di raccomandazione dei social media si sono inseriti in quella che oggi è una negoziazione a tre tra sé, pubblico e algoritmo dei social media.
Le offerte “Per te” creano uno spazio pubblico-privato attraverso il quale gli adolescenti possono accedere a ciò che ritengono sia un test ampiamente accurato della loro immagine di sé. Allo stesso tempo, dicono che possono facilmente ignorarlo se sembra non essere d’accordo con l’immagine che hanno di sé.
Il patto che gli adolescenti stringono con i social media, scambiando dati personali e rinunciando alla privacy per garantire l’accesso a quello specchio algoritmico, sembra loro un buon affare. Si presentano come persone in grado di disconnettersi o scorrere oltre i contenuti consigliati che sembrano contraddire il loro senso di sé, ma la ricerca mostra il contrario .
Si sono, infatti, dimostrati altamente vulnerabili alla distorsione dell’immagine di sé e ad altri problemi di salute mentale basati su algoritmi dei social media esplicitamente progettati per creare e premiare ipersensibilità, fissazioni e dismorfia – un disturbo di salute mentale in cui le persone si fissano sul proprio aspetto.
Dato ciò che i ricercatori sanno sul cervello degli adolescenti e su quello stadio di sviluppo sociale – e dato ciò che si può ragionevolmente supporre sulla malleabilità dell’immagine di sé basata sul feedback sociale – gli adolescenti sbagliano a credere di poter superare i rischi legati all’identità personale. algoritmi.
Contenuti dei nostri partner
Interventi
Parte del rimedio potrebbe essere quello di costruire nuovi strumenti che utilizzino l’intelligenza artificiale per rilevare interazioni non sicure tutelando allo stesso tempo la privacy. Un altro approccio è quello di aiutare gli adolescenti a riflettere su questi “doppi dati” che hanno costruito.
Io e i miei colleghi stiamo ora esplorando più a fondo il modo in cui gli adolescenti sperimentano i contenuti algoritmici e quali tipi di interventi possono aiutarli a riflettere su di essi. Incoraggiamo i ricercatori nel nostro campo a progettare modi per mettere alla prova l'accuratezza degli algoritmi e esporli come comportamenti riflettenti e non come esseri. Un’altra parte del rimedio potrebbe consistere nel dotare gli adolescenti di strumenti per limitare l’accesso ai propri dati, inclusa la limitazione dei cookie, avere profili di ricerca diversi e disattivare la localizzazione quando si utilizzano determinate app.
Riteniamo che questi siano tutti passaggi che probabilmente ridurranno l’accuratezza degli algoritmi, creando l’attrito tanto necessario tra l’algoritmo e il sé, anche se gli adolescenti non sono necessariamente soddisfatti dei risultati.
Coinvolgere i ragazzi
Di recente, io e i miei colleghi abbiamo condotto un seminario sulla Gen Z con i giovani di Encode Justice , un’organizzazione globale di studenti delle scuole superiori e universitari che sostengono un’IA sicura ed equa. L’obiettivo era capire meglio come pensano alla loro vita sotto algoritmi e intelligenza artificiale. I membri della Generazione Z affermano di essere preoccupati ma anche desiderosi di essere coinvolti nella definizione del loro futuro, inclusa la mitigazione dei danni causati dagli algoritmi. Parte dell’obiettivo del nostro workshop era richiamare l’attenzione e promuovere la necessità di indagini sugli algoritmi e sui loro effetti guidati dagli adolescenti.
Ciò che i ricercatori si trovano ad affrontare è anche il fatto che in realtà non sappiamo cosa significhi negoziare costantemente l’identità con un algoritmo. Molti di noi che studiano gli adolescenti sono troppo vecchi per essere cresciuti in un mondo moderato algoritmicamente. Per gli adolescenti che studiamo, non esiste un “ prima dell’IA ”.
Credo che sia pericoloso ignorare ciò che stanno facendo gli algoritmi. Il futuro degli adolescenti può essere quello in cui la società riconosce il rapporto unico tra adolescenti e social media. Ciò significa coinvolgerli nelle soluzioni, pur fornendo indicazioni.
Nora McDonald, Professore assistente di Informatica, George Mason University .
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi l' articolo originale .
