Un Rapporto pubblicato in Gran Bretagna, che ha rilevato come gli algoritmi dei social media amplifichino i contenuti misogini, come oggettivazione, molestie sessuali o discredito delle donne, invita l’autorità di regolazione dei servizi di comunicazione a rafforzare le misure di salvaguardia per prevenire questo tipo di contenuti e il Governo britannico ad implementare la recente Legge sulla Sicurezza online per agire concretamente, anziché limitarsi a parlarne, come ha fatto, peraltro, il Sindaco di New York che ha chiamato in giudizio le principali società di piattaforme social per aver influito negativamente sulla salute mentale dei bambini e degli adolescenti residenti nella Grande Mela
In Gran Bretagna sta suscitando reazioni di consenso le raccomandazioni contenute nel Report “How algorithms popularise and gamify online hate and misogyny for young people”, frutto della collaborazione tra Università del Kent, l’University College London (UCL) e l’Association of School and College Leaders (ASCL), che ha rivelato un livello quadruplo di contenuti misogini in 5 giorni sulla pagina “For You” degli account TikTok e che gli algoritmi dei social media amplificano contenuti estremi che normalizzano ideologie dannose per i giovani.
Attraverso interviste con adolescenti e dirigenti scolastici, i ricercatori hanno anche scoperto che ideologie piene di odio e luoghi comuni misogini sono passati dagli schermi alle scuole, diventando parte integrante delle principali culture giovanili.
Gli autori del rapporto sottolineano la necessità di un approccio all’istruzione basato sulla “dieta digitale sana” per sostenere i giovani, le scuole, i genitori e la comunità in generale e che è essenziale sostenere la voce dei giovani stessi, in particolare di includere i ragazzi nelle discussioni sulla misoginia online, suggerendo un approccio di mentoring “peer-to-peer” ovvero di una relazione tra pari che presenta vantaggi reciproci per tutte le parti coinvolte e che viene generalmente utilizzato per aiutare una persona meno esperta a raggiungere i propri obiettivi ricevendo assistenza e guida da una persona più esperta.
“La nostra ricerca offre approfondimenti su come e perché i social media incidano sui giovani, sui gruppi particolarmente e sull’importanza dell’alfabetizzazione digitale, nonché sul potenziale dell’educazione tra pari per costruire la resilienza – ha dichiarato la Professoressa Nicola Shaughnessy dell’Università del Kent e co-autrice del Rapporto – Il nostro lavoro offre anche un nuovo metodo di ricerca creativa utilizzando archetipi generati dal lavoro sul campo per scoprire di più sull’elaborazione degli algoritmi in contesti del mondo reale“.
I ricercatori hanno iniziato lo studio intervistando i giovani che si impegnavano e producevano contenuti online radicali. Ciò ha poi informato lo studio algoritmico nella creazione di archetipi, per rappresentare tipologie di adolescenti che potrebbero essere vulnerabili alla radicalizzazione a causa dei contenuti online.
Hanno quindi creato account su TikTok per ciascun archetipo, con interessi di contenuto distinti tipici di questi archetipi (ad esempio, cercare contenuti sulla mascolinità o affrontare la solitudine), utilizzando questi account per guardare i video suggeriti da TikTok nella sua pagina “For You“, per un periodo di sette giorni.
Descrizioni esemplari dei post TikTok analizzati contenenti consigli su appuntamenti e relazioni
Il contenuto inizialmente suggerito era in linea con gli interessi dichiarati di ciascun archetipo, ad esempio con materiale che esplorava i temi della solitudine o del miglioramento personale, ma poi si concentrava sempre più sulla rabbia e sulla colpa diretta alle donne. Dopo cinque giorni, l’algoritmo di TikTok presentava quattro volte più video con contenuti misogini come oggettivazione, molestie sessuali o discredito delle donne (passando dal 13% dei video consigliati al 56%).
“I processi algoritmici su TikTok e altri siti di social media prendono di mira le vulnerabilità delle persone, come la solitudine o la sensazione di perdita di controllo, e gamificano contenuti dannosi – ha osservato Kaitlyn Regehr dell’UCL-Information Studies e principale autrice del rapporto – Quando i giovani si concentrano su argomenti come l’autolesionismo o l’estremismo, per loro sembra intrattenimento. Visioni dannose e luoghi comuni si stanno ormai normalizzando tra i giovani. Il consumo online sta influenzando comportamenti offline dei giovani, poiché vediamo queste ideologie spostarsi dagli schermi ai cortili delle scuole. Inoltre, gli adulti spesso non sono consapevoli di come funzionano i processi algoritmici dannosi, o di come potrebbero alimentare la propria dipendenza dai social media, rendendo difficile la genitorialità riguardo a questi problemi“.
Il gruppo di ricerca ha condotto tavole rotonde e interviste con dirigenti scolastici, i quali hanno attestato che i luoghi comuni misogini si stanno normalizzando anche nel modo in cui i giovani interagiscono di persona.
I ricercatori hanno formulato le seguenti raccomandazioni:
– ritenere responsabili le società dei social media e esercitare pressioni su di loro affinché affrontino il danno causato dai loro algoritmi e diano priorità al benessere dei giovani rispetto al profitto;
– implementare l’educazione alla “dieta digitale sana”, che consideri i tempi che vengono trascorsi davanti allo schermo e di contenuti digitali con cui i giovani interagiscono, in modo simile al cibo, considerando quanto ne viene consumato, come può diventare “ultra-elaborato” a causa degli algoritmi e potenziali impatti sulla salute mentale e fisica;
– svolgere attività di tutoraggio peer to peer, che consentano agli alunni più grandi di lavorare con i loro coetanei più giovani e aiutare a coinvolgere i ragazzi nelle discussioni sulla misoginia;
– promuovere una più ampia consapevolezza dei processi algoritmici tra i genitori e la comunità in generale.
“I risultati del Rapporto mostrano che la maggior parte degli algoritmi – di cui la maggior parte di noi sa poco – hanno un effetto a valanga fornendo contenuti sempre più estremi sotto forma di intrattenimento – ha commentato Geoff Barton, Segretario generale dell’Associazione dei dirigenti scolastici e universitari – Ciò è profondamente preoccupante in generale, ma lo è soprattutto per quanto riguarda l’amplificazione dei messaggi sulla mascolinità tossica e il suo impatto sui giovani che hanno bisogno di poter crescere e sviluppare la loro comprensione del mondo senza essere influenzati da materiale così spaventoso. Accogliamo con favore l’appello a coinvolgere i giovani, in particolare i ragazzi, nel dialogo per combattere questo problema insieme ai loro coetanei e alle famiglie. Chiediamo a TikTok in particolare e alle piattaforme di social media in generale di rivedere urgentemente i loro algoritmi e di rafforzare le misure di salvaguardia per prevenire questo tipo di contenuti, e al governo e a Ofcom [ndr: l’autorità di regolamentazione dei servizi di comunicazione della Gran Bretagna] di considerare le implicazioni di questo problema sotto gli auspici del nuovo Online Safety Act 2023 [ndr: la legge approvata dal Parlamento inglese lo scorso ottobre che conferisce al Segretario di Stato il potere di imporre alle piattaforme di social media di proteggere i minori da contenuti dannosi, accompagnata da multe fino al 10% delle entrate globali di un’azienda]. È tempo di agire piuttosto che continuare ancora a parlarne”.
E a passare all’azione è stato il Sindaco di New York Eric Adams che 14 febbraio 2024 con un video ha annunciato di aver avviato un’azione legale contro Tik Tok, Facebook, Instagram, Snapchat e YouTube per aver influito negativamente con le loro piattaforme sulla salute mentale dei bambini e degli adolescenti.
“Negli ultimi dieci anni abbiamo visto quanto il mondo online possa creare dipendenza e sopraffazione, esponendo i nostri figli a un flusso ininterrotto di contenuti dannosi e alimentando la crisi nazionale della salute mentale dei giovani – ha affermato Adams – La nostra città è costruita sull’innovazione e sulla tecnologia, ma molte piattaforme di social media finiscono per mettere in pericolo la salute mentale dei nostri figli, promuovendo la dipendenza e incoraggiando comportamenti non sicuri. Oggi stiamo intraprendendo azioni coraggiose per conto di milioni di newyorkesi per mantenere queste società responsabili del loro ruolo in questa crisi e stiamo sviluppando il nostro lavoro per affrontare questo rischio per la salute pubblica. Questa causa e questo piano d’azione [ndr: contestualmente è stato presentato Piano di azione sui social media per realizzare la riforma delle piattaforme dei social media che responsabilizzi i social media e renda più sicure le loro piattaforme per gli adolescenti, educare i giovani e le loro famiglie, gli insegnanti e gli operatori sanitari all’uso sano dei social media e a fare ricerca sul loro impatto sui giovani di New York] fanno parte di una resa dei conti più ampia che plasmerà la vita dei nostri giovani, della nostra città e della nostra società per gli anni a venire“. Oltre all’Amministrazione Adams, tra i querelanti ci sono anche il distretto scolastico e le istituzioni sanitarie, secondo le quali le società proprietarie hanno “consapevolmente progettato, sviluppato, prodotto, gestito, promosso, distribuito e commercializzato le loro piattaforme per attrarre e creare dipendenza, con una supervisione minima da parte dei genitori
