Una nuova ricerca della “Mozilla Fellow” Emmi Bevensee: La rete decentralizzata dell’odio
Emmi Bevensee
Una nuova ricerca della “Mozilla Fellow” (amica di Mozilla) Emmi Bevensee esamina come le tecnologie P2P vengono sfruttate per diffondere contenuti tossici e come alcuni stanno reagendo.
Le tecnologie decentralizzate e open-source giocano un ruolo importante nel mantenere internet in salute. Ma come ogni tecnologia, possono anche essere sfruttate da attori cattivi – e usate per rendere internet un posto meno sano e più pericoloso.
Oggi Emmi Bevensee pubblica una nuova ricerca proprio su questo: come i gruppi di odio negli Stati Uniti stanno usando le tecnologie Peer-2-Peer (P2P) per diffondere disinformazione, amplificare i contenuti tossici e incitare alla violenza. Il rapporto, intitolato “The Decentralized Web of Hate” è un’indagine sugli strumenti e le tattiche online utilizzate dal moderno movimento suprematista bianco e sarà pubblicato dalla società di consulenza Rebellious Data LLC che Emmi e il suo team stanno lanciando per fare scienza dei dati del bene sociale. Il rapporto esamina anche le possibili soluzioni ai problemi attuali.
Dice Emmi: “Mentre le principali piattaforme internet come Twitter e YouTube danno un giro di vite ai gruppi di odio, queste comunità online non spariscono. Invece, c’è stato un esodo verso spazi che sono più difficili da controllare e moderare, ma che hanno ancora il potenziale per raggiungere un pubblico di massa”.
“Come risultato, i contenuti tossici e pericolosi continuano a fiorire online. E, ora sta accadendo negli spazi decentralizzati che potrebbero essere paradisi dalle molestie per le comunità queer, trans e PoC, così come i movimenti di giustizia sociale più in generale”.
Mentre le principali piattaforme internet come Twitter e YouTube danno un giro di vite ai gruppi d’odio, queste comunità online non spariscono.
Tra i risultati chiave di Emmi nel rapporto:
David Duke, ex leader del KKK, bannato da youtube
La radicalizzazione sta diventando più difficile da affrontare. Le grandi piattaforme come YouTube usano algoritmi imperfetti sia per le raccomandazioni che per la moderazione automatica dei contenuti. Ospitano comunità che possono disinformare e radicalizzare gli utenti impressionabili. La “radicalizzazione” si riferisce alle condutture in cui gli utenti sono esposti a forme più estreme di ideologie e comportamenti razzisti nel tempo. Gli approcci centralizzati alla moderazione, come una moderazione dall’alto o un team di sicurezza, non funzionano sulla tecnologia P2P perché la tecnologia stessa si basa sulla decentralizzazione dell’autorità. Poiché sempre più suprematisti bianchi continuano a migrare verso la tecnologia P2P, aumenta anche il rischio che organizzino la violenza attraverso questi strumenti.
L’odio moderno non è così sensibile alla deterrenza dall’alto. Come molti suprematisti bianchi stessi espandono l’uso di tattiche “senza leader”, stanno diventando più agili nell’aggirare gli approcci centralizzati per contrastare i loro sforzi, come la politica, la moderazione automatica dei contenuti, o gli arresti degli attaccanti “lupi solitari”. La decentralizzazione dei gruppi suprematisti bianchi è sempre più facilitata da una tecnologia P2P incontenibile e criptata. Come tale, molti metodi dei tipici sistemi e strutture governative, come la legislazione o la sorveglianza, si stanno dimostrando meno efficaci nel più moderno panorama delle minacce. Solo una rete può sconfiggere una rete.
Ci sono soluzioni decentralizzate emergenti. Alcuni strumenti P2P hanno introdotto nuove idee per combattere i contenuti dannosi. Alcune piattaforme hanno svelato gli accordi con gli utenti e hanno esortato le loro comunità a bloccare il supporto di strumenti problematici. Altre piattaforme hanno introdotto “audit di abuso” per identificare e mitigare le potenziali minacce per gli utenti. A causa della natura tecnica e sociale dei problemi che affrontiamo, le nostre soluzioni devono anche essere ampiamente decentralizzate.
La decentralizzazione aiuta a risolvere molti problemi, ma solleva anche nuove sfide. Le tecnologie P2P possono far progredire molti dei più grandi problemi di coordinamento della società, dal trasporto pubblico e dalle catene di approvvigionamento alla connessione sociale positiva e alla collaborazione. Tuttavia, le sfide che ci chiedono di affrontare non hanno soluzioni facili.
Per leggere il rapporto completo, visita rebelliousdata.com/p2p.