Nuovi modi per proteggere la nostra comunità dagli abusi

Di Adam Mosseri, Head di Instagram

Oggi, annunciamo una serie di nuove funzionalità per aiutare le persone a proteggersi dagli abusi su Instagram:

La possibilità di limitare i commenti e le richieste via DM durante i picchi di attenzione;
Avvertimenti ancora più forti quando le persone cercano di pubblicare commenti potenzialmente offensivi;
Il lancio globale della nostra funzione Hidden Words, che permette alle persone di filtrare le richieste abusive nei DM.

Abbiamo la responsabilità di assicurarci che tutti si sentano al sicuro su Instagram. Non permettiamo discorsi di odio o bullismo sulla piattaforma e li rimuoviamo ogni volta che li troviamo. Vogliamo inoltre proteggere le persone in modo preventivo, prima ancora che possano sperimentare un abuso, ed è per questo che ascoltiamo costantemente i feedback degli esperti e della nostra community e sviluppiamo nuove funzionalità che offrano sempre più controllo sulla propria esperienza su Instagram e che aiutino a proteggersi dagli abusi.

Limiti: Evitare facilmente commenti e DM indesiderati

Per aiutare a proteggere le persone quando subiscono o si aspettano un’ondata di commenti e DM abusivi, stiamo introducendo Limiti: una funzione facile da attivare, che nasconde automaticamente i commenti e le richieste di DM di persone che non ti seguono, o che hanno iniziato a seguirti solo di recente.

Abbiamo sviluppato questa funzione perché, interagendo con i creator e i personaggi pubblici, ci siamo resi conto che a volte si ritrovano a dover gestire improvvisi picchi di commenti e richieste di DM da persone che non conoscono. In molti casi si tratta di messaggi di apprezzamento e supporto, come per esempio le congratulazioni dopo aver vinto una medaglia olimpica. Altre volte però, può anche significare un’ondata di commenti negativi o messaggi indesiderati. Se è già capitato o se si pensi che possa succedere, ora sarà possibile attivare Limiti ed evitarlo.

Le nostre ricerche hanno mostrato che la maggior parte della negatività verso i personaggi pubblici proviene da persone che non li seguono o li seguono solo da poco. Lo abbiamo visto dopo la recente finale del campionato europeo di calcio, che ha portato a un significativo – e inaccettabile – picco di abusi razzisti verso i giocatori. I creator ci hanno detto che, nonostante questi spiacevoli episodi, non vogliono eliminare completamente i commenti e i messaggi perchè vogliono poter ascoltare la loro comunità e costruire queste relazioni. La funzione Limiti permette di ascoltare i follower più devoti e di lunga data, limitando allo stesso tempo i contatti da parte di persone che potrebbero avvicinarsi all’account solo per prenderlo di mira.

Limiti sarà disponibile su Instagram per tutti a livello globale a partire da oggi. Per attivarlo o disattivarlo basta andare nelle proprie impostazioni per la privacy. Stiamo anche esplorando modi per prevedere i picchi nei commenti e nei DM, in modo da poter chiedere in via preventiva all’utente di attivare Limiti.

Avvertimenti ancora più forti per scoraggiare le molestie

Su Instagram mostriamo già un avvertimento quando qualcuno cerca di pubblicare un commento potenzialmente offensivo. E se si cerca di pubblicare commenti potenzialmente offensivi più volte, mostriamo un avvertimento ancora più forte, contente le nostre linee guida della comunità e avvertendo che potremmo rimuovere o nascondere il commento. Ora, invece di aspettare il secondo o terzo commento, mostreremo questo messaggio più forte già al primo tentativo.

Per esempio, nell’ultima settimana abbiamo mostrato questi avvertimenti circa un milione di volte al giorno alle persone che stavano scrivendo commenti potenzialmente offensivi. Sulla base di queste notifiche, in circa il 50% dei casi il commento è stato modificato o cancellato dall’utente.

Combattere gli abusi nei DM e nei commenti

Per aiutare a proteggere le persone dagli abusi nelle loro richieste di DM, abbiamo recentemente annunciato Hidden Words, che consente di filtrare automaticamente parole, frasi ed emoji offensivi in una cartella nascosta, che può anche non essere mai aperta. Filtra anche le richieste di DM che possono essere spam o comunque fastidiose. Abbiamo lanciato questa funzione in una serie di paesi all’inizio di quest’anno e sarà disponibile per tutti a livello globale entro la fine di questo mese. Continueremo ad incoraggiare gli account con un grande seguito ad utilizzarla, inviando messaggi nella loro casella di posta DM e mettendo un promemoria all’inizio delle Storie.

Abbiamo ampliato la lista di parole potenzialmente offensive, hashtag ed emoji che filtriamo automaticamente dai commenti e continueremo a tenerla aggiornata. Recentemente abbiamo aggiunto anche una nuova opzione opt-in per “Nascondere altri commenti” che possono essere potenzialmente dannosi anche se non infrangono le nostre regole.

Continuare a lottare contro gli abusi online

Speriamo che queste nuove funzionalità possano proteggere ancora di più le persone dal vedere contenuti abusivi, siano essi razzisti, sessisti, omofobi o di qualsiasi altro tipo. Sappiamo che c’è ancora molto da fare, come ad esempio migliorare i nostri sistemi per trovare e rimuovere più rapidamente i contenuti abusivi e rendere responsabili coloro che li pubblicano. E sappiamo anche che, nonostante l’impegno profuso per combattere l’odio sulla nostra piattaforma, questi sono problemi più grandi di noi. Continueremo pertanto a sostenere le organizzazioni focalizzate sull’ingiustizia razziale e sull’equità, e vogliamo collaborare ancora di più con l’industria, i governi e le ONG per educare e aiutare a sradicare l’odio. Questo è un lavoro che non si ferma qui: continueremo a condividere gli aggiornamenti sui nostri progressi.

theoria.it