Un aggiornamento sul nostro impegno per contrastare gli usi impropri su Instagram

Vogliamo che Instagram sia un luogo dove è possibile connettersi con le persone e le realtà amate. Tuttavia, siamo consapevoli che, proprio come accade nel mondo offline, ci sarà sempre qualcuno pronto ad attaccare gli altri. Recentemente ne abbiamo visto un esempio con gli insulti razzisti sul Web rivolti ai calciatori nel Regno Unito. Non vogliamo comportamenti di questo tipo su Instagram.

In particolare, stiamo osservando un uso improprio maggiormente diffuso nei direct (DM), più difficili da gestire rispetto ai commenti su Instagram. Poiché i DM riguardano conversazioni private, non usiamo nello stesso modo la tecnologia che adottiamo altrove per individuare in modo proattivo contenuti quali incitamento all'odio o bullismo. Ci sono comunque diverse azioni che possiamo eseguire per prevenire questo tipo di comportamenti. Pertanto, oggi annunciamo l'adozione di alcune nuove misure, tra cui la rimozione degli account di persone che inviano messaggi offensivi e lo sviluppo di nuove opzioni di controllo per contribuire a ridurre gli usi impropri nei DM.

La nostra posizione in materia di contenuti che incitano all'odio

Le nostre regole in materia di contenuti che incitano all'odio non tollerano attacchi alle persone basati sull'appartenenza a categorie protette, incluse razza e religione. L'anno scorso abbiamo rafforzato queste regole, vietando forme di incitamento all'odio più implicite, come contenuti relativi al blackface e a tropi antisemiti comuni. Interveniamo non appena rileviamo contenuti che incitano all'odio e continuiamo a migliorare i nostri strumenti di rilevamento per individuarli più velocemente. Tra luglio e settembre dell'anno scorso siamo intervenuti in 6,5 milioni di contenuti che incitavano all'odio su Instagram, inclusi i DM, e nel 95% dei casi li abbiamo individuati prima che qualcuno li segnalasse.

Sanzioni più severe per le persone che inviano messaggi offensivi

Oggi annunciamo l'adozione di provvedimenti più severi nel caso in cui rilevassimo violazioni delle nostre regole nei DM. Attualmente, quando qualcuno invia DM che non rispettano le nostre regole, impediamo al mittente di inviare altri messaggi per un determinato periodo di tempo. Con le nuove misure, se una persona continua a inviare messaggi in violazione delle regole, disabiliteremo il suo account. Disabiliteremo anche i nuovi account creati per aggirare le restrizioni sui messaggi e continueremo a disabilitare quelli che riteniamo siano creati solo per inviare messaggi offensivi.

Collaborazione con le forze dell'ordine

Cooperiamo inoltre con le forze dell'ordine del Regno Unito in materia di contenuti che incitano all'odio e risponderemo a richieste di informazioni legalmente valide relative a questi casi. Come accade con tutte le richieste da parte delle forze dell'ordine, le respingeremo se sono troppo ampie, in contrasto con i diritti umani o non legalmente valide.

Strumenti di controllo dell'esperienza

Per quanto riguarda i commenti su Instagram, disponiamo anche di alcuni strumenti per aiutare gli utenti a proteggersi. Le persone possono usare i filtri per i commenti per impedire ad altri di lasciare commenti offensivi che utilizzano parole, frasi o emoji non graditi. L'anno scorso, abbiamo annunciato una nuova funzione per gestire più commenti indesiderati in una volta sola, che si tratti di cancellarli in gruppo o di bloccare in gruppo gli account che li hanno pubblicati. Abbiamo anche constatato una diminuzione significativa dei commenti offensivi dopo aver iniziato a usare l'IA per avvisare le persone quando stanno per pubblicare contenuti potenzialmente lesivi.

Assicurarsi che le persone non visualizzino contenuti di incitamento all'odio o molesti nei DM è più difficile, dal momento che si tratta di conversazioni private. Gli account business e creator, che tendono ad avere elevate quantità di follower e ricevono il maggior numero di messaggi offensivi da persone che non conoscono, hanno la possibilità di disattivare i DM delle persone che non seguono. Abbiamo anche iniziato a introdurre questi strumenti di controllo negli account personali in molti Paesi e speriamo di renderli presto disponibili per tutti. Le persone possono anche scegliere di disattivare i tag o le menzioni di sconosciuti o bloccare chiunque invii loro messaggi indesiderati.

Come le recenti conversazioni con la nostra community hanno reso fin troppo chiaro, siamo consapevoli che leggere DM offensivi è innanzitutto doloroso. Al momento, stiamo lavorando a una nuova funzione pensata per aiutarci a risolvere questo problema, che includerà i feedback della community. Speriamo di attivarla nei prossimi mesi.

Ci impegniamo a fare tutto il possibile per contrastare i discorsi d'odio e il razzismo sulla nostra piattaforma, ma siamo anche consapevoli che si tratta di problemi più grandi di noi. Per questo motivo ci auguriamo di poter collaborare con altre aziende, associazioni calcistiche, ONG, governi, genitori ed educatori, sia online che offline.