Un aggiornamento sul nostro impegno per contrastare l'uso improprio di Instagram

Vogliamo che Instagram sia un luogo dove è possibile connettersi con le persone e le realtà amate. Tuttavia, siamo consapevoli che, proprio come accade nel mondo offline, ci sarà sempre qualcuno pronto ad attaccare gli altri. Recentemente ne abbiamo visto un esempio con gli insulti razzisti sul Web rivolti ai calciatori nel Regno Unito. Non vogliamo comportamenti di questo tipo su Instagram.

In particolare, stiamo osservando un uso improprio maggiormente diffuso nei direct (messaggi di Instagram Direct), più difficili da gestire rispetto ai commenti su Instagram. Poiché i direct riguardano le conversazioni private, non usiamo nello stesso modo la tecnologia che adottiamo altrove per individuare in modo proattivo contenuti quali incitamento all'odio o bullismo. Ci sono comunque diverse azioni che possiamo eseguire per prevenire questo tipo di comportamenti. Pertanto, oggi annunciamo l'adozione di alcune nuove misure, tra cui la rimozione degli account di persone che inviano messaggi offensivi, e lo sviluppo di nuovi dispositivi di controllo per contribuire a ridurre le offese visualizzate nei direct.

La nostra posizione in materia di contenuti che incitano all'odio

Le nostre regole in materia di contenuti che incitano all'odio non tollerano attacchi alle persone basati sull'appartenenza a categorie protette, incluse razza e religione. L'anno scorso abbiamo rafforzato queste regole, escludendo forme di incitamento all'odio più implicite, come contenuti relativi al blackface e a tropi antisemiti comuni. Interveniamo non appena rileviamo contenuti che incitano all'odio e continuiamo a migliorare i nostri strumenti di rilevamento per individuarli più velocemente. Tra luglio e settembre dell'anno scorso siamo intervenuti in 6,5 milioni di contenuti che incitavano all'odio su Instagram, inclusi i direct, e nel 95% dei casi li abbiamo individuati prima che qualcuno li segnalasse.

Sanzioni più severe per le persone che inviano messaggi offensivi

Oggi annunciamo l'adozione di provvedimenti più severi nei casi in cui rilevassimo violazioni delle nostre regole nei direct. Attualmente, quando qualcuno invia direct che non rispettano le nostre regole, impediamo al mittente di inviare altri messaggi per un determinato periodo di tempo. Con le nuove misure, se qualcuno continua a inviare messaggi in violazione delle regole, disabiliteremo il suo account. Disabiliteremo anche gli account creati per aggirare le restrizioni sui messaggi e continueremo a disabilitare quelli che riteniamo siano creati solo per inviare messaggi offensivi.

Collaborazione con le forze dell'ordine

Cooperiamo inoltre con le forze dell'ordine del Regno Unito in materia di contenuti che incitano all'odio e risponderemo a richieste di informazioni legalmente valide relative a questi casi. Come accade con tutte le richieste da parte delle forze dell'ordine, le respingeremo se sono troppo ampie, in contrasto con i diritti umani o non legalmente valide.

Strumenti di controllo dell'esperienza

Per quanto riguarda i commenti su Instagram, disponiamo anche di alcuni strumenti per aiutare gli utenti a proteggersi. Le persone possono usare i filtri per i commenti per impedire ad altri di lasciare commenti offensivi che utilizzano parole, frasi o emoji non graditi. L'anno scorso, abbiamo annunciato una nuova funzione per gestire più commenti indesiderati in una volta sola, che si tratti di cancellarli in gruppo o di bloccare in gruppo gli account che li hanno pubblicati. Abbiamo anche constatato una diminuzione significativa dei commenti offensivi dopo aver iniziato a usare l'IA per avvisare le persone quando stanno per pubblicare contenuti potenzialmente lesivi.

Assicurarsi che le persone non visualizzino contenuti di incitamento all'odio o molesti nei direct è più difficile, considerato che si tratta di conversazioni private. Gli account business e creator, che tendono ad avere elevate quantità di follower e ricevono il maggior numero di messaggi offensivi da persone che non conoscono, hanno la possibilità di disattivare i direct delle persone che non seguono. Abbiamo anche iniziato a introdurre questi strumenti di controllo negli account personali in molti Paesi e speriamo di renderli presto disponibili per tutti. Le persone possono scegliere di disattivare i tag o le menzioni di sconosciuti o bloccare chiunque invii loro messaggi indesiderati.

Come le recenti conversazioni con la nostra community hanno reso fin troppo chiaro, siamo consapevoli che leggere direct offensivi è innanzitutto doloroso. Al momento, stiamo lavorando a una nuova funzione pensata per aiutarci a risolvere questo problema, che includerà i feedback della community. Speriamo di attivarla nei prossimi mesi.

Ci impegniamo a fare tutto il possibile per contrastare i discorsi d'odio e il razzismo sulla nostra piattaforma, ma siamo anche consapevoli che si tratta di problemi più grandi di noi. Speriamo di poter collaborare con altre aziende, associazioni calcistiche, ONG, governi, genitori ed educatori, sia online che offline.