Nuovi strumenti per proteggersi dalla sextortion e dall'uso improprio delle immagini intime

Punti chiave:

• Stiamo sperimentando nuove funzioni per proteggere i giovani dalla sextortion e dall'uso improprio di immagini intime e per rendere più difficile per potenziali truffatori e criminali trovare adolescenti e interagire con loro.
• Stiamo testando anche nuovi modi per aiutare le persone a individuare potenziali casi di sextortion, spingerle a segnalarli e a non accettare ogni situazione che le metta a disagio.
• Abbiamo aumentato le segnalazioni di account responsabili di sextortion ad altre aziende che si occupano di tecnologia attraverso Lantern, contribuendo a combattere queste attività criminali su Internet.

La sextortion volta a ottenere denaro è un reato orribile. Da anni lavoriamo a stretto contatto con gli esperti, compresi quelli con una lunga esperienza nella lotta a questi reati, per capire le strategie usate dai truffatori per individuare le vittime online ed estorcere loro denaro, in modo da sviluppare modi utili per fermarli.

Oggi offriamo uno sguardo complessivo sul lavoro che abbiamo svolto di recente per contrastare questi reati. Troverai nuovi strumenti che stiamo testando per proteggere le persone dalla sextortion e da altre forme di uso improprio di immagini intime e per rendere il più difficile possibile per i truffatori individuare potenziali vittime sulle app di Meta e su Internet. Stiamo anche sperimentando nuove misure per aiutare i giovani a riconoscere e proteggersi dai rischi di sextortion.

Questi aggiornamenti si fondano nel nostro costante impegno a proteggere i giovani da contatti indesiderati o potenzialmente pericolosi. Configuriamo in modo predefinito impostazioni più rigide per i profili dei minori, in modo che non sia possibile inviare loro messaggi senza essere già in contatto, mostriamo avvisi di sicurezza ai minori che sono già in contatto con account potenzialmente pericolosi e offriamo un'opzione dedicata per segnalare i DM in cui si minaccia di condividere immagini intime. Abbiamo inoltre sostenuto il National Center for Missing and Exploited Children (NCMEC) nello sviluppo di Take It Down, piattaforma che permette ai giovani di riprendere il controllo delle proprie immagini intime ed evitare che vengano condivise online, sottraendo così strumenti di ricatto ai criminali.

Arriva la protezione dalle immagini di nudo nei DM

Le persone usano sempre di più i DM per condividere le proprie passioni con amici, familiari o creator preferiti, ma i criminali responsabili di sextortion potrebbero usare i messaggi privati anche per condividere o chiedere immagini intime. Per aiutare a risolvere il problema, presto inizieremo a testare la nuova protezione dalle immagini di nudo nei DM di Instagram, una funzione che sfoca le immagini in cui è stata rilevata la presenza di nudo e invita le persone a pensarci due volte prima di inviare immagini di nudo. La funzione è pensata non solo per proteggere le persone dalla visione di immagini di nudo indesiderate nei DM, ma anche per tutelarle dai malintenzionati, che potrebbero inviare immagini di nudo per indurre le persone a inviare a loro volta le proprie.

La protezione dalle immagini di nudo sarà attivata per impostazione predefinita per i minorenni a livello globale e mostreremo una notifica che incoraggia gli adulti ad attivarla.

Quando la protezione dalle immagini di nudo è attiva, le persone che inviano tali immagini visualizzano un messaggio che le invita ad agire con prudenza nell'invio di foto sensibili e le informa che, se cambiano idea, possono annullare l'invio delle foto.

Se qualcuno cerca di inoltrare un'immagine di nudo che ha ricevuto, visualizzerà un messaggio che lo invita a ripensarci.

Quando qualcuno riceve un'immagine di nudo, questa viene automaticamente sfocata ed è accompagnata da un avviso. In questo modo, non viene mostrata subito l'immagine al destinatario, che può scegliere se vederla o meno. Inoltre, mostreremo ai destinatari un messaggio che li invita a non sentirsi costretti a rispondere e offre la possibilità di bloccare il mittente e segnalare la conversazione.

All'invio o alla ricezione di queste immagini, le persone saranno reindirizzate a suggerimenti di sicurezza sviluppati con le indicazioni di esperti sui potenziali rischi connessi. Questi suggerimenti ricordano che le persone possono acquisire screenshot o inoltrare immagini a insaputa degli altri, che il rapporto fra le persone potrebbe mutare nel tempo e che è opportuno controllare attentamente i profili di persone che potrebbero non essere chi dicono. I suggerimenti rimandano a diverse risorse, fra cui il Centro per la sicurezza di Meta, le linea di assistenza, StopNCII.org per le persone maggiorenni e Take It Down per i minorenni.

La protezione dalle immagini di nudo usa l'apprendimento automatico sul dispositivo per analizzare se un'immagine inviata in un DM su Instagram contenga nudo. Poiché le immagini sono analizzate sul dispositivo stesso, la protezione dalle immagini di nudo funziona anche nelle chat con crittografia end-to-end, in cui Meta non ha accesso alle immagini (a meno che non ci vengano segnalate).

Impedire che potenziali ricattatori entrino in contatto con i giovani

Interveniamo con fermezza quando scopriamo di persone responsabili di sextortion: rimuoviamo il loro account, adottiamo misure per evitare che ne creino di nuovi e, laddove opportuno, li segnaliamo al NCMEC e alle forze dell'ordine. I nostri team di esperti, inoltre, indagano sulle reti di questi criminali e le combattono, disabilitano i loro account e li segnalano al NCMEC e alle forze dell'ordine e, solo nell'ultimo anno, sono intervenuti su diverse reti.

Al momento, stiamo sviluppando anche una tecnologia per individuare i luoghi in cui gli account potrebbero effettuare sextortion, grazie a una serie di segnali che potrebbero indicare questi comportamenti. Anche se questi segnali non sono necessariamente la prova che un account abbia violato le nostre regole, adottiamo misure preventive per evitare che questi account possano trovare adolescenti e interagirvi. Per farlo, ci basiamo sul lavoro che abbiamo già avviato per impedire ad account sospetti di trovare minori e interagirvi.

Un modo in cui ci stiamo riuscendo è rendere ancora più difficile l'invio di messaggi o l'interazione per account potenzialmente responsabili di sextortion. Da oggi, qualsiasi richiesta di messaggi proveniente da account potenzialmente responsabili di sextortion finirà direttamente nella cartella Richieste nascoste del destinatario, che quindi non sarà informato del messaggio né sarà mai costretto a vederlo. Le persone che chattano già con account che potrebbero appartenere a criminali o ricattatori visualizzeranno avvisi di sicurezza che li invitano a segnalare eventuali minacce di condividere immagini intime, ricordando loro che possono dire di no a qualsiasi interazione che li mette a disagio.

Con gli adolescenti facciamo ancora di più. Gli adulti al momento non possono avviare conversazioni tramite DM con minori con i quali non sono in contatto, mentre a gennaio abbiamo annunciato l'introduzione di impostazioni predefinite di messaggistica più rigide per i minori di 16 anni (18 anni in determinati Paesi). Significa che questi ragazzi possono ricevere messaggi solo da persone con le quali sono già in contatto, a prescindere dall'età del mittente. Da oggi non mostreremo più sul profilo dei minori il pulsante "Invia messaggio" ad account che potrebbero effettuare sextortion, anche se sono già in contatto. Stiamo anche provando a nascondere gli adolescenti dalle liste di follower, account seguiti e "Mi piace" di questi account, e rendendo loro più difficile trovare account di minori nei risultati della ricerca.

Nuove risorse per le persone che potrebbero essere state contattate dai ricattatori

Stiamo testando nuovi messaggi pop-up per le persone che potrebbero aver interagito con un account che abbiamo rimosso per sextortion. Il messaggio rimanda alle nostre risorse curate da esperti, fra cui il nostro hub Come fermare la sextortion, linee di assistenza, la possibilità di contattare un amico, StopNCII.org per le persone maggiorenni e Take It Down per quelle minorenni.

Abbiamo anche aggiunto ai nostri flussi di segnalazione in-app nuove linee di assistenza di tutto il mondo dedicate alla tutela dei minori. In questo modo, se i minori segnalano problemi di questo tipo, come immagini di nudo, minacce di condivisione di immagini intime, sfruttamento sessuale o adescamento, li rimanderemo a linee di assistenza locali per la sicurezza dei minori, ove disponibili.

Combattere le truffe di sextortion su Internet

A novembre, abbiamo annunciato che siamo membri fondatori di Lantern, un programma gestito dalla Tech Coalition che consente alle aziende di tecnologia di segnalare account e comportamenti che violano le loro normative per la sicurezza dei minori.

La collaborazione nel settore è fondamentale, perché i predatori non si limitano a una singola piattaforma e lo stesso vale per i ricattatori. Questi criminali prendono di mira le proprie vittime sulle varie app da loro utilizzate, spesso spostando la conversazione da un'app all'altra. Per questo abbiamo iniziato a condividere più segnali specifici sulla sextortion con Lantern, in modo da instaurare questa importante cooperazione e cercare di fermare i casi di sextortion non solo sulle singole piattaforme, ma in generale su Internet.