ब्लैकमेल (सेक्सटॉर्शन) के खिलाफ़ लड़ने और निजी पलों की फ़ोटो के दुरुपयोग से बचने के लिए नए टूल

मुख्य बातें:

• हम युवाओं को ब्लैकमेल (सेक्सटॉर्शन) होने और उनके निजी पलों की फ़ोटो का दुरुपयोग होने से बचाने के लिए नए फ़ीचर्स टेस्ट कर रहे हैं. संभावित स्कैमर और अपराधियों के लिए टीनएजर बच्चों को खोजना और उनके साथ इंटरैक्ट करना और मुश्किल बनाने के लिए भी हम ऐसा कर रहे हैं.
• हम लोगों को संभावित ब्लैकमेल (सेक्सटॉर्शन) स्कैम का पता लगाने के लिए नए तरीकों का भी टेस्ट कर रहे हैं, उन्हें रिपोर्ट करने के लिए प्रोत्साहित करते हैं. इसके अलावा, हम उन्हें ऐसी किसी चीज़ के लिए भी ना बोलने के लिए सशक्त बनाते हैं जो उन्हें असहज महसूस कराती हैं.
• हमने लैंटर्न के ज़रिए अन्य टेक्नोलॉजी कंपनियों को ब्लैकमेल (सेक्सटॉर्शन) अकाउंट के बारे में ज़्यादा सिग्नल शेयर करना शुरू कर दिया है, जिससे इंटरनेट पर इस आपराधिक गतिविधि को रोकने में मदद मिली है.

ब्लैकमेल (सेक्सटॉर्शन) करके पैसे ऐंठना बहुत बड़ा अपराध है. हमने एक्सपर्ट के साथ कई सालों तक काम किया है. इसमें वे भी शामिल हैं, जो इस तरह के अपराधों के खिलाफ़ लड़ चुके हैं, ताकि स्कैमर्स पीड़ितों को ऑनलाइन खोजने और उन्हें ब्लैकमेल करने के लिए जिस स्ट्रेटेजी का उपयोग करते हैं उसे समझा जा सके और हम उन्हें रोकने के लिए असरदार तरीके खोज सकें.

आज हम इन अपराधों से निपटने के लिए किए जा रहे अपने नए काम की जानकारी शेयर कर रहे हैं. इसमें वे नए टूल शामिल हैं, जिन्हें हम लोगों को ब्लैकमेल (सेक्सटॉर्शन) और निजी पलों की फ़ोटो के अन्य दुरुपयोग से बचाने के लिए टेस्ट कर रहे हैं. साथ ही, Meta के ऐप्स और इंटरनेट पर स्कैमर्स के लिए संभावित टार्गेट को खोजना जितना मुमकिन हो उतना कठिन बनाने की कोशिश कर रहे हैं. हम ब्लैकमेल (सेक्सटॉर्शन) स्कैम को खुद से पहचानने और उनसे बचने में युवा लोगों को सपोर्ट करने के लिए नए उपायों को भी टेस्ट कर रहे हैं.

हमने काफ़ी समय तक काम करने के बाद ये अपडेट किए हैं, ताकि युवाओं को अनचाहे और नुकसान पहुँचाने वाले संभावित संपर्क से बचाया जा सके. हम टीनएजर बच्चों के लिए सख्त मैसेज सेटिंग को डिफ़ॉल्ट रूप से लागू करते हैं, ताकि उन्हें किसी ऐसे व्यक्ति से मैसेज न मिले, जिससे उन्होंने पहले कभी बात नहीं की है. इसके अलावा, उन टीनएजर बच्चों को सुरक्षा नोटिस दिखाते हैं, जो पहले से ही संभावित स्कैम अकाउंट के संपर्क में हैं और उन्हें खास तौर पर उन लोगों के DM को रिपोर्ट करने के विकल्प दिखाते हैं जो उन्हें अपनी निजी फ़ोटो शेयर करने की धमकी दे रहे हों. हमने टेक इट डाउन को डेवलप करने में नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को भी सपोर्ट किया. यह एक ऐसा प्लेटफ़ॉर्म है जिसके ज़रिए युवा स्कैमर्स से अपने निजी पलों की फ़ोटो का कंट्रोल वापस पा सकते हैं और उन्हें ऑनलाइन शेयर होने से बचा सकते हैं.

पेश है DM में 'नग्नता से सुरक्षा' फ़ीचर

लोग अपने दोस्तों, परिवार या पसंदीदा क्रिएटर्स के साथ ऐसी चीज़ें शेयर करने के लिए DM का उपयोग करते हैं, जो उन्हें पसंद आती हैं. ब्लैकमेल (सेक्सटॉर्शन) स्कैमर भी निजी पलों की फ़ोटो शेयर करने या माँगने के लिए प्राइवेट मैसेज का उपयोग कर सकते हैं. इस समस्या को हल करने के लिए, हम जल्द ही Instagram DM में अपने नए 'नग्नता से सुरक्षा' फ़ीचर का टेस्ट शुरू करेंगे. यह फ़ीचर उन फ़ोटो को धुँधली कर देता है जो नग्नता वाले फ़ोटो के रूप में पहचानी गई हैं और लोगों को नग्न फ़ोटो भेजने से पहले दो बार सोचने को मजबूर करता है. यह फ़ीचर न सिर्फ़ लोगों को अपने DM में अनचाही नग्नता देखने से बचाने के लिए डिज़ाइन किया गया है, बल्कि उन्हें ऐसे स्कैमर से बचाने के लिए भी डिज़ाइन किया गया है जो लोगों को बदले में अपनी नग्न फ़ोटो भेजने के लिए अपनी नग्न फ़ोटो भेज सकते हैं.

'नग्नता से सुरक्षा' फ़ीचर दुनिया भर में मौजूद 18 साल से कम उम्र के टीनएजर बच्चों के लिए डिफ़ॉल्ट रूप से चालू रहेगा और हम वयस्कों को इसे चालू करने के लिए प्रोत्साहित करने वाला नोटिफ़िकेशन दिखाएँगे.

जब 'नग्नता से सुरक्षा' फ़ीचर चालू होता है, तो नग्नता वाले फ़ोटो भेजने वाले लोगों को एक मैसेज दिखेगा, जो उन्हें संवेदनशील फ़ोटो भेजते समय सतर्क रहने की याद दिलाएगा. उन्हें यह भी याद दिलाया जाएगा कि अगर वे अपना विचार बदलते हैं, तो वे इन फ़ोटो को डिलीट कर सकते हैं.

नग्न फ़ोटो फ़ॉरवर्ड करने वाले व्यक्ति को एक मैसेज दिखेगा, जो उन्हें फिर से सोचने के लिए प्रोत्साहित करेगा.

अगर किसी व्यक्ति को नग्नता वाली फ़ोटो मिलती है, तो वह अपने आप धुँधली हो जाती है और उसके साथ एक चेतावनी दिखाई देती है. इसका मतलब है कि फ़ोटो पाने वाले व्यक्ति को नग्न फ़ोटो नहीं दिखेगी और वह यह चुन सकता है कि इसे देखना है या नहीं. हम उन्हें एक मैसेज भी दिखाएँगे, जो उन्हें प्रोत्साहित करेगा कि वे जवाब देने के दबाव में न आएँ. साथ ही, उन्हें फ़ोटो भेजने वाले व्यक्ति को ब्लॉक करने और चैट की रिपोर्ट करने का विकल्प भी दिखाई देगा.

इन फ़ोटो को भेजते या पाते समय, लोगों को सुरक्षा संबंधी सुझाव दिखाए जाते हैं. ये विशेषज्ञों की सलाह पर तैयार किए गए हैं और इन फ़ोटो से जुड़े संभावित जोखिमों के बारे में बताते हैं. इन सुझावों में ये रिमाइंडर शामिल हैं कि लोग आपकी जानकारी के बिना आपकी फ़ोटो का स्क्रीनशॉट ले सकते हैं या उसे फ़ॉरवर्ड कर सकते हैं, आने वाले समय में उस व्यक्ति के साथ आपका रिलेशनशिप बदल सकता है और अगर वे कोई और होने का दिखावा करते हैं, तो आपको प्रोफ़ाइल को अच्छे से रिव्यू करनी चाहिए. लोगों को कई रिसोर्स के लिंक भी दिखाए जाते हैं, जैसे कि Meta का सेफ़्टी सेंटर, सपोर्ट हेल्पलाइन, 18 साल से ज़्यादा उम्र के लोगों के लिए StopNCII.org और 18 साल से कम उम्र वालों के लिए Take It Down.

'नग्नता से सुरक्षा' फ़ीचर, यह देखने के लिए ऑन-डिवाइस मशीन लर्निंग का उपयोग करता है कि Instagram पर DM में भेजी गई फ़ोटो में नग्नता है या नहीं. फ़ोटो का डिवाइस पर ही विश्लेषण होता है, 'नग्नता से सुरक्षा' फ़ीचर एंड-टू-एंड एन्क्रिप्टेड चैट में काम करता है, जहाँ Meta इन फ़ोटो को तब तक एक्सेस नहीं कर पाएगा, जब तक कोई हमें उनकी रिपोर्ट न करे.

संभावित स्कैमर्स को टीनएजर बच्चों से कनेक्ट करने से रोकना

अगर हमें पता चलता है कि कोई व्यक्ति ब्लैकमेल (सेक्सटॉर्शन) में शामिल है, तो हम उसके खिलाफ़ गंभीर एक्शन लेते हैं: हम उसका अकाउंट हटा देते हैं, उसे नए अकाउंट बनाने से रोकने के लिए कुछ कदम उठाते हैं और जहाँ भी ज़रूरी हो, उस व्यक्ति की NCMEC और कानून लागू करने वाली संस्था में रिपोर्ट करते हैं. हमारी एक्सपर्ट टीम ऐसे अपराधियों के नेटवर्क की जाँच पड़ताल करने और उन्हें रोकने, उनके अकाउंट को बंद करने और उनकी NCMEC और कानून लागू करने वाली संस्था को रिपोर्ट करने के लिए भी काम करती है. टीम ने पिछले साल ही कई ऐसे नेटवर्क के खिलाफ़ एक्शन लिए हैं.

अब हम ऐसी टेक्नोलॉजी भी डेवलप कर रहे हैं जो संभावित रूप से ब्लैकमेल (सेक्सटॉर्शन) स्कैम में एंगेज होने वाले अकाउंट की पहचान करेगी. यह पहचान ब्लैकमेल (सेक्सटॉर्शन) वाले व्यवहार के कई सिग्नल के आधार पर की जाएगी. हालाँकि, ये सिग्नल इस बात का प्रमाण नहीं हैं कि किसी अकाउंट ने हमारे नियमों का उल्लंघन किया है, फिर भी हम इन अकाउंट को टीनएजर बच्चों के अकाउंट ढूँढने और उनसे इंटरैक्ट करने से रोकने के लिए सावधानी बरत रहे हैं. यह उस काम पर आधारित है, जो हम पहले से ही अन्य संभावित संदिग्ध अकाउंट को खोजने और टीनएजर बच्चों के साथ बातचीत करने से रोकने के लिए कर रहे हैं.

ऐसा करने का एक तरीका यह है कि संभावित ब्लैकमेल (सेक्सटॉर्शन) अकाउंट के लिए लोगों को मैसेज भेजना या उनके साथ इंटरैक्ट करना और भी मुश्किल बना दिया जाए. अगर अब संभावित ब्लैकमेल (सेक्सटॉर्शन) अकाउंट किसी व्यक्ति को कोई मैसेज भेजता है, तो वह उसे पाने वाले व्यक्ति की छिपी हुई रिक्वेस्ट फ़ोल्डर में चला जाएगा. इसका मतलब है कि उन्हें मैसेज के बारे में नोटिफ़िकेशन नहीं मिलेगा और वे इसे कभी नहीं देख पाएँगे. जो लोग पहले से ही संभावित स्कैम या ब्लैकमेल (सेक्सटॉर्शन) से चैटिंग कर रहे हैं, हम उन्हें सुरक्षा नोटिस दिखाते हैं, जो उन्हें अपनी प्राइवेट फ़ोटो को शेयर करने के लिए किसी भी खतरे की रिपोर्ट करने हेतु प्रोत्साहित करते हैं. साथ ही, उन्हें यह याद दिलाते हैं कि वे ऐसी किसी भी चीज़ को ना कह सकते हैं जो उन्हें असहज महसूस कराती है.

टीनएजर बच्चों के लिए, हम और भी चीज़ें कर रहे हैं. हमने पहले ही वयस्कों को उन टीनएजर बच्चों के साथ DM चैट शुरू करने से प्रतिबंधित कर दिया है, जिनसे वे कनेक्ट नहीं हैं. इसके अलावा, जनवरी में हमने 16 साल से कम उम्र के टीनएजर बच्चों (कुछ देशों में 18 साल से कम) के लिए सख्त मैसेजिंग सेटिंग को डिफ़ॉल्ट रूप से लागू करने की घोषणा की. इसका मतलब है कि उन्हें सिर्फ़ वे लोग ही मैसेज कर सकते हैं जिनसे वे पहले से कनेक्ट हैं. इस बात से कोई फ़र्क नहीं पड़ता कि मैसेज भेजने वाले व्यक्ति की उम्र कितनी है. अब हम किसी टीनएजर बच्चे की प्रोफ़ाइल पर संभावित ब्लैकमेल (सेक्सटॉर्शन) अकाउंट पर "मैसेज भेजें" बटन नहीं दिखाएँगे, भले ही वे पहले से ही कनेक्ट हों. हम लोगों की फ़ॉलोअर, फ़ॉलोइंग और लाइक की लिस्ट में इन अकाउंट के लिए टीनएजर बच्चों को छिपाने का भी टेस्ट कर रहे हैं और उनके लिए सर्च रिज़ल्ट में टीनएजर बच्चों के अकाउंट को सर्च करना मुश्किल बना रहे हैं.

उन लोगों के लिए नए रिसोर्स, जिनसे स्कैमर्स ने संपर्क करने की कोशिश की

हम उन लोगों के लिए नए पॉप-अप मैसेज को टेस्ट कर रहे हैं, जिन्होंने हो सकता है कि उस अकाउंट से इंटरैक्ट किया हो जिसे हमने ब्लैकमेल (सेक्सटॉर्शन) के लिए हटा दिया है. मैसेज उन्हें हमारे एक्सपर्ट की सलाह लेकर तैयार किए गए रिसोर्स पर डायरेक्ट करेगा, इसमें ये भी शामिल हैं: 'ब्लैकमेल (सेक्सटॉर्शन) रोकें' हब, सपोर्ट हेल्पलाइन, दोस्त से संपर्क करने के विकल्प, 18 साल से ज़्यादा उम्र के बच्चों के लिए StopNCII.org और 18 साल से कम उम्र के बच्चों के लिए टेक इट डाउन.

हम अपने ऐप में रिपोर्ट करने की प्रोसेस में दुनिया भर से बच्चों की सुरक्षा वाली नई हेल्पलाइन भी जोड़ रहे हैं. इसका मतलब है कि जब टीनएजर बच्चे किसी प्रासंगिक मामले की रिपोर्ट करेंगे, जैसे कि नग्नता, प्राइवेट फ़ोटो को शेयर करने की धमकी या यौन शोषण या आग्रह, तो हम उन्हें जहाँ उपलब्ध हो, वहाँ बच्चों की सुरक्षा के लिए लोकल हेल्पलाइन पर भेजेंगे.

ब्लैकमेल (सेक्सटॉर्शन) स्कैम के खिलाफ़ लड़ना

नवंबर में हमने घोषणा की थी कि हम Tech Coalition द्वारा चलाए जाने वाले प्रोग्राम लैंटर्न के संस्थापक सदस्य हैं. लैंटर्न, टेक्नोलॉजी कंपनियों को उन अकाउंट और व्यवहारों के बारे में सिग्नल शेयर करने में मदद करता है, जो उनकी बच्चों की सुरक्षा से जुड़ी पॉलिसी का उल्लंघन करते हैं.

इंडस्ट्री का यह सहयोग महत्वपूर्ण है, क्योंकि शिकारी खुद को सिर्फ एक प्लेटफ़ॉर्म तक सीमित नहीं रखते हैं. यही बात ब्लैकमेल (सेक्सटॉर्शन) स्कैमर्स पर भी लागू होती है. ये अपराधी पीड़ितों को उनके द्वारा उपयोग किए जाने वाले अलग-्अलग ऐप पर टार्गेट करते हैं, अक्सर अपनी बातचीत को एक ऐप से दूसरे ऐप पर ले जाते हैं. इसलिए, हमने लैंटर्न के साथ ब्लैकमेल (सेक्सटॉर्शन) से जुड़े ज़्यादा सिग्नल शेयर करना शुरू कर दिया है, ताकि इस महत्वपूर्ण सहयोग को आगे बढ़ाया जा सके और न सिर्फ़ किसी एक प्लेटफ़ॉर्म पर, बल्कि पूरे इंटरनेट पर ब्लैकमेल (सेक्सटॉर्शन) स्कैम के मामलों को रोकने का प्रयास किया जा सके.