बिना शिकायत के ही आपत्तिजनक कंटेंट हटा देंगे उन्नत एआई मॉडल
लोकप्रिय सोशल मीडिया प्लेटफॉर्म ‘इंस्टाग्राम’ (Instagram) ने भारत में करोड़ों यूजर्स—विशेष रूप से युवाओं और किशोरों—को सुरक्षित डिजिटल अनुभव प्रदान करने के लिए अपने कंटेंट रिकमेंडेशन सिस्टम और एल्गोरिदम में बड़ा तकनीकी बदलाव किया है। इस नए अपडेट के तहत अब भारतीय यूजर्स को इंस्टाग्राम पर अश्लील, भड़काऊ और हिंसक पोस्ट बेहद कम दिखाई देंगी।
इसके लिए मेटा (Meta) ने आर्टिफिशियल इंटेलिजेंस (AI) के नए और अधिक संवेदनशील मॉडलों को तैनात किया है। ये उन्नत एआई मॉडल किसी यूजर द्वारा रिपोर्ट या शिकायत किए जाने का इंतजार किए बिना ही स्वचालित रूप से आपत्तिजनक कंटेंट की पहचान करेंगे और उन्हें यूजर्स की स्क्रीन तक पहुंचने से पहले ही रिकमेंडेशन सूची से बाहर कर देंगे। यह नया सुरक्षा फिल्टर रील्स (Reels), एक्सप्लोर (Explore) और मुख्य फीड में दिखने वाले उन सभी सुझावित पोस्ट पर लागू होगा, जिन्हें यूजर्स स्वयं फॉलो नहीं करते हैं। इस तकनीक से इंस्टाग्राम एआई कंटेंट फिल्टर सोशल मीडिया की स्वच्छता की दिशा में बड़ा कदम साबित होगा।
भारत सरकार की 10 अक्टूबर की सख्त एडवाइजरी के बाद मेटा ने उठाया कदम
गौरतलब है कि इंस्टाग्राम का यह बड़ा नीतिगत बदलाव केंद्र सरकार की सख्ती के बाद सामने आया है। बीते 10 अक्टूबर को भारत सरकार के इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने मेटा (Meta) को एक सख्त एडवाइजरी जारी कर इंस्टाग्राम और फेसबुक के कंटेंट रिकमेंडेशन सिस्टम तथा एल्गोरिदम की तत्काल समीक्षा करने का निर्देश दिया था। सरकार ने अनचाहे अश्लील और हिंसक वीडियो परोसने पर गहरी चिंता जताई थी। इसके अलावा इंस्टाग्राम ने यूजर्स को यह भी याद दिलाया है कि वे अपनी पसंद को नियंत्रित करने के लिए ‘नॉट इंटरेस्टेड’ (Not Interested) विकल्प का उपयोग कर अनचाही पोस्ट को कम कर सकते हैं। बहरहाल, इंस्टाग्राम एआई कंटेंट फिल्टर लागू होने से अभिभावकों और आम यूजर्स ने बड़ी राहत की सांस ली है।


