नई दिल्ली। सोशल मीडिया प्लेटफॉर्म इंस्टाग्राम पर अब यूजर्स को अश्लील और हिंसक कंटेंट कम दिखाई देगा। कंपनी ने भारत में अपने कंटेंट रिकमंडेशन सिस्टम को अपडेट किया है। इसके तहत आर्टिफिशियल इंटेलिजेंस (AI) के उन्नत मॉडल की मदद से आपत्तिजनक पोस्ट की पहचान की जाएगी और ऐसे कंटेंट को यूजर्स तक पहुंचने से पहले ही रिकमंडेशन से बाहर रखा जाएगा। यह बदलाव खासतौर पर उन पोस्ट पर लागू होगा, जिन्हें यूजर्स फॉलो नहीं करते हैं।
मेटा ने 16 नवंबर को अपने आधिकारिक ब्लॉग के जरिए इस बदलाव की जानकारी दी। नए सिस्टम का उद्देश्य इंस्टाग्राम पर यूजर्स को सुरक्षित और बेहतर डिजिटल अनुभव देना है। इसके तहत रील्स, एक्सप्लोर और फीड में दिखाई देने वाले रिकमंडेड कंटेंट की पहले से जांच की जाएगी। यदि कोई पोस्ट निर्धारित गाइडलाइंस के अनुरूप नहीं होगी, तो उसे यूजर्स को दिखाए जाने वाले सुझावों में शामिल नहीं किया जाएगा।
सरकार की एडवाइजरी के बाद मेटा ने उठाया कदम
इंस्टाग्राम के इस बदलाव को सोशल मीडिया पर आपत्तिजनक कंटेंट को नियंत्रित करने की दिशा में अहम कदम माना जा रहा है। दरअसल, 10 अक्टूबर को केंद्र सरकार ने मेटा को एडवाइजरी जारी कर इंस्टाग्राम और फेसबुक के कंटेंट रिकमंडेशन सिस्टम तथा एल्गोरिदम की समीक्षा करने को कहा था।
सरकार की चिंता थी कि सोशल मीडिया प्लेटफॉर्म पर अश्लील, हिंसक और अनुचित सामग्री यूजर्स तक आसानी से पहुंच रही है। खासकर किशोरों और कम उम्र के बच्चों पर ऐसे कंटेंट के प्रभाव को लेकर सवाल उठते रहे हैं। इसके बाद मेटा ने अपने रिकमंडेशन सिस्टम को मजबूत करने की दिशा में काम किया।
भारत के यूजर्स के लिए खास तौर पर तैयार किया AI सिस्टम
मेटा के अनुसार, कंपनी पिछले एक साल से इंस्टाग्राम के डिफॉल्ट कंटेंट प्रोटेक्शन सिस्टम को बेहतर बनाने में जुटी है। इसके लिए भारत के यूजर्स की पसंद, व्यवहार और फीडबैक को ध्यान में रखते हुए AI मॉडल को खास तौर पर ट्यून किया गया है।
नया AI सिस्टम ऐसे पोस्ट की पहचान करने में पहले से अधिक सक्षम होगा, जिनमें यौन सामग्री या हिंसा दिखाई गई हो। इसके बाद तय नियमों के आधार पर ऐसे पोस्ट को रिकमंडेशन से हटा दिया जाएगा।
कंपनी का दावा है कि नए बदलावों के बाद भारत में यूजर्स की ओर से रिकमंड किए गए कंटेंट को लेकर की जाने वाली शिकायतों में पिछले एक साल की तुलना में करीब 50 प्रतिशत की कमी आई है। हालांकि, मेटा ने यह स्पष्ट नहीं किया है कि कुल कितनी शिकायतें मिली थीं और नए सिस्टम के जरिए कितने पोस्ट रिकमंडेशन से हटाए गए हैं।
किशोरों के लिए भी अतिरिक्त सुरक्षा व्यवस्था
इंस्टाग्राम ने किशोरों की ऑनलाइन सुरक्षा के लिए टीन अकाउंट्स की सुविधा भी उपलब्ध कराई है। इसके तहत 13+ कंटेंट सेटिंग लागू रहती है, जिसमें किशोरों की उम्र के अनुसार सामग्री दिखाई जाती है। साथ ही उनके अकाउंट पर अतिरिक्त सुरक्षा नियम भी लागू होते हैं।
मेटा का कहना है कि यूजर्स से मिलने वाले फीडबैक के आधार पर AI सिस्टम को लगातार बेहतर बनाया जाएगा।
सोशल मीडिया की जवाबदेही पर बढ़ी चर्चा
इंस्टाग्राम का यह कदम ऐसे समय आया है, जब सोशल मीडिया पर बच्चों और युवाओं को दिखाई जाने वाली सामग्री को लेकर दुनियाभर में बहस तेज है। सवाल केवल आपत्तिजनक पोस्ट हटाने का नहीं, बल्कि यह भी है कि प्लेटफॉर्म का एल्गोरिदम किस तरह की सामग्री को अधिक लोगों तक पहुंचाता है।
AI आधारित फिल्टरिंग से अनुचित कंटेंट की पहुंच सीमित करने में मदद मिल सकती है, लेकिन इसकी सफलता इस बात पर निर्भर करेगी कि सिस्टम कितनी सटीकता से आपत्तिजनक पोस्ट की पहचान करता है। साथ ही यह भी जरूरी होगा कि सामान्य और रचनात्मक सामग्री को गलती से प्रतिबंधित न किया जाए। ऐसे में आने वाले समय में इंस्टाग्राम के इस नए सिस्टम के वास्तविक परिणामों पर सबकी नजर रहेगी।