हेट स्पीच के खिलाफ सामग्री को मॉडरेट करने के लिए ऑटोमेशन पर झुके हुए एलोन मस्क के तहत ट्विटर

एलोन मस्क का ट्विटर ऑटोमेशन से मध्यम सामग्री पर बहुत अधिक झुक रहा है, कुछ मैनुअल समीक्षाओं को दूर कर रहा है और कुछ भाषणों को एकमुश्त हटाने के बजाय वितरण पर प्रतिबंधों का पक्ष ले रहा है, इसके विश्वास और सुरक्षा के नए प्रमुख ने रायटर को बताया।

ट्विटर ट्रस्ट एंड सेफ्टी प्रोडक्ट एला इरविन के ट्विटर उपाध्यक्ष ने कहा कि उन शर्तों के “सौम्य उपयोग” पर संभावित प्रभावों की परवाह किए बिना, बाल शोषण सहित क्षेत्रों में दुरुपयोग-प्रवण हैशटैग और खोज परिणामों को अधिक आक्रामक रूप से प्रतिबंधित कर रहा है।

इरविन ने गुरुवार को कहा, “सबसे बड़ी चीज जो बदली है, वह यह है कि टीम तेजी से आगे बढ़ने और जितना संभव हो उतना आक्रामक होने के लिए पूरी तरह से सशक्त है।” मस्क का अक्टूबर के अंत में सोशल मीडिया कंपनी का अधिग्रहण।

मस्क द्वारा कंपनी के पिछले नेतृत्व के तहत निलंबित किए गए उन खातों के लिए माफी की घोषणा करने के बाद, जिन्होंने कानून नहीं तोड़ा था या “गंभीर स्पैम” में लिप्त नहीं थे, उनकी टिप्पणी के रूप में शोधकर्ता सोशल मीडिया सेवा पर अभद्र भाषा में वृद्धि की रिपोर्ट कर रहे हैं।

कंपनी ने अपनी क्षमता और हानिकारक और अवैध सामग्री को मॉडरेट करने की इच्छा के बारे में तीखे सवालों का सामना किया है क्योंकि मस्क ने ट्विटर के आधे कर्मचारियों को गिरा दिया और लंबे समय तक काम करने का अल्टीमेटम जारी किया जिसके परिणामस्वरूप सैकड़ों और कर्मचारियों का नुकसान हुआ।

और विज्ञापनदाता, ट्विटर के मुख्य राजस्व स्रोत, ब्रांड सुरक्षा के बारे में चिंताओं को लेकर मंच से भाग गए हैं।

शुक्रवार को, फ्रांस के राष्ट्रपति इमैनुएल मैक्रॉन के साथ एक बैठक में मस्क ने “सामग्री मॉडरेशन के महत्वपूर्ण सुदृढीकरण और भाषण की स्वतंत्रता की सुरक्षा” की कसम खाई।

इरविन ने कहा कि मस्क ने टीम को इस बारे में कम चिंता करने के लिए प्रोत्साहित किया कि उनके कार्यों का उपयोगकर्ता के विकास या राजस्व पर क्या प्रभाव पड़ेगा, यह कहते हुए कि सुरक्षा कंपनी की सर्वोच्च प्राथमिकता थी। “वह जोर देती है कि हर दिन, दिन में कई बार,” उसने कहा।

उस काम से परिचित पूर्व कर्मचारियों के अनुसार, इरविन द्वारा वर्णित सुरक्षा दृष्टिकोण कम से कम आंशिक रूप से उन परिवर्तनों के त्वरण को दर्शाता है जो पिछले साल से पहले से ही ट्विटर के घृणित आचरण और अन्य नीति उल्लंघनों से निपटने की योजना बना रहे थे।

उद्योग के मंत्र “अभिव्यक्ति की स्वतंत्रता, पहुंच की स्वतंत्रता नहीं” में निहित एक दृष्टिकोण में कंपनी की नीतियों का उल्लंघन करने वाले कुछ ट्वीट्स को छोड़ना शामिल है, लेकिन उन्हें होम टाइमलाइन और खोज जैसी जगहों पर प्रदर्शित होने से रोकना है।

ट्विटर ने लंबे समय से इस तरह के “दृश्यता फ़िल्टरिंग” उपकरण को गलत सूचना के आसपास तैनात किया है और मस्क अधिग्रहण से पहले ही उन्हें अपनी आधिकारिक घृणित आचरण नीति में शामिल कर लिया है। वायरल अपमानजनक सामग्री से जुड़े संभावित नुकसान में कटौती करते हुए दृष्टिकोण अधिक स्वतंत्र भाषण की अनुमति देता है।

सेंटर फ़ॉर काउंटरिंग डिजिटल हेट के अनुसार, 23 नवंबर को मस्क द्वारा ट्वीट किए जाने से पहले सप्ताह में ट्विटर पर घृणित सामग्री वाले ट्वीट्स की संख्या में तेज़ी से वृद्धि हुई थी, जो घृणास्पद भाषण के प्रभाव, या विचार घट रहे थे – प्रसार की ओर इशारा करते हुए शोधकर्ताओं के एक उदाहरण में ऐसी सामग्री का, जबकि मस्क दृश्यता में कमी का दावा करता है।

शोधकर्ताओं ने कहा कि उस सप्ताह ब्लैक-विरोधी शब्दों वाले ट्वीट मस्क के पदभार संभालने से पहले महीने में देखी गई संख्या से तिगुने थे, जबकि समलैंगिक स्लर वाले ट्वीट्स में 31% की वृद्धि हुई थी।

‘अधिक जोखिम, तेजी से आगे बढ़ें’

इरविन, जो जून में कंपनी में शामिल हुए थे और पहले सहित अन्य कंपनियों में सुरक्षा भूमिकाएँ निभाते थे अमेजन डॉट कॉम तथा गूगलसुझावों पर पीछे धकेल दिया कि ट्विटर के पास मंच की सुरक्षा के लिए संसाधन या इच्छा नहीं है।

उसने कहा कि छंटनी ने पूर्णकालिक कर्मचारियों या ठेकेदारों पर काम करने वाले ठेकेदारों को महत्वपूर्ण रूप से प्रभावित नहीं किया है, जिसे कंपनी ने अपने “स्वास्थ्य” डिवीजनों के रूप में संदर्भित किया है, जिसमें बाल सुरक्षा और सामग्री मॉडरेशन जैसे “महत्वपूर्ण क्षेत्र” शामिल हैं।

कटौती से परिचित दो सूत्रों ने कहा कि 50 प्रतिशत से अधिक स्वास्थ्य इंजीनियरिंग इकाई को बंद कर दिया गया था। इरविन ने दावे पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया, लेकिन पहले इनकार किया कि छंटनी से स्वास्थ्य टीम गंभीर रूप से प्रभावित हुई थी।

उन्होंने कहा कि अधिग्रहण के बाद से बाल सुरक्षा पर काम करने वाले लोगों की संख्या में कोई बदलाव नहीं आया है और टीम के उत्पाद प्रबंधक अभी भी मौजूद हैं। इरविन ने कहा कि ट्विटर ने कंपनी छोड़ने वाले लोगों के लिए कुछ पदों को वापस भर दिया, हालांकि उसने टर्नओवर की सीमा के लिए विशिष्ट आंकड़े प्रदान करने से इनकार कर दिया।

उसने कहा कि मस्क स्वचालन का अधिक उपयोग करने पर ध्यान केंद्रित कर रहा था, यह तर्क देते हुए कि कंपनी ने अतीत में समय का उपयोग करने के पक्ष में गलत किया था- और हानिकारक सामग्री की श्रम-गहन मानवीय समीक्षा।

“उन्होंने टीम को अधिक जोखिम लेने, तेजी से आगे बढ़ने, मंच को सुरक्षित रखने के लिए प्रोत्साहित किया,” उसने कहा।

उदाहरण के लिए, बाल सुरक्षा पर, इरविन ने कहा कि ट्विटर स्वचालित रूप से हानिकारक पोस्टों को फ़्लैग करने के ट्रैक रिकॉर्ड के साथ विश्वसनीय आंकड़ों द्वारा रिपोर्ट किए गए ट्वीट्स को स्वचालित रूप से नीचे ले जाने की ओर स्थानांतरित हो गया है।

बाल यौन शोषण सामग्री में विशेषज्ञता रखने वाली टीआरएम लैब्स में थ्रेट इंटेलिजेंस रिसर्चर कैरोलिना क्रिस्टोफलेटी ने कहा कि उन्होंने हाल ही में ट्विटर पर देखा है कि वह रिपोर्ट करने के 30 सेकंड बाद तक कुछ सामग्री को तेजी से नीचे ले जा रही हैं, बिना उनकी रिपोर्ट की प्राप्ति या उसके निर्णय की पुष्टि के।

गुरुवार को साक्षात्कार में, इरविन ने कहा कि ट्विटर ने बाल सुरक्षा उल्लंघनों में शामिल लगभग 44,000 खातों को हटा दिया है। साइबर सुरक्षा समूह भूत डेटा।

ट्विटर हैशटैग और खोज परिणामों को भी प्रतिबंधित कर रहा है, जो अक्सर “किशोर” पोर्नोग्राफ़ी देखने के उद्देश्य से दुर्व्यवहार से जुड़े होते हैं। उन्होंने कहा कि शर्तों के अनुमत उपयोगों पर इस तरह के प्रतिबंधों के प्रभाव के बारे में पिछली चिंताएँ दूर हो गईं।

इरविन ने कहा, “विश्वसनीय पत्रकारों” का उपयोग “ट्विटर पर अतीत में हमने कुछ चर्चा की है, लेकिन कुछ हिचकिचाहट और स्पष्ट रूप से कुछ देरी थी।”

“मुझे लगता है कि अब हमारे पास वास्तव में इस तरह की चीजों के साथ आगे बढ़ने की क्षमता है,” उसने कहा।

© थॉमसन रॉयटर्स 2022