क्लब हाउस 'रिपोर्ट रूम' फीचर पर काम कर रहा है, लेकिन क्या यह मॉडरेशन के मुद्दों को हल करेगा

क्लब हाउस एक नई सुरक्षा सुविधा पर काम कर रहा है जो उपयोगकर्ताओं को एक कमरे की रिपोर्ट करने की अनुमति देगी यदि सूचीबद्ध विषय सामुदायिक दिशानिर्देशों का उल्लंघन करते हुए पाया जाता है। प्लेटफ़ॉर्म में पहले से ही नियमों का एक सेट है जो उपयोगकर्ताओं को ऐसी बातचीत से परहेज करने की सलाह देता है जो प्रकृति में घृणास्पद, भेदभावपूर्ण और अपमानजनक हैं। उन्हें लागू करने के लिए, क्लबहाउस ने कई उपयोगकर्ता-सामना समाधान तैयार किए हैं, जैसे कि म्यूट करने की क्षमता, चल रहे लाइव ऑडियो सत्र से बदमाशों को ब्लॉक करें या बाहर निकालें।

उपयोगकर्ता पहले से ही वास्तविक समय में दर्शकों के सदस्य की रिपोर्ट कर सकते हैं बातचीत जारी है. इसके अलावा, कमरा समाप्त होने के बाद एक पिछली घटना की रिपोर्ट करने का विकल्प भी है। हालाँकि, स्थिति तब और विकट हो जाती है जब एक कमरा केवल गलत सूचना फैलाने के उद्देश्य से बनाया गया हो या घृणित सामग्री, और समान विचारधारा वाले लोगों से भरी हुई है, जो नियमों के उल्लंघन के लिए किसी भी सहभागी की रिपोर्ट करने की संभावना नहीं रखते हैं। यदि वह कमरा निजी होता है, तो अस्वस्थ क्लब हाउस वार्तालापों को खोजने और रिपोर्ट करने की संभावना और भी कम होती है।

पिछले कुछ महीनों में, क्लब हाउस चैट की कई घटनाएं COVID-19 साजिशों और यहूदी-विरोधी पर चर्चा करती हैं प्रवचन की सूचना दी गई है, जिससे डिजिटल कार्यकर्ताओं को ऐसे कमरों की रिपोर्ट करने के लिए और अधिक मजबूत सुविधाओं की मांग करने के लिए प्रेरित किया गया है बात चिट। अब ऐसा लग रहा है कि समाधान पर काम हो सकता है। जेन मनचुन वोंग क्लबहाउस में हाल ही में एक इन-डेवलपमेंट फीचर के स्क्रीनशॉट साझा किए गए हैं जो उपयोगकर्ताओं को एक कमरे की रिपोर्ट करने की अनुमति देता है यदि इसके लिए सूचीबद्ध विषय आपत्तिजनक प्रतीत होता है। स्क्रीनशॉट के आधार पर, क्लबहाउस उपयोगकर्ताओं के पास जल्द ही दो कार्रवाई योग्य विकल्प होंगे यदि वे एक समस्याग्रस्त कमरे में आते हैं - छुपाएं या रिपोर्ट करें। यदि उपयोगकर्ता किसी कक्ष की रिपोर्ट करना चुनते हैं, तो उन्हें कारण निर्दिष्ट करने के लिए कहा जाएगा, जो उत्पीड़न और हिंसा-उकसाने से लेकर अभद्र भाषा तक कुछ भी हो सकता है।

एक स्वागत योग्य बदलाव, लेकिन क्या यह काफी है?

सतह पर, कमरों की रिपोर्ट करने की क्षमता एक सार्थक जोड़ प्रतीत होती है, और अगर इसे अच्छी तरह से संभाला जाए, तो यह प्लेटफ़ॉर्म को उन सामग्री मुद्दों से सुरक्षित रखने में एक लंबा रास्ता तय कर सकता है, जिनमें फेसबुक की पसंद प्रेतवाधित और ट्विटर। हालाँकि, यदि किसी कमरे का नाम उसके वास्तविक उद्देश्य का संकेत नहीं देता है, तो आने वाली सुविधा लगभग बेकार हो सकती है। इसके अलावा, कमरों की रिपोर्ट करने की क्षमता से क्लब हाउस की सामग्री मॉडरेशन की सभी समस्याओं का समाधान नहीं होगा, विशेष रूप से वास्तविक समय में ऑडियो को मॉडरेट करने के साथ आने वाली चुनौतियाँ। साथ ही, एक जोखिम यह भी है कि एक राजनीतिक या वैचारिक एजेंडे के साथ एक लक्षित 'रिपोर्टिंग हमला' हो सकता है एक कमरे के खिलाफ लॉन्च किया जा सकता है, इससे पहले ही एक उत्पादक बातचीत को तोड़फोड़ कर सकता है शुरू होता है। अगर वह परिचित लगता है, ऐसा इसलिए है क्योंकि एक समान ऑनलाइन 'बमबारी की समीक्षा करें' घटना बहुत वास्तविक है, और हाल ही में प्रकाशकों और सामग्री निर्माताओं के लिए एक बड़ी समस्या बन गई है। अंत में, यह सुविधा वर्तमान में विकास के अधीन है, जिसका अर्थ है कि इस बात की संभावना है कि किसी कक्ष की रिपोर्ट करने से वह कभी भी प्रायोगिक चरण से बाहर नहीं हो जाता है।

क्लब हाउस का कहना है कि अगर किसी घटना की सूचना मिलती है तो उसकी टीम तुरंत जांच करती है उचित लेने से पहले समस्याग्रस्त सामग्री की पहचान करने के लिए ऑडियो रिकॉर्डिंग को अस्थायी रूप से बनाए रखना दंडात्मक कार्रवाई। हालांकि, यह हमेशा पर्याप्त नहीं होता है। ऐसा मुख्य रूप से इसलिए है क्योंकि टेक्स्ट, चित्र और वीडियो की तुलना में ऑडियो एक पूरी तरह से अलग इकाई है। उदाहरण के लिए, प्लेटफॉर्म अक्सर जगह में रखे जाते हैं a सिस्टम जो ब्लॉक करता है समस्याग्रस्त हैशटैग या स्वचालित रूप से उन शब्दों को फ़्लैग करता है जो अपमानजनक या हानिकारक हैं। इसी तरह, मशीन लर्निंग मॉडल को हिंसक या स्पष्ट दृश्य सामग्री की पहचान करने के लिए प्रशिक्षित किया जा सकता है, और वे पहले से ही कई प्लेटफार्मों पर उपयोग किए जा रहे हैं।

ऑडियो के साथ, आवश्यक पहला कदम है एआई-असिस्टेड सिस्टम का निर्माण प्राकृतिक भाषा प्रसंस्करण चॉप के साथ जो वास्तविक समय में हानिकारक शब्दों या वाक्यांशों को ध्वजांकित कर सकता है। उल्लेख नहीं है, कई भाषाओं और विविध उच्चारणों में। एक बार जब वह सिस्टम चालू हो जाता है और चल रहा होता है, तो मानव मॉडरेटर की एक टीम जो मशीन से उत्पन्न रिपोर्ट के बाद तेजी से कार्रवाई कर सकती है, एक आवश्यकता बन जाती है। हालांकि, हानिकारक ऑडियो सामग्री की पहचान करने और रिपोर्ट करने की तकनीक उतनी परिपक्व नहीं है जितनी कि टेक्स्ट और विज़ुअल मार्कर के लिए उपयोग की जाती है। इसके शीर्ष पर, क्लब हाउस को भी प्रौद्योगिकी और जनशक्ति दोनों के मामले में पर्याप्त तेजी से स्केल करने की आवश्यकता होगी, इससे पहले कि मंच विवादास्पद सामग्री से अभिभूत हो जाए, इस मुद्दे को संभालने के लिए। वह सब करना आसान है जो कहा से करना आसान है।

हां, निवेशकों ने हाल ही में कंपनी में आवश्यक बुनियादी ढांचे को विकसित करने और अपनी सम्मोहित क्षमता तक जीने में मदद करने के लिए अरबों डॉलर डाले हैं। साथ ही, स्टार्टअप पंडितों की भी कमी नहीं है जो चिंतित हैं कि क्लब हाउस की 'अगला' बनने की आकांक्षाएं हैं सामाजिक मीडिया घटना' एक पूर्वानुमेय पथ का अनुसरण कर रहे हैं और जल्द ही दुर्घटनाग्रस्त हो जाएंगे। उच्च व्यावसायिक महत्वाकांक्षाओं को साकार करने से पहले, क्लब हाउस को आधिकारिक रूप से यह प्रदर्शित करने की आवश्यकता है कि यह कर सकता है सोशल मीडिया में बड़े शार्क की तुलना में गलत सूचना और घृणित आचरण की समस्या को प्रभावी ढंग से संभालना महासागर। ट्विटर स्पेस की पसंद से बढ़ती प्रतिस्पर्धा के साथ प्रतिस्पर्धा करते हुए यह सब भी होना है, जो एक ख़तरनाक गति से विकसित हो रहा है। क्लब हाउस प्रभावशाली गति से नए उपयोगकर्ताओं को जोड़ रहा है, विशेष रूप से भारत जैसे बाजारों में, जो निश्चित रूप से हितधारकों के लिए अच्छी खबर है। हालांकि, क्लब हाउस को एक कुशल सामग्री मॉडरेशन सिस्टम के विकास के साथ उस वृद्धि का मिलान करने की आवश्यकता है।

स्रोत: जेन मंचुन वोंग/ट्विटर

एपिक फैन आर्ट में वांडाविज़न की मोनिका रामब्यू एक सच्चे सुपरहीरो हैं

लेखक के बारे में