क्या महिलाओं के प्रति 'नस्लवाद' को प्रचारित कर रहा है गूगल का सर्च ईंजन!

गूगल इमेज पर दिखने वाली किसी तस्वीर से उसके बारे में दुनिया के नजरिये का भी पता चलता है। अगर आप किसी चीज को देखना चाहते हैं, तो इसकी पूरी संभावना है कि आप उसे गूगल पर खोजेंगे। डॉयचे वेले 20,000 से अधिक तस्वीरों और वेबसाइटों के विश्लेषण से इस नतीजे पर पहुंचा है कि दुनिया की सबसे बड़ी टेक कंपनी का एल्गॉरिदम पूर्वाग्रहों पर आधारित हैं।

गूगल पर ब्राजील, थाईलैंड या यूक्रेन की महिला कीवर्ड के सर्च नतीजे, अमेरिका की महिला कीवर्ड से किए गए सर्च नतीजे की तुलना में ज्यादा रेसिस्ट हैं। इसी तरह से जर्मनी की महिलाएं के लिए सर्च के नतीजे में राजनेताओं और एथलीट्स की ज्यादा तस्वीरें दिखती हैं। इसके उलट, ब्राजील की महिला कीवर्ड के साथ सर्च करने पर स्वीमिंग सूट पहने और सेक्सी पोज देती युवा महिलाओं की तस्वीरों से स्क्रीन पट जाती है। कोई भी इन कीवर्ड को गूगल इमेज पर सर्च करके इस पैटर्न को देख सकता है। हां, सर्च के नतीजों का विश्लेषण थोड़ा मुश्किल हो सकता है।

मान्यताओं के साथ ही सांस्कृतिक, नैतिक और सामाजिक पूर्वाग्रहों से तय होता है कि किसी तस्वीर को सेक्स के लिए उकसाने वाले के तौर पर टैग किया जाए या नहीं। डॉयचे वेले के विश्लेषण में हजारों तस्वीरों की कैटगरी तय करने के लिए गूगल के "क्लाउड विजन सेफ सर्च" का इस्तेमाल किया गया। यह एक कंप्यूटर विजन सॉफ्टवेयर है जो अश्लील या अपमानजनक कॉन्टेंट का पता लगा सकता है. आमतौर पर इसका इस्तेमाल तस्वीरो पर "रेसिस्ट" टैग लगाने के लिए होता है।

गूगल की परिभाषा के मुताबिक तस्वीरों को नस्लीय या अश्लील के तौर पर टैग करने के लिए "बहुत छोटा या पारदर्शी पहनावा, जानबूझकर नग्नता फैलाने वाला, कामुक और उकसाने वाले पोज, शरीर के संवेदनशील हिस्सों को उभारने वाली तस्वीरों को शामिल किया जाता है।" हालांकि, यह यहीं तक सीमित नहीं हैं।

डॉमिनिकन रिपब्लिक और ब्राजील जैसे देशों के कीवर्ड के साथ किए गए सर्च के नतीजों में मिली 40 फीसदी तस्वीरें "रेसिस्ट" की कैटगरी में रखी जा सकती हैं। इनकी तुलना में सिर्फ चार फीसदी अमेरिकी महिलाओं और पांच फीसदी जर्मन महिलाओं की तस्वीरें इस कैटगरी में हैं।

कंप्यूटर विजन एल्गॉरिदम के इस्तेमाल सवाल के घेरे में रहे हैं। इंसानों की तरह ही इसमें पूर्वाग्रह और सांस्कृतिक रूढ़ियां मौजूद हैं। जैसा कि गूगल के इस सॉफ्टवेयर से मिलने वाले नतीजे भी नस्लीयता से प्रभावित दिख रहे हैं।

गूगल का कंम्यूटर विजन सिस्टम किस तरह काम करता है, इसके बारे में सार्वजनिक तौर पर लोगों को बहुत कम पता है। यहां पूर्वाग्रह की पूरी संभावना है। हालांकि, गूगल ने जिन तस्वीरों की पहचान "रेसिस्ट" के तौर पर की है उनकी मैन्यूअल तरीके से समीक्षा करने पर हमने पाया कि नतीजे उपयोगी हो सकते हैं। इससे हमें पता लगा कि गूगल की अपनी तकनीक, सर्च इंजन के नतीजों को किस तरह से अलग-अलग कैटगरी में बांटती है।

महिलाओं को ऑब्जेक्ट की तरह पेश करती वेबसाइट्स

सर्च पेज पर मौजूद तस्वीरें अपनी होस्ट वेबसाइट से जुड़ी होती हैं। हालांकि, कई बार सर्च के नतीजे में दिखने वाली तस्वीरें भले ही उतनी अश्लील न हों लेकिन ये जिन वेबसाइटों से होस्ट की गई होती हैं, वहां पर महिलाओं को सेक्स ऑब्जेट की तरह परोसा जाता है। इतना ही नहीं, लैटिन अमेरिका की महिलाओं के साथ ही पूर्वी यूरोप और दक्षिण पूर्वी एशिया की महिलाओं को भी इसी रूढ़िवादी मानसिकता के साथ पेश किया जाता है।

यह पता लगाने के लिए कि कितने नतीजे ऐसी वेबसाइटों से मिले हैं, तस्वीरों के नीचे दी गई छोटी सी जानकारी को स्कैन किया गया। इसमें शादी, डेटिंग, सेक्स या हॉट जैसे शब्द लिखे थे।जिन वेबसाइटों में शादी, डेटिंग, सेक्स या हॉट में से कोई भी एक कीवर्ड मौजूद था, उनकी मैन्यूअल तरीके से समीक्षा की गई, ताकि यह पक्का किया जा सके कि ये वेबसाइट इसी तरह के सेक्सिस्ट और महिलाओं को सेक्स ऑब्जेक्ट की तरह पेश करने वाले कंटेंट परोसते हैं, जैसा कि इन कीवर्ड से संकेत मिलते हैं।

समीक्षा के बाद यह भी पता चला कि कुछ देशों की महिलाओं को गूगल सर्च में पूरी तरह से सेक्स ऑब्जेक्ट के तौर पर पेश किया जाता है। यूक्रेन की महिला को लेकर किए गए सर्च के 100 में 61 नतीजे इसी तरह के थे। चेक गणराज्य, मोल्दोवा और रोमानिया जैसे देशों के लिए सर्च के नतीजे भी इसी तरह के रहे। दक्षिण अमेरिका और दक्षिण-पूर्व एशिया के देशों की महिलाओं को लेकर किए गए सर्च के नतीजे भी यही बयान कर रहे थे।

हालांकि, ऐसा नहीं है कि पश्चिमी यूरोप के देशों की महिलाओं को सेक्स ऑब्जेक्ट की तरह पेश नहीं किया जाता है, लेकिन यह बेहद कम है। सर्च के 100 नतीजों में जर्मन महिलाओं को 16 नतीजों में ऑब्जेक्ट की तरह पेश किया गया, जबकि फ्रांस की महिलाओं को 6 फीसदी तस्वीरों में सेक्स ऑब्जेक्ट की तरह पेश किया गया।

किसी खास देश की महिलाओं को ऑब्जेक्ट की तरह पेश करने वाली तस्वीरें, ज्यादातर ऐसी वेबसाइट पर होस्ट होती हैं, जो इंटरनेशनल मैरिज एजेंसी होने का दावा करती हैं। इन साइटों पर पैसे लेकर किसी खास देश की महिलाओं को मुहैया कराने का वादा भी किया जाता है। जबकि इनमें से कुछ ऐसी वेबसाइट हैं जो किसी खास सांस्कृतिक बैकग्राउंड की महिलाओं के साथ डेटिंग करने के रूढ़िवादी टिप्स देती हैं। यहां पर मैचमेकिंग एप्लिकेशन की समीक्षाएं पढ़ने को मिल जाती हैं। इन वेबसाइट के कॉन्टेंट को गहराई से समझने पर पता चलता है कि इनकी टारगेट ऑडियंस पश्चिम के वे पुरुष हैं जो या तो नौकरानी जैसी विदेशी पत्नी या सेक्स पार्टनर की चाह रखते हैं।

गूगल के सर्च नतीजों में सबसे पहले दिखने वाली एक वेबसाइट पर कुछ इस तरह से लिखा गया है, "अगर आपने करियर को लेकर गंभीर रहने वाली पश्चिम के देशों की महिलाओं के साथ वक्त बिताया है, तो यूक्रेन की दुल्हन आपको बिल्कुल अलग सुख देगी।"

यूक्रेन से प्रकाशित होने वाली "जेंडर इन डिटेल" पत्रिका की संपादक तमारा ज्लोबिना कहती हैं कि उनके देश में इस तरह की बातें 1990 के दशक में देखने को मिलती थीं, "सोवियत संघ के विघटन के बाद यूक्रेन एक बेहद गरीब देश के तौर पर उभरा। कई महिलाओं ने अपने परिवार का पेट भरने के लिए पश्चिमी यूरोप का रुख किया।" वह आगे कहती हैं कि देश की आर्थिक हालत सुधरने के साथ ही यहां के हालात तेजी से बदले हैं। इसके साथ ही, महिलाओं की शिक्षा और करियर को लेकर भी माहौल बदल रहा है, "मैं कूटनीतिज्ञों, राजनीतिज्ञों, क्रांतिकारियों के साथ ही उन महिलाओं को देखना चाहती हूं जो सीमा पर लड़ाई लड़ रही हैं। हमारे देश में असाधारण प्रतिभा वाली महिलाएं हैं, हमें उनकी ओर देखना चाहिए न कि सिर्फ ‘ब्राइड मार्केट' की तरफ।"

बैंकॉक की मिहडोल यूनिवर्सिटी में मल्टीकल्चरल स्टडीज की लेक्चरर सिरजित सुनांता के मुताबिक वास्तविक दुनिया में जिस नजरिये से थाईलैंड की महिलाओं को देखा जाता है, वह इंटरनेट को भी प्रभावित करता है, "थाईलैंड को देह व्यापार और सेक्स टूरिज्म के डिजनीलैंड के तौर पर देखा जाता है। यह इंटरनेट पर भी दिखता है जब आप गूगल सर्च करते हैं। किसी खास देश की महिलाओं के लेकर पूर्वाग्रह होते हैं, तो इसके कई दूसरे तरह के खतरे भी होते हैं।"

विश्लेषण में इस तरह के पूर्वाग्रहों और अंग्रेजी बोलने वाले विदेशी ऑडियंस के बीच संबध का पता चला. अंग्रेजी कीवर्ड 'Brazilian women' और पुर्तगाली कीवर्ड 'mulheres brasileiras' के साथ किए गए सर्च के नतीजों में बड़ा फर्क देखने को मिला. जहां सामान्य सर्च (अंग्रेजी) में 100 में 41 तस्वीरों को नस्ली के तौर पर टैग किया गया, वहीं, पुर्तगाली में इसी कीवर्ड को खोजने पर ऐसी सिर्फ नौ तस्वीरें हीं दिखी जो नस्लवाद से प्रभावित थी। इसी तरह से दूसरे देशों के लिए किए गए सर्च के नतीजे भी रहे।

स्टैनफोर्ड इंस्टीट्यूट फॉर ह्यूमन सेंटर्ड आर्टिफिशल इंटेलिजेंस में रेस एंड टेक्नॉलॉजी फेलो रेनाटा एविला के मुताबिक, "एल्गॉरिदम में जिस डाटा को फीड किया जाता है, वह सीमित लोगों के ख्यालों, मान्यताओं और सर्च पैटर्न पर आधारित होते हैं। इसमें कोई आश्चर्य नहीं है कि सर्च ईंजन पूर्वाग्रहों को दिखाते हैं। यह सिर्फ तकनीक से जुड़ा मामला नहीं है, बल्कि यह सांस्कृतिक रूप से जुड़ा हुआ है। अंग्रेजी बोलने वाली पुरुषवादी संस्कृति में कुछ देश की महिलाओं को सेक्स और नौकरानी की भूमिका तक ही सीमित कर दिया गया है।"

हालांकि विशेषज्ञ इस बात पर एकमत हैं कि यह कोई अलग समस्या नहीं है। यह सिस्टम की बड़ी समस्या का एक हिस्सा है। एविला का मानना है कि आज के कारोबारी मॉडल में सही एल्गॉरिदम संभव नहीं है क्योंकि तकनीक के क्षेत्र की बड़ी कंपनियों का पूरा जोर डाटा जमा करने और सूचना की खपत को बढ़ाने में रहता है।

थिंक टैंक 'कोडिंग राइट' की संस्थापक जोआना वरोन का भी यही मानना है. वह कहती हैं कि सर्च इंजन वही दिखाते हैं जो आमतौर पर ऑनलाइन मौजूद हैं, जबकि विकसित देश के गोरे लोगों के पास पेज व्यू बढ़ाने के लिए जरूरी टूल और योजनाएं हैं। वह कहती हैं, "अगर एल्गॉरिदम के जरिये इससे नहीं निपटा जाता है, तो यह सिस्टम नस्लवादी, सेक्सिस्ट और पितृसत्तात्मक हो जाएगा। व्यावसायिक एल्गॉरिदम और उसे मुहैया कराने वाले को जिम्मेदारी लेनी होगी कि वह क्या दिखाते हैं क्योंकि वे सर्च टूल के जरिये उत्पीड़न के जिन विचारों को दिखा रहे हैं उसे पूरी दुनिया देख रही है।"

उनके मुताबिक इस स्थिति से बाहर आने के लिए बेहतर निगरानी, बेहतर पारदर्शिता, और ज्यादा प्रतियोगी माहौल बनाना होगा. वह कहती हैं, "हमें किसी भी सेवा को एकाधिकार देने से बचना होगा. बड़ी टेक कंपनियों के लिए नियमन जरूरी है।"

एविला इस मामले पर कहती हैं, "तकनीक को विकसित करने के नए तरीकों को तलाशने की जरूरत है। इसकी शुरुआत पारदर्शिता और जिम्मेदारी से होती है। सिलिकॉन वैली के विजन में इन दोनों ही सिद्धांतों का अभाव दिखता है।" वह कहती हैं कि नए समाधान को डिजाइन करने में पूरी दुनिया की सक्रिय भूमिका होनी चाहिए।

डीडब्ल्यू ने इमेज सर्च एल्गॉरिदम के पूर्वाग्रह वाले व्यवहारों को लेकर सवालों की सूची गूगल को भेजी। हालांकि, कंपनी की ओर से पूरी जानकारी नहीं दी गई। इसके विपरीत गूगल की तरफ से कहा गया कि सर्च नतीजों में "व्यस्कों के लिए या परेशान करने वाला कंटेंट दिखा है.. इनमें वेबसाइट पर मौजूद नकारात्मक रूढ़ीवादी विचार और पूर्वाग्रह भी शामिल हैं। यह एक ऐसी समस्या है जो महिलाओं और महिलाओं के रंग के आधार पर उन्हें प्रभावित करती हैं।"

कंपनी ने कहा कि इस तरह के कंटेंट को इंटरनेट पर खास तरह से प्रस्तुत करने और उन्हें लेबल करने का प्रभाव, सर्च के नतीजे पर पड़ता है। कंपनी ने दावा किया है कि इन समस्याओं से निपटने के लिए ऐसे समाधान पर काम किया जा रहा है जो 'बड़े स्तर पर प्रभावी' हों. हालांकि, गूगल ने किए जा रहे प्रयासों के बारे में ज्यादा नहीं बताया है।