जॉर्जिया टेक के स्टीरियोटाइपिंग रोबोट एआई का भविष्य है, न कि नस्लवाद

स्कूल विशेष और विविधता सेमिनार के बाद, कानों को संवेदनशील बनाने के लिए, यह बुरा लगने वाला है, लेकिन हम चाहते हैं कि रोबोट उपस्थिति के आधार पर त्वरित निर्णय लें। पूर्वाग्रह पर काबू पाना अच्छा है, लेकिन रूढ़िवादिता की अक्षमता बुद्धि को कम कर देती है - कृत्रिम और अन्यथा। एलन वैगनर, पीएचडी, जो जॉर्जिया टेक के एक रोबोटिक विशेषज्ञ हैं, स्टीरियोटाइपिंग तकनीक के मुख्य प्रस्तावक हैं। उनका तर्क है कि इस तरह के तर्क को केवल स्थितियों और व्यवहारों के लिए दौड़ या लिंग पर लागू करने की आवश्यकता नहीं है।

अपने स्टीरियोटाइप एल्गोरिथम के शुरुआती परीक्षण में, वैगनर ने एक भोले रोबोट को प्रशिक्षित किया कि उसने जो देखा उससे निष्कर्ष निकाला। रोबोट सीखा और अवधारणात्मक हो गया, जिसने वैगनर को रोबोट मान्यताओं के नैतिकता के बारे में गंभीर रूप से सोचना शुरू कर दिया, विशेष रूप से पूर्व-क्रम वाले। उसने बात की श्लोक में उनके काम और उसके असर के बारे में।

प्रयोग के माध्यम से मुझे चलना।

रोबोट विभिन्न प्रकार के व्यक्तियों के साथ बातचीत करता है - फायर फाइटर, ईएमटी, या व्हाट्नॉट - लेकिन इसमें किसी भी व्यक्ति की इन श्रेणियों के साथ कोई पूर्व अनुभव नहीं है। यह मूल रूप से, अनुभवात्मक अधिगम है।

यह विचार यह दिखाने के लिए था कि रोबोट उपकरण उपयोग के संदर्भ में अपनी आवश्यकताओं की भविष्यवाणी करने के लिए व्यक्ति से अवधारणात्मक सुविधाओं का उपयोग कर सकता है। जिस तरह से अल्गोरिद्म ने काम किया है, रोबोट के कैमरे को अलग-अलग पहलुओं का अनुभव होगा जो व्यक्ति को दिखता है - उनका एकसमान रंग, उदाहरण के लिए, चाहे उनकी दाढ़ी हो और उनके बालों का रंग।

यह उनसे सवाल भी पूछेगा कि वे क्या दिखते हैं। बेशक, सवाल पूछना वह नहीं है जो आप क्षेत्र में करना चाहते हैं, लेकिन रोबोट की धारणा अभी बहुत सीमित है। हमें किसी व्यक्ति के बारे में सीखने की प्रक्रिया को बूटस्ट्रैप करने का एक तरीका चाहिए था। व्यक्ति टूल का चयन करेगा, और फिर रोबोट टूल का चयन करेगा, और समय के साथ रोबोट सीखेगा कि प्रत्येक व्यक्ति किस उपकरण को पसंद करता है।

क्या आपको रोबोट से यह सीखने की उम्मीद थी कि एक बैज का मतलब पुलिस अधिकारी या भारी रिफ्लेक्टिव कोट का मतलब फायर फाइटर है?

हमें इसकी उम्मीद है। लेकिन कुछ आश्चर्यजनक चीजें भी थीं।उदाहरण के लिए, रोबोट ने झूठा पहचान लिया कि दाढ़ी को फायर फाइटर के साथ अनुमानित किया गया है - यह अजीब था, लेकिन जब आप डेटा को देखते हैं, तो यह आश्चर्यजनक नहीं था। इसके साथ बातचीत करने वाले पहले कई लोग अग्निशामक थे जिनकी दाढ़ी थी। इसलिए हम अवधारणात्मक विविधता की आवश्यकता का तर्क देते हैं, एक विचार यह है कि अगर रोबोट एक श्रेणी में बड़े, मोटे तौर पर विभिन्न प्रकार के व्यक्तियों को देख सकता है, तो यह बेहतर रूप से श्रेणी को विकसित और समझेगा।

क्या आप कहेंगे कि स्वायत्त रोबोटों को इन कुरीतियों को दूर करने के लिए प्रशिक्षित किया जाना चाहिए, इसलिए एक रोबोट को यह नहीं लगता कि अगर इस व्यक्ति की दाढ़ी है, तो वह एक फायर फाइटर है?

पूर्ण रूप से। यह महत्वपूर्ण है कि हम इन चीजों का लोहा माने। यह महत्वपूर्ण है कि हमारे पास ये रोबोट हैं जो विभिन्न प्रकार के व्यक्तियों से काम करते हैं।

यह सीखने की तरह लग सकता है?

यह रोबोट को उन चीजों पर ध्यान केंद्रित करने की अनुमति देगा जो अग्निशामकों को बेहतर रूप से चिह्नित करते हैं। उदाहरण के लिए, एक फायर फाइटर भी जैकेट नहीं पहन सकता है। रोबोट फिर अग्निशमन के अन्य पहलुओं पर ध्यान देता है, शायद जूते, शायद दस्ताने, शायद हेलमेट। यह कहना होगा, “यह व्यक्ति वास्तव में ठीक है है इस वातावरण में एक फायर फाइटर। ”

यदि आपके पास पर्याप्त लोग हैं, तो यह हैलोवीन पार्टी में एक फायर फाइटर बनाम फायर फाइटर को पहचानने में सक्षम हो सकता है। यह समान, या प्रासंगिक वातावरण की गुणवत्ता के बीच के अंतर की तरह सूक्ष्म अवधारणात्मक विवरण है।

अग्निशामकों के साथ दाढ़ी को जोड़ने के अलावा, यह एल्गोरिथ्म कितना सफल था?

दो चीजें थीं जिन्हें हम वास्तव में देखना चाहते थे: एक, आप इसके साथ क्या कर सकते हैं? यदि रोबोट अग्निशामकों को पहचान सकते हैं, तो क्या यह वास्तव में किसी तरह से मदद करता है? कागज से पता चला कि इसने आपको अपनी खोज को संकीर्ण करने की अनुमति दी। बालों के रंग के लिए दाढ़ी को देखने के बजाय, आंखों के रंग की तलाश में या जो कुछ भी आप देख सकते हैं, आप उन विशेषताओं पर ध्यान केंद्रित कर सकते हैं जो वास्तव में मायने रखते थे। क्या व्यक्ति फायरफाइटर कोट पहने हुए है? जिससे प्रक्रिया में तेजी आ सके।

एक और बहुत महत्वपूर्ण बात जो हमने देखी, वह यह है कि अगर रोबोट जिस श्रेणी की भविष्यवाणी करता है वह गलत है तो क्या होगा? यह आपको कैसे प्रभावित करता है? आप कल्पना कर सकते हैं कि खोज और बचाव का माहौल अराजक हो सकता है: आप शायद धुएं से भरे हालात में काम करते हैं, हो सकता है कि रोबोट सब कुछ बहुत अच्छी तरह से महसूस न कर पाए, इसमें त्रुटियाँ हो सकती हैं। आप इससे भी बदतर स्थिति की कल्पना कर सकते हैं, जहां रोबोट को लगता है कि व्यक्ति पीड़ित है जब वास्तविकता में वे फायर फाइटर हैं। तो यह एक फायर फाइटर को बचाने की कोशिश कर रहा है। यह भयानक होगा। हम यह देखना चाहते थे कि यह कहां टूटता है, कैसे टूटता है, क्या विशेषताएं इसे सबसे अधिक प्रभावित करती हैं और विभिन्न प्रकार की त्रुटियां क्या हैं।

आप इस दृष्टिकोण का उपयोग विभिन्न तरीकों से कर सकते हैं - यदि वे व्यक्ति को बिल्कुल नहीं देख सकते हैं, लेकिन उन कार्यों को देख सकते हैं जो वे कर रहे हैं। यदि मैं व्यक्ति को कुल्हाड़ी का चयन करते हुए देख सकता हूं, तो मैं यह अनुमान लगा सकता हूं कि उनके पास एक हेलमेट है।

आप संदर्भ का आकलन करने और भविष्यवाणी करने के लिए रोबोट प्राप्त करने के लिए कैसे संपर्क करते हैं?

हमने विभिन्न प्रकार के वातावरणों के एक जोड़े को देखने की कोशिश की है - एक रेस्तरां, एक स्कूल और एक नर्सिंग होम। हमने पर्यावरण के बारे में सुविधाओं को पकड़ने की कोशिश की और वातावरण में कौन सी वस्तुएं हैं, व्यक्ति किन कार्यों का चयन कर रहा है, और पर्यावरण में लोग क्या दिखते हैं, और इसका उपयोग करने के लिए बहुत सारी सामाजिक भविष्यवाणियां करने की कोशिश करते हैं। उदाहरण के लिए, स्कूल के माहौल में, लोग बात करने से पहले अपने हाथ उठाते हैं। इसलिए अगर मैं यह देखूं कि लोग अपना हाथ बढ़ा रहे हैं, तो मैं पर्यावरण में किस प्रकार की वस्तुओं की उम्मीद करूंगा? क्या मुझे एक चॉकबोर्ड देखने की उम्मीद है; क्या मुझे डेस्क देखने की उम्मीद है? मुझे बच्चे देखने की उम्मीद नहीं है

इस जानकारी का उपयोग करने के लिए आशा है। यदि रोबोट निकासी प्रक्रिया कर रहा है, तो यह देखेगा कि लोग किस प्रकार के हैं और वे कहाँ हो सकते हैं।

बता दें कि एक रोबोट है जो आपके दरवाजे पर आता है और कहता है, "कृपया मुझे बाहर निकलने के लिए फॉलो करें।" जैसा कुछ प्रतीत होता है कि वास्तव में बहुत जटिल है। अगर कोई अपार्टमेंट की इमारत में एक दरवाजे पर एक रोबोट दस्तक देता है, तो आपको पता नहीं है कि आप किसके साथ बातचीत करने जा रहे हैं। यह चार साल का बच्चा हो सकता है, यह 95 साल का व्यक्ति हो सकता है। हम रोबोट के लिए अपने संवादात्मक व्यवहार को उस व्यक्ति के प्रकार से पूंछने के लिए प्यार करते हैं जिसे वह बचाव करने के लिए देखता है। हम इनमें से कुछ संदर्भ सबक ले रहे हैं और उस एप्लिकेशन को विकसित करने की कोशिश कर रहे हैं।

क्या आप रोबोट और मनुष्यों के लिए "स्टीरियोटाइप" की समान परिभाषा का उपयोग करते हैं, या कुछ और चल रहा है?

शब्द स्टीरियोटाइपिंग का एक नकारात्मक संदर्भ है। जिस तरह से हम इसका उपयोग कर रहे हैं वह बस लोगों की श्रेणियों को विकसित करने के लिए है, और किसी व्यक्ति की विशेषताओं की भविष्यवाणी करने के लिए श्रेणीबद्ध जानकारी का उपयोग करें। मैं मनोविज्ञान में जानता हूं, बहुत से काम चेहरे की रूढ़ियों और लैंगिक रूढ़ियों पर केंद्रित होते हैं। हम ऐसा कुछ नहीं कर रहे हैं क्या प्रक्रिया समान है? मुझे नहीं पता। कोई जानकारी नहीं।

क्या आप चिंतित हैं कि लोगों को आपके काम के बारे में गलतफहमी हो सकती है?

कुछ साल पहले, हमने रोबोट के इस विचार को विकसित किया जो लोगों को धोखा दे सकता था। मीडिया में एक गलत धारणा थी कि इससे लोगों के पर्स चुराने वाले रोबोट को बढ़ावा मिलेगा।

मैं आपातकालीन निकासी स्थिति का उपयोग नहीं करना चाहता: आप हमेशा एक निकासी में एक व्यक्ति के साथ पूरी तरह से ईमानदार होना चाहते हैं, है ना? उदाहरण के लिए, अगर कोई आपसे पूछे, "क्या मेरा परिवार ठीक है?" अगर रोबोट ने कहा, "यह भयानक हो सकता है," नहीं, वे सभी मर गए। कृपया मुझे बाहर निकलने के लिए फॉलो करें। ”कुछ परिस्थितियां हैं जिनमें रोबोट को वास्तव में कुछ समय के लिए बेईमान होने की आवश्यकता होती है। लेकिन मेरा अनुभव यह था कि लोग ऐसा महसूस करते थे कि हम दुनिया के अंत की ओर जाने की कोशिश कर रहे हैं।

हम हमेशा इन मानव-रोबोट तकनीकों के सामाजिक-सामाजिक पहलुओं में रुचि रखते हैं। हम लोगों की मदद करने की कोशिश कर रहे हैं, कुछ बुरा नहीं है।