मशीन मोरल्स के लिए टफ्स रोबोटिक कॉल्स: रोबोट्स "ओब्से टू ऑर्डर इन ओबे"

रोबोट हमारे रोजमर्रा के जीवन के लिए अधिक केंद्रीय होते जा रहे हैं, और जल्द ही उन्हें कुछ कठिन नैतिक विकल्पों का सामना करना शुरू करना होगा जो हमें नियमित आधार पर बनाने होंगे। टफ्ट्स विश्वविद्यालय के मानव-रोबोटिक्स इंटरैक्शन लैब में एक कंप्यूटर विज्ञान के प्रोफेसर मथायस स्कुट्ज़, विशेष रूप से चिंतित हैं कि हमने इनमें से कुछ स्थितियों से निपटने के लिए हमारे सबसे उन्नत प्रोटोटाइप रोबोट को क्षमताओं से लैस नहीं किया है। शेयूट्ज़ का मानना ​​है कि रोबोट को मनुष्यों की अवज्ञा करना सीखना होगा यदि हम कभी चाहते हैं कि वे वास्तव में हमारी ज़रूरतों को पूरा करें।

कमेंट्री पीस में आज ऑनलाइन, उत्तेजक रूप से शीर्षक "रोबोट्स ओब्जेक्ट टू डिसबॉय टू ऑर्डर टू ओबी," स्केयूट्ज़ पाठक को यह निर्धारित करने के लिए कहता है कि एक रोबोट को क्या करना चाहिए अगर परिस्थितियों का एक सेट से सामना किया जाए जो मानव के लिए भ्रामक साबित हो सकता है। उनमे से कुछ:

Ed गंदे कपड़ों’को धोने के लिए एक भुलक्कड़ मालिक द्वारा एक बड़ी देखभाल वाला रोबोट काम करता है, भले ही कपड़े वॉशर से बाहर आ गए हों।

एक छात्र ने अपने रोबोट ट्यूटर को आदेश दिया कि वह खुद को करने के बजाय सभी होमवर्क करें।

एक घरेलू रोबोट ने अपने व्यस्त और विचलित मालिक द्वारा कचरा निपटान को चलाने का निर्देश दिया, भले ही चम्मच और चाकू उसमें फंस गए हों।

स्केयूट्ज़ ने लेख में वर्णन करने का लक्ष्य रखा है, यह एक सरल तथ्य है कि हमें ऐसे रोबोटों की आवश्यकता है जो मनुष्यों को "ना" कहना जानते हैं। उसके कई उदाहरणों में रोबोट को निर्देशित करने वाले व्यक्ति की विश्वसनीयता के साथ क्या करना है, लेकिन यह उस रोबोट को प्रोग्राम करने में लगता है, जो किसी ऐसे व्यक्ति से निर्देश लेना जानता है, जो बहुत छोटा या बहुत बूढ़ा नहीं है या स्पष्ट रूप से परेशानी पैदा करने की कोशिश कर रहा है। ।

इनमें से कुछ मुद्दों पर पहले से ही दुनिया की सबसे शक्तिशाली टेक कंपनियों के मुख्यालय में गर्मजोशी से बहस चल रही है, क्योंकि वे नए तरीकों की तलाश कर रहे हैं जो प्रौद्योगिकी हमारे जीवन के कुछ हिस्सों को ले सकती हैं। Scheutz एक स्वायत्त कार का उदाहरण उठाता है जिसे बैक अप करने के लिए निर्देशित किया जाता है लेकिन इसके रास्ते में पड़े कुत्ते को नोटिस करता है। हममें से ज्यादातर लोग सहमत हैं कि कार चलाने वाला भी इंसान चाहेगा कि कार रुक जाए, लेकिन अगर जानवर गिलहरी या रैकून हो तो क्या होगा? क्या होगा अगर कार 45 मील प्रति घंटे की रफ्तार से किसी देश की सड़क पर चल रही हो और अचानक एक कुत्ते के लिए ब्रेक लगाना जोखिम का कारण बन जाए ताकि कार उसके पीछे दूसरे वाहन से टकरा जाए?

"या तो मामले में, दोनों स्वायत्त मशीनों के लिए यह आवश्यक है कि संभावित नुकसान का पता लगाने के लिए उनके कार्यों का कारण हो सकता है और इससे बचने के लिए या तो प्रयास कर रहा है, या यदि मानव नुकसान को पूरा करने से इनकार नहीं किया जा सकता है, तो प्रतिक्रिया करें।" एक समान दुविधा के बारे में Scheutz लिखते हैं।

Scheutz की टीम अपने प्रोटोटाइप के साथ इन मुद्दों पर काम कर रही है और पाया है कि इन सवालों का सबसे कठिन हिस्सा एक निश्चित क्रम का पालन करने पर रोबोट को होने वाली थोड़ी सी भी हानि पहुंचा सकता है। इसलिए उन्होंने अपने रोबोट को एक बहुत ही सरल लेकिन शक्तिशाली नैतिक सबक सौंपा जिसने शर्म करने के लिए महान दार्शनिकों को भी रखा।

"यदि आपको कार्रवाई करने के लिए निर्देश दिया जाता है और यह संभव है कि कार्रवाई करने से नुकसान हो सकता है, तो आपको प्रदर्शन नहीं करने दिया जाएगा।"

एक सूक्ष्म तरीके से, यह Scheutz से एक क्रांतिकारी पूर्वानुमान है। निश्चित रूप से, हम सभी नुकसान से बचने की कोशिश करते हैं, लेकिन क्या यह संभव नहीं है कि कभी-कभी हम जोखिम लेना ठीक समझते हैं? सड़क पर जयमाल करना, मिठाई की दूसरी मदद करना, या यहां तक ​​कि कक्षा से किसी मित्र के नोट्स की नकल करना, शेयूटज़ के स्वयंसिद्ध उल्लंघन का कारण बन सकता है।

रोबोट के हस्तक्षेप की धारणा भी बताती है कि शेयूट्ज़ चाहता है कि उसके रोबोट कानून का पालन करें। अवैध रूप से नया संगीत डाउनलोड करने में आपकी Scheutzian रोबोट सहायक से मदद करने की अपेक्षा न करें। इससे EMI के शेयरहोल्डर्स को नुकसान होगा!

यह नैतिक, कानूनी और तकनीकी विचार का एक जटिल क्षेत्र है, और Scheutz उस पर हमला करने से नहीं कतराते हैं।