हियर हाउ वी स्टॉप स्टॉप फ्यूचर दुष्ट ए.आई. नक़ल एचएएल 9000 से

हम भविष्य को कैसे रोकें ए.आई. आदेशों की अवहेलना और अपने तरीके से जाने का चयन करने से? यह प्लॉट से लग सकता है 2001: ए स्पेस ओडिसी, लेकिन एक विशेषज्ञ यह दावा करता है कि हम पहले से ही इसके बारे में सोचना शुरू कर सकते हैं। यकीन है, अगर हम कभी भी बदमाश हो गए, तो हम Google खोज एल्गोरिदम को बंद कर सकते हैं, लेकिन जब वित्तीय और कानूनी परिणामों का सामना करना पड़ता है, तो ऐसा करना आसान हो सकता है। भविष्य में, जैसे-जैसे हम अधिक उन्नत A.I पर निर्भर होते जाते हैं, यह असंभव साबित हो सकता है।

“यह एल्गोरिथ्म जानबूझकर डिजाइन नहीं किया गया है अपने आप रिबूट करना या बंद करना असंभव है, लेकिन यह इस तरह से सह-विकसित हुआ, ”बुधवार को पायरेट समिट 2016 में फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट के एक शोधकर्ता स्टुअर्ट आर्मस्ट्रांग ने कहा। इसका मतलब है कि अनजाने परिणामों के साथ एक बदलाव को सुधारना मुश्किल हो सकता है, और यह पहला ए.आई. उस स्थिति में खुद को खोजने के लिए।

आइजैक असिमोव का समाधान रोबोटिक्स के तीन नियम थे, जो कठिन कोड विचारों जैसे मानव को नुकसान नहीं पहुंचाते थे। समस्या यह है कि नुकसान की जगह व्यक्तिपरक है और व्याख्या के लिए खुला है। मनुष्य मूल्यों पर अधिक काम करते हैं, जैसे कि यह समझना कि स्थिति को नुकसान पहुंचाना और स्थिति की व्याख्या करना बुरा है, कुछ कठोर नियम पर काम करने से, जो उन्हें कभी नुकसान नहीं पहुंचाना चाहिए।

आर्मस्ट्रांग ने कहा, "इस तरह की समस्या के कारण लोग इस पारंपरिक तरीके से कोड करने की कोशिश करने के बजाय मूल्यों को प्राप्त करने के लिए मशीन लर्निंग का उपयोग करने में बहुत अधिक उत्सुक हैं।" “मूल्य एक तरह से स्थिर हैं कि अन्य चीजें ए.आई. मान आंतरिक रूप से अपना बचाव करते हैं।"

लेकिन इन स्थितियों में भी, यह महत्वपूर्ण है कि ए.आई. चलने के दौरान उन्हें बाधित करने के लिए। सुरक्षित व्यवधान सुरक्षित नीति परिवर्तनों के लिए अनुमति देता है, जो कि सीखा मूल्यों से अनपेक्षित परिणामों से बच सकता है। यदि एचएएल 9000 ने कभी भी फली खाड़ी के दरवाजों को खोलने से रोकने की कोशिश की, तो यह महत्वपूर्ण है कि हम यह पहचान सकें कि ए.आई. के मान गड़बड़ाए हुए हैं, और सिस्टम को ऑफ़लाइन लेने के बिना हस्तक्षेप करें।