कैसे यूसी बर्कले का नया केंद्र एक ए.आई. कयामत

कैलिफोर्निया विश्वविद्यालय बर्कले ने सिर्फ मानवता को नष्ट करने के लिए कृत्रिम बुद्धिमत्ता को रोकने के लिए काम करने वाले प्रतिष्ठित संस्थानों की बढ़ती सूची में अपना नाम जोड़ा। सोमवार को घोषित मानव-संगत आर्टिफिशियल इंटेलिजेंस के लिए इसका नया केंद्र, यह सुनिश्चित करने के लिए है कि ए.आई. फायदेमंद रहता है, और यह भी एक ए.आई. कयामत।

बर्कले के अपने ए.आई. विशेषज्ञ, स्टुअर्ट रसेल, उद्यम का नेतृत्व कर रहे हैं। ओपन परोपकार परियोजना ने केंद्र को $ 5.5 मिलियन का अनुदान प्रदान किया, और अन्य लोगों ने भी इसमें हिस्सा लिया। बर्कले, कॉर्नेल विश्वविद्यालय और मिशिगन विश्वविद्यालय के कई अन्य विशेषज्ञ सह-प्रमुख जांचकर्ता के रूप में काम करेंगे।

कॉर्नेल प्रोफेसर बार्ट सेलमैन ने बताया श्लोक में केंद्र के बारे में, ए.आई. चाहिए डर, और शायद दुनिया अभी तक एक हथकड़ी में नरक की ओर क्यों नहीं है - अभी तक।

सेंटर फॉर ह्यूमन-कम्पेटिबल ए.आई.

ये केंद्र अपेक्षाकृत नए विकास हैं। लोग निवेश करते हैं - भविष्य का जीवन संस्थान, उदाहरण के लिए, टेस्ला से एलोन मस्क का निवेश है - जीवन के भविष्य से संबंधित प्रश्नों से निपटने के लिए, और जीवन और समाज के भविष्य के लिए संभावित खतरे। बर्कले का नया केंद्र ऐसे संस्थान का एक और उदाहरण है।

यह हमारे समाज में कृत्रिम बुद्धिमत्ता और कंप्यूटिंग की बदलती भूमिका से प्रेरित है। ये प्रौद्योगिकियां हमारे समाज में आगे बढ़ रही हैं, और हम पर इसका प्रभाव पड़ेगा। ये संस्थान संभावित नकारात्मक प्रभावों का अध्ययन करने के लिए शोधकर्ताओं को एक साथ लाने के लिए हैं, या यह सुनिश्चित करने के लिए कि कोई नकारात्मक प्रभाव नहीं हैं।

केंद्र के बहुत शीर्षक से पता चलता है कि ए.आई. और मानवता स्वाभाविक रूप से असंगत है। क्या यह आपका नजरिया है?

लोगों की पहली प्रतिक्रिया यह है कि ये चीजें असंगत हो सकती हैं। हम वास्तव में मानते हैं कि, उचित सावधानियों और उचित दिशानिर्देशों और शोध के साथ, हम वास्तव में हितों को संरेखित कर सकते हैं और सुनिश्चित कर सकते हैं कि ये प्रौद्योगिकियां फायदेमंद हैं। A.I. प्रौद्योगिकी के जबरदस्त सकारात्मक पक्ष हैं, और समाज के लिए लक्ष्य यह सुनिश्चित करना है कि हम सकारात्मक पक्षों पर बने रहें। संस्थान में शामिल शोधकर्ताओं का मानना ​​है कि यह संभव है।

यदि आप एक कयामत के दृष्टिकोण को अपना सकते हैं, तो सबसे अधिक संभावना ए.आई.-प्रेरित कयामत का दिन कैसा दिखेगा?

एक स्पष्ट जोखिम कृत्रिम बुद्धिमत्ता का एक सैन्य विकास होगा, जो कि देशों के बीच एक ए.आई.-हथियार हथियारों की दौड़ को जन्म दे सकता है: स्वायत्त हथियार, स्वायत्त ड्रोन जो अपने स्वयं के आदेशों का पालन करते हैं, विभिन्न देशों द्वारा विकसित किए जाते हैं जो एक-दूसरे के विरोधी हैं। मेरे द्वारा देखा गया यह सबसे ठोस जोखिम है। मुझे लगता है कि ए.आई. आत्म-ड्राइविंग कारों के लिए विकसित, उदाहरण के लिए - समाज में नियमित भूमिकाओं के लिए - बहुत फायदेमंद होगा। लेकिन सैन्य पहलू एक चिंताजनक घटक है।

क्या यह पहले से ही एक कठिन लड़ाई है?

देश वास्तव में इस मुद्दे पर विचार कर रहे हैं। एक निश्चित अर्थ में, यह एक कठिन लड़ाई है: सेना ए.आई. प्रौद्योगिकी। लेकिन, ऐसे समझौते हुए हैं - उदाहरण के लिए, जैविक हथियार शायद सबसे प्रसिद्ध मामला है - जहां कुछ बिंदु पर देशों ने फैसला किया कि इससे उन देशों को फायदा होगा नहीं बड़े पैमाने पर जैविक हथियार विकसित करना। हम उम्मीद कर रहे हैं कि देशों को एहसास होगा कि नकारात्मक पक्ष, हर किसी के लिए, ऑल-आउट ए.आई. हथियारों की दौड़।

यदि दोनों पक्ष इस तकनीक को विकसित करते हैं, तो कोई भी आगे नहीं है।

क्या केंद्र के बारे में मुझे कुछ पता होना चाहिए या पुरुषवादी ए.आई. सामान्य रूप में?

सकारात्मक पक्ष देना महत्वपूर्ण है जोखिमों पर जोर देना आसान है - और, निश्चित रूप से, यह आंशिक रूप से इन केंद्रों की स्थापना क्यों है - लेकिन यह बताना भी महत्वपूर्ण है कि बहुत सारे शोधकर्ता यह महसूस करते हैं कि यह जोखिम प्रबंधनीय है, और यह कि जबरदस्त होगा।

आपने पहले ही प्रलय के दिन का दृष्टिकोण दिया था। ए.आई. के कुछ संभावित सकारात्मक उपयोग क्या हैं क्या आप वास्तव में उत्साहित हैं?

सकारात्मक पक्ष एक ऐसा समाज होगा जहां हमें इस तकनीक द्वारा सहायता प्रदान की जाती है। उदाहरण के लिए, चीनी और अंग्रेजी के बीच - जहां लोग सिर्फ बातचीत कर सकते हैं, जैसे कि वे दुनिया भर में एक दूसरे के साथ, एक मूल भाषा बोल रहे थे। बुजुर्गों की देखभाल: लोग जब तक चाहें अपने घर में रह सकते हैं, क्योंकि उनके पास एक घरेलू सहायक रोबोट है जो उन्हें स्वतंत्र रूप से जीने में मदद करता है।

यह संभवतः जीवन पर एक बहुत ही नाटकीय प्रभाव होगा - जहां तक ​​रोजगार है, और हम क्या प्राथमिकता देते हैं।

हाँ। रोजगार की बहस है, जो एक अलग बहस चल रही है। सभी के समर्थन के लिए पर्याप्त संसाधन होंगे, इसलिए इस बात का मुद्दा है कि हम कैसे सुनिश्चित करें कि हर कोई इन विकासों से लाभान्वित हो। इस बात का फिर से अहसास होगा कि काम करने का क्या मतलब है, लोग किस तरह के काम करेंगे। लेकिन सिद्धांत रूप में, लोगों को अधिक स्वतंत्रता होगी, और अधिक समय उन गतिविधियों को करने में होगा जो उन्हें करने में आनंद मिलता है, क्योंकि मशीनों को कई अन्य अधिक बेईमानी से मदद मिलेगी, काम चीजें टाइप करें। इसमें कुछ समय लगेगा, लेकिन हमारा मानना ​​है कि समाज अनुकूल होगा, और धीरे-धीरे इन परिवर्तनों को शामिल करेगा।

इस साक्षात्कार को स्पष्टता और संक्षिप्तता के लिए संपादित किया गया है।