एलोन मस्क का ओपनएआई सुरक्षित कृत्रिम बुद्धिमत्ता अनुसंधान के लिए स्नायु हो सकता है

सप्ताहांत में, एलोन मस्क, सैम ऑल्टमैन और अन्य सिलिकॉन वैली के बड़े-बड़े दिग्गजों ने अप्रत्याशित रूप से OpenAI के लॉन्च की घोषणा की, जो एक गैर-लाभकारी कंपनी है जो अपने लक्ष्य का वर्णन करती है: "इस तरह से डिजिटल इंटेलिजेंस को आगे बढ़ाने के लिए जो समग्र रूप से मानवता को लाभान्वित करने की संभावना है। वित्तीय प्रतिफल उत्पन्न करने की आवश्यकता से असंबंधित।"

“चूंकि हमारा शोध वित्तीय दायित्वों से मुक्त है, हम एक सकारात्मक मानव प्रभाव पर बेहतर ध्यान केंद्रित कर सकते हैं। हम मानते हैं कि ए.आई. व्यक्तिगत मानवीय इच्छाशक्ति का विस्तार होना चाहिए और, स्वतंत्रता की भावना में, जितना संभव हो उतना व्यापक और समान रूप से वितरित किया जाना चाहिए। ”

इस घोषणा से दो प्रमुख takeaways हैं। पहला यह है कि मस्क और कंपनी ए.आई. अभी अनुसंधान के रूप में बहुत कम समय के लिए व्यावहारिक मूल्य प्राप्त करने पर ध्यान केंद्रित किया है, और वे आगे बढ़ने के प्रयासों को आगे बढ़ाने में मदद करना चाहते हैं जो विकासशील ए.आई. सिस्टम। दूसरा, अधिक पर्दाफाश मार्ग यह है कि मस्क अभी भी ए.आई. के नुकसान के बारे में चिंतित है अगर हम विकसित और आधे-बेक्ड सिस्टम शुरू करते हैं। मस्क ने पहले ए.आई. "हमारा सबसे बड़ा अस्तित्ववादी खतरा" और सुझाव दिया कि संभावित खतरों को रोकने के लिए नियामक निरीक्षण आवश्यक हो सकता है। OpenAI संघीय पहरेदार की आवश्यकता के बिना उस निरीक्षण को प्रदान करने का एक तरीका हो सकता है।

कस्तूरी और उसके साथी क्या कर रहे हैं जो दूसरों ने जो किया है उससे अलग है। आखिरकार, खुला स्रोत ए.आई. कोई नई बात नहीं है। Google ने अपना स्वयं का A.I. पिछले महीने सॉफ्टवेयर खुला स्रोत और यह काफी मानक प्रक्रिया बन गई है। लेकिन $ 1 बिलियन की बंदोबस्ती के साथ, OpenAI पहले से ही A.I पर काम करने वाले सबसे बड़े संगठनों में से एक है। अनुसंधान, और काफी आसानी से सबसे बड़ी गैर-लाभकारी। इसका लक्ष्य अपने परिणामों को सार्वजनिक रूप से उपलब्ध कराना है और इसके सभी पेटेंट रॉयल्टी-फ्री हैं। उनके पास एक गाजर और एक छड़ी है और वे एक उद्योग को चलाने के लिए इसका उपयोग करने का इरादा रखते हैं।

यह विचार है कि ओपनएआई को बड़े निगमों, निजी अनुसंधान प्रयोगशालाओं और यहां तक ​​कि विश्व सरकारों के लिए एक प्रकार के काउंटरवेट के रूप में उपयोग करना है, जिनके पास अपने स्वयं के ए.आई. अनुसंधान जो मैत्रीपूर्ण उद्देश्यों के लिए समर्पित नहीं हो सकता है, और इसके बजाय नापाक अनुप्रयोगों के साथ प्रौद्योगिकियों को जन्म दे सकता है। OpenAI के साथ काम करने वाले शोधकर्ता मूल रूप से working अनुकूल’ए.आई. का पीछा करेंगे, बिना तात्कालिक परिणाम दिखाने के लिए। सुरक्षा और डिज़ाइन सुविधाओं के लिए एक बड़ा विचार हो सकता है कि निजी व्यवसायों को अनदेखा करने की इच्छा हो सकती है। वहाँ एक सफेद टॉवर नहीं होगा जहां केवल कुछ ही चुनिंदा ए.आई. के रास्ते को नियंत्रित करते हैं। विकास। यह सभी के लिए एक स्वागत योग्य दुनिया है।

के साथ एक साक्षात्कार में बैक चैनल, मस्क ने भी ए.आई. की एक विस्तृत विविधता बनाने की इच्छा पर जोर दिया। सिस्टम। “हम चाहते हैं कि ए.आई. व्यापक होने के लिए, ”वह कहते हैं। "हमें लगता है कि शायद बहुत अच्छा है।"

यह महत्वपूर्ण है, क्योंकि यह संभवतः प्राथमिक कारण है कि मस्क और अल्टमैन ए.आई. का लोकतांत्रिकरण करना चाहते हैं। उनका मानना ​​है कि सबसे अच्छा प्रकार ए.आई. जिस तरह से रोबोट ओवरलोडर्स बनाए बिना मानवता को सकारात्मक तरीके से लाभान्वित करेगा - वह प्रकार है जो "व्यक्तिगत मानव इच्छा का विस्तार" के रूप में कार्य करता है, जैसा कि मस्क इसे कहते हैं। वह कहता है:

“जैसा कि ए.आई. स्वयं का विस्तार, जैसे कि प्रत्येक व्यक्ति एआई के साथ अनिवार्य रूप से सहजीवन है, क्योंकि एआई एक बड़ी केंद्रीय खुफिया है जो एक दूसरे की तरह है। यदि आप सोचते हैं कि आप इंटरनेट पर एप्लिकेशन का उपयोग कैसे करते हैं, कहते हैं, तो आपको अपना ईमेल मिल गया है और आपको सोशल मीडिया मिल गया है और आपके फोन पर ऐप्स हैं - वे प्रभावी रूप से आपको अलौकिक बनाते हैं और आप उनके बारे में नहीं सोचते हैं अन्य होने के नाते, आप उन्हें स्वयं का विस्तार मानते हैं। इसलिए जिस हद तक हम उस दिशा में AI का मार्गदर्शन कर सकते हैं, हम वह करना चाहते हैं। और हमें एआई क्षेत्र में कई समान विचारधारा वाले इंजीनियरों और शोधकर्ताओं ने पाया है जो समान रूप से महसूस करते हैं।"

मूल रूप से, OpenI दृष्टि ए.आई. शोध एक विकेंद्रीकृत समुदाय है जो मानव को एक-दूसरे से और दुनिया से खुद को जोड़ने में मदद करता है।

कस्तूरी अभी तक रेखांकित नहीं की गई है कि वे OpenAI के भीतर शोध को कैसे रोकेंगे - या बाहर के समूहों द्वारा - एक खतरनाक दिशा में जाने से पुनर्खरीद। और यहां कुछ और ध्यान देने योग्य बात है: ओपन सोर्स सिस्टम केवल तभी समझ में आता है जब मशीन-लर्निंग एल्गोरिदम का निर्माण करने के लिए उपयोग किया जाने वाला डेटा स्वतंत्र रूप से साझा किया जाता है। एक बुद्धिमान प्रणाली के लिए है सीखना बुद्धिमान कैसे बनें, और इसके लिए उसे डेटा और अनुभव से सीखने की जरूरत है। यह बांध बनाना पसंद करता है - आपको वास्तव में पानी रोकने के लिए ब्लूप्रिंट (एल्गोरिथम) और निर्माण सामग्री (डेटा) दोनों की आवश्यकता होती है।

यही कारण है कि लोग अभी भी Google के TensorFlow के साथ क्या कर सकते हैं, में सीमित हैं - उनके पास अभी तक वह डेटा नहीं है जो Google के पास है। जब तक ओपनएआई से बाहर किए गए सहयोग एक ही डेटा को इन-हाउस शोधकर्ताओं के साथ काम करने की अनुमति नहीं देते हैं, तब तक मस्क की दृष्टि जरूरी नहीं समझी जाती - या कम से कम उस तरीके से नहीं जो वह इसे बढ़ावा दे रहा है।

मस्क, ऑल्टमैन और ओपेन के अन्य संस्थापकों ने कुछ ऐसा शुरू किया है जो ए.आई. की वृद्धि पर जबरदस्त प्रभाव डालेगा। यहां से बाहर के लिए। साथ ही, उन्हें एक ओपन सोर्स रिसर्च कम्युनिटी को बढ़ावा देने की अपनी प्रतिबद्धता में स्पष्ट रूप से सामने आने की आवश्यकता होगी, जिसका अर्थ है कि गैर-लाभकारी कंपनी के लिए उनकी योजनाओं के बारे में सार्वजनिक होना और डेटा साझा करने के लिए तैयार रहना। अन्यथा, OpenAI झुंड कंपनियों से बहुत अलग नहीं होगा जो इसे झुंड के लिए डिज़ाइन किया गया था।