OpenAI: एलोन मस्क की पूर्व फर्म एक नए ए.आई. युग

OpenAI, 2016 में एलोन मस्क द्वारा सह-स्थापित कृत्रिम बुद्धिमत्ता पर शोध करने वाले गैर-लाभकारी संगठन, बड़ी प्रगति कर रहे हैं - भले ही मस्क ने अपनी दिशा के बारे में असहमति जताने के तरीकों के बाद। शोधकर्ताओं ने ऐसी प्रणालियां विकसित की हैं जो गेम खेल सकती हैं, समाचार लेख लिख सकती हैं और भौतिक वस्तुओं को जमीनी स्तर पर विकृति के साथ ले जा सकती हैं।

OpenAI ने अपने शोध से विवाद पैदा किया है। पिछले हफ्ते, इसने एक भाषा मॉडल, GTP2 के विकास की घोषणा की, जो सीमित संकेतों के साथ ग्रंथों को उत्पन्न कर सकता है। मानव द्वारा लिखे गए संकेत के अनुसार, "माइली साइरस को आज हॉलीवुड बॉलेवार्ड पर एबरक्रॉम्बी और फिच से दुकानदारी करते हुए पकड़ा गया था," सिस्टम ने एक विश्वसनीय पूरी कहानी तैयार की जो "19 वर्षीय गायक को कैमरे से स्टोर से बाहर ले जाते हुए पकड़ा गया था।" सुरक्षा गार्ड द्वारा। ”

इसने एक छोटे प्रॉम्प्ट पर आधारित इकसिंगों के बारे में यह मूल कहानी भी बनाई:

मस्क ने सप्ताहांत में ट्विटर पर टिप्पणी की, "मैं एक साल से अधिक ओपनएआई के साथ शामिल नहीं हुआ हूं और प्रबंधन या बोर्ड निरीक्षण नहीं करता है।" “मुझे टेस्ला (विशेषकर) और स्पेसएक्स में एक बड़ी संख्या में इंजीनियरिंग और विनिर्माण समस्याओं को हल करने पर ध्यान केंद्रित करना था। इसके अलावा, टेस्ला OpenAI के रूप में कुछ लोगों के लिए प्रतिस्पर्धा कर रहा था और OpenAI टीम में से कुछ के साथ मैं सहमत नहीं था। यह सब जोड़ें और अच्छी शर्तों पर भाग लेना बेहतर था।"

फर्म मूल रूप से कस्तूरी के अपने लक्ष्यों को प्राप्त करने के लिए एक आदर्श तरीका लग रहा था ए.आई. मानवता की भलाई के लिए। उद्यमी ने सुपर स्मार्ट मशीनों द्वारा बनाई गई सभ्यता के लिए "मौलिक जोखिम" के बारे में चेतावनी दी है, सरकारों से "जैसे कि हम भोजन, ड्रग्स, विमान और कार" को विनियमित करने का आग्रह करते हैं।

कस्तूरी ने शुरू में फर्म शुरू करने के लिए $ 10 मिलियन का वादा किया, और इसका मिशन स्टेटमेंट "कृत्रिम सामान्य बुद्धि को सुरक्षित करने के लिए मार्ग की खोज और अधिनियमित करने पर केंद्रित है।"

यह देखना मुश्किल नहीं है कि OpenAI के कार्यकारी ग्रेग ब्रॉकमैन द्वारा साझा की गई कहानियों की तरह कार्यक्रम बनाने वाले लोगों को अपेक्षाकृत कम संख्या में लोगों द्वारा कम-समझ रखने वाले लोगों की राय को प्रभावित करने के लिए कैसे इस्तेमाल किया जा सकता है।

OpenAI के एक कर्मचारी ने AI-लिखित नमूना छपवाया और इसे रिसाइकल बिन द्वारा पोस्ट किया: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- ग्रेग ब्रॉकमैन (@gdb) 14 फरवरी, 2019

कंपनी ने एक ब्लॉग पोस्ट में बताया, "प्रौद्योगिकी के दुर्भावनापूर्ण अनुप्रयोगों के बारे में हमारी चिंताओं के कारण, हम प्रशिक्षित मॉडल जारी नहीं कर रहे हैं।" "जिम्मेदार प्रकटीकरण में एक प्रयोग के रूप में, हम इसके बजाय शोधकर्ताओं द्वारा प्रयोग करने के लिए एक बहुत छोटा मॉडल जारी कर रहे हैं, साथ ही साथ एक तकनीकी पेपर भी।"

इस घोषणा के कारण प्रौद्योगिकी की चिंता पैदा हुई, जिसका उपयोग नकली समाचारों को उत्पन्न करने में किया जा सकता है। एनालिटिक्स इंडिया चेतावनी दी कि, इस वर्ष के अंत में आगामी भारतीय चुनाव के साथ, ए.आई. लोकतांत्रिक प्रक्रिया के साथ कहर बरपा सकता है। OpenAI के शोधकर्ता खुद कहते हैं कि, सिंथेटिक ऑडियो और वीडियो के निर्माण में अनुसंधान के साथ, "बड़े पैमाने पर जनता को ऑनलाइन मिलने वाले पाठ पर अधिक संदेह करने की आवश्यकता होगी।"

रियान लोव, ए.आई. वैज्ञानिक और पूर्व OpenAI इंटर्न ने इस तरह के एक कार्यक्रम के खतरे को संक्षेप में कहा, जिसका उपयोग इस पास-पास के माध्यम पोस्ट में आसानी से नकली समाचार बनाने के लिए किया जाता है:

…। एक स्वचालित प्रणाली: (1) बुरे अभिनेताओं को सक्षम कर सकती है, जिनके पास हजारों लोगों को काम पर रखने, बड़े पैमाने पर कीटाणुशोधन अभियानों को मजदूरी करने के लिए संसाधन नहीं हैं; और (2) राज्य के अभिनेताओं द्वारा पहले से चलाए जा रहे कीटाणुशोधन अभियानों के पैमाने में भारी वृद्धि।

OpenAI के सभी शोध इतने विवादास्पद साबित नहीं हुए हैं। जुलाई 2018 में अनावरण किया गया Dactyl, वास्तविक दुनिया में वस्तुओं में हेरफेर करने के लिए वास्तविक दुनिया भौतिकी के लिए अनुकूल हो सकता है। आजादी के 24 डिग्री के साथ रोबोट का हाथ अत्यधिक जटिल है, लेकिन सिस्टम आसानी से केवल तीन RGB कैमरों और रोबोट हाथ के निर्देशांक का उपयोग करके वस्तुओं को चारों ओर ले जा सकता है।

रोबोट का हाथ वीडियो गेम में मनुष्यों को हराने के लिए इस्तेमाल किए जाने वाले सामान्य-प्रयोजन सुदृढीकरण एल्गोरिदम का लाभ उठाता है। "ओपनएआई फाइव" टीम को पेशेवर टीम के खिलाफ सामना करना पड़ा डोटा 2 खिलाड़ियों को 2018 में। इस प्रणाली को 180 साल के गेम्स में प्रशिक्षित किया गया था, जिसमें 128,000 प्रोसेसर कोर और 256 जीबी प्रोसेसर का लाभ उठाया गया था। जबकि इसने पूर्व-पेशेवरों और ट्विच स्ट्रीमरों की एक मानव टीम को हराया, यह पेशेवर खिलाड़ियों के खिलाफ विफल रहा।

कस्तूरी का उपयोग किया डोटा 2 न्युरलिंक पर ध्यान आकर्षित करने के लिए मैच, ए.आई. के साथ सहजीवी संबंध बनाने की उनकी योजना। मानव दिमाग को जोड़ने और एक रोबोट अधिग्रहण से बचने के द्वारा:

@OpenAI द्वारा महान काम। मानव / एआई सहजीवन को सक्षम करने के लिए जल्द ही तंत्रिका इंटरफ़ेस की आवश्यकता है।

- एलोन मस्क (@elonmusk) ६ अगस्त २०१ (

अपने टेक्स्ट जनरेटर की घोषणा में, OpenAI ने कहा कि उसकी छह महीने के समय में अपनी व्यापक रणनीति पर चर्चा करने की योजना है। फर्म को कृत्रिम बुद्धिमत्ता के खतरों के बारे में बारीक चर्चा करने की उम्मीद है, यह एक ऐसा कदम है जो मस्क द्वारा कल्पना किए गए कुछ आपदा परिदृश्यों से बच सकता है। हालांकि, यहां तक ​​कि कंपनी भी मानती है कि यह "निश्चित नहीं है कि" पाठ जनरेटर को रोकना "आज सही निर्णय है।" एआई के खतरों के बारे में चेतावनी देने वाली दो प्रमुख संस्थाओं के बीच पहले से ही गठित एक पत्रकारिता के साथ, यह संभावना नहीं है कि विधायकों के लिए एक आसान होगा। समाधान विकसित करने में समय।