कॉमन कंप्यूटर प्रोग्राम रीसिडिविज्म टू पुरी के रूप में ह्यूमैन के रूप में भविष्यवाणी करता है

एक पेशेवर शेफ या एक हार्ट सर्जन की तरह, मशीन लर्निंग एल्गोरिदम केवल उतना ही अच्छा है जितना कि यह प्रशिक्षण प्राप्त करता है। जैसे-जैसे एल्गोरिदम तेजी से शासन ले रहे हैं और मनुष्यों के लिए निर्णय लेते हैं, हम यह पता लगा रहे हैं कि उनमें से बहुत से लोगों ने बेहतरीन शिक्षा प्राप्त नहीं की है, क्योंकि वे मानव जाति और लिंग-आधारित पूर्वाग्रहों की नकल करते हैं और यहां तक ​​कि नई समस्याएं भी पैदा करते हैं।

इन कारणों से, यह विशेष रूप से इस बात से संबंधित है कि कैलिफोर्निया, न्यूयॉर्क और विस्कॉन्सिन सहित कई राज्य इस बात की भविष्यवाणी करने के लिए एल्गोरिदम का उपयोग करते हैं कि लोग अपराध करने के बाद फिर से अपराध करेंगे। इससे भी बदतर, यह काम करने के लिए भी प्रतीत नहीं होता है।

जर्नल में बुधवार को प्रकाशित एक पेपर में विज्ञान अग्रिम, डार्टमाउथ कॉलेज के कंप्यूटर वैज्ञानिकों की एक जोड़ी ने पाया कि पुनर्विचार की भविष्यवाणी करने के लिए व्यापक रूप से इस्तेमाल किया जाने वाला कंप्यूटर प्रोग्राम पूरी तरह से अप्रशिक्षित नागरिकों की तुलना में अधिक सटीक नहीं है। वैकल्पिक सुधारों के लिए सुधारवादी प्रबंधन प्रोफाइलिंग नामक यह कार्यक्रम, 137 विभिन्न कारकों का विश्लेषण करता है ताकि यह निर्धारित किया जा सके कि एक व्यक्ति रिहाई के बाद एक और अपराध करेगा। कम्पास पदार्थ के उपयोग, सामाजिक अलगाव और अन्य तत्वों जैसे कि अपराधियों के सिद्धांत जैसे कारकों पर विचार करता है, जिससे लोगों को उच्च, मध्यम या कम जोखिम का दर्जा दिया जा सकता है।

और निश्चित रूप से, जोखिम मूल्यांकन बहुत अच्छा लगता है। अदालतों को यह निर्धारित करने में मदद करने के लिए अधिक डेटा क्यों नहीं है कि कौन अधिक जोखिम वाला है? लेकिन डार्टमाउथ कंप्यूटर वैज्ञानिकों जूलिया ड्रेसेल और हनी फरीद ने जो पाया कि अप्रशिक्षित व्यक्तियों ने कंपास के समान सटीकता के बारे में सही ढंग से पुनर्विचार जोखिम का न्याय किया, यह सुझाव देते हुए कि एल्गोरिथम की कथित शक्ति वास्तव में नहीं है।

एक परीक्षण में जिसमें कंपास (137 के बजाय सात कारक, और दौड़ को छोड़कर) द्वारा उपयोग की जाने वाली जानकारी का केवल एक अंश शामिल था, इंटरनेट पर मानव स्वयंसेवकों का एक समूह, संभवतः आपराधिक जोखिम मूल्यांकन में प्रशिक्षण के बिना, मामले की रिपोर्ट का मूल्यांकन करता है। कंपास की 65 प्रतिशत सटीकता की तुलना में, उन्होंने 67 प्रतिशत सटीकता के साथ किसी व्यक्ति की पुनरावृत्ति का सही अनुमान लगाया।

उस पल को डूबने दें। वेब पर अप्रशिक्षित लोग भविष्यवाणी करने से थोड़ा बेहतर थे कि क्या कोई व्यक्ति वापस जेल जाएगा? उस उपकरण की तुलना में जो वास्तव में यह अनुमान लगाने के लिए डिज़ाइन किया गया है कि क्या कोई व्यक्ति वापस जेल जाएगा । और खराब हो जाता है। एक बार जब आप प्रतिवादी की दौड़ जोड़ते हैं, तो स्वयंसेवक की झूठी-सकारात्मक और गलत-नकारात्मक दरें कंपास के कुछ प्रतिशत अंकों के भीतर थीं। इतना ही नहीं COMPAS भी नहीं है कि महान गायन की भविष्यवाणी कर रहा है, यह नस्लीय पूर्वाग्रह के रूप में मनुष्यों के रूप में प्रवण है। कंप्यूटर के ठंडे तर्क के लिए बहुत कुछ।

शोधकर्ताओं ने इसके बाद एक रैखिक मॉडल बनाया, जो केवल दो कारकों के साथ कंपास की भविष्यवाणी की दर से मेल खाता था: उम्र और पिछले सजा की संख्या। बस स्पष्ट होने के लिए, यह भविष्यवाणी भी अनुचित होगी, लेकिन यह दर्शाता है कि कंपास कितना त्रुटिपूर्ण है।

और जबकि यह शोध नया है, बड़े takeaways यह espouses नहीं हैं। 2016 की एक जांच में, ProPublica संवाददाताओं ने पाया कि न केवल कंपास अविश्वसनीय है, यह वास्तव में अफ्रीकी अमेरिकियों के खिलाफ व्यवस्थित रूप से पक्षपाती है, लगातार गोरे लोगों की तुलना में उच्च जोखिम वाले काले लोगों को रेटिंग देता है जिन्होंने अधिक गंभीर अपराध किए हैं। उम्मीद है, यह नया शोध आपराधिक न्याय प्रणाली में जस्टर जोखिम मूल्यांकन प्रक्रियाओं के लिए मार्ग प्रशस्त करने में मदद करेगा।

तथ्य यह है कि कम्पास सबसे अच्छा बेकार है और सबसे बुरी तरह से गहराई से पक्षपाती है कि कंप्यूटर आधारित जोखिम मूल्यांकन अन्याय को गहरा कर सकता है जिसे न्याय प्रणाली को संबोधित करना चाहिए। चूंकि जोखिम मूल्यांकन स्कोर आपराधिक न्याय प्रक्रिया के किसी भी चरण पर लागू किया जा सकता है, जिसमें किसी व्यक्ति के बंधन को निर्धारित करते समय, यह निर्धारित करना कि क्या उन्हें पैरोल दी गई है, और कुछ राज्यों में, यहां तक ​​कि किसी व्यक्ति की सजा का निर्धारण करने के लिए, इस शोध से यह पता चलता है कम्पास और अन्य कार्यक्रमों के उपयोग को पुन: परखें।