कृत्रिम बुद्धिमत्तेच्या परिणामांमध्ये पूर्वग्रह आणि पूर्वाग्रह
या वर्षी आतापर्यंत आम्ही काही बनवले आहेत आर्टिफिशियल इंटेलिजन्सशी संबंधित पोस्ट, फ्री सॉफ्टवेअर आणि ओपन सोर्सशी त्याचा संबंध आणि आम्ही ते आमच्यावर कसे वापरू शकतो GNU/Linux वर आधारित मोफत आणि ओपन ऑपरेटिंग सिस्टम. म्हणूनच, आज आम्ही त्यांच्याबद्दल आणखी एक मनोरंजक विषय सांगू.
आणि हे आहे, च्या शक्यतेबद्दल कृत्रिम बुद्धिमत्तेच्या परिणामांमध्ये "पूर्वग्रह आणि पूर्वाग्रह" मिळवा. कारण, AI सहसा खूप उपयुक्त असले तरी, ते अगदी अचूक परिणाम देऊ शकतात या वस्तुस्थितीबद्दल धन्यवाद, आवश्यक खबरदारी किंवा उपाय न घेतल्यास, यामध्ये मानवी वैचारिक पूर्वाग्रह असू शकतात.
मर्लिन आणि ट्रान्सलेट: लिनक्सवर ChatGPT वापरण्यासाठी 2 साधने
पण, शक्यतेबद्दल हे पोस्ट सुरू करण्यापूर्वी AI परिणामांमध्ये "बायस आणि बायस" मिळवा, आम्ही शिफारस करतो की तुम्ही नंतर एक्सप्लोर करा मागील संबंधित पोस्ट त्याच सह:
पूर्वग्रह आणि पूर्वाग्रह: ते एआयच्या निकालांमध्ये येऊ शकतात?
AI च्या निकालांमध्ये पूर्वग्रह आणि पूर्वाग्रहांवर
व्यक्तिशः, अलीकडे मी प्रयत्न केला आहे आणि काही शिफारस केली आहे कृत्रिम बुद्धिमत्ता साधने, जे निश्चितपणे अनेक चॅटबॉट कॉलच्या वापरावर आधारित आहेत ओपनएआय चॅटजीपीटी. आणि मला कोणतीही मोठी समस्या आली नाही चुकीचे, चुकीचे, खोटे, किंवा अयोग्य किंवा आक्षेपार्ह परिणाम. तथापि, थोड्याच वेळात हे प्रसारित झाले आहे, आपल्यापैकी बर्‍याच जणांनी अप्रिय आणि अगदी अस्वीकार्य परिस्थितींबद्दल, त्यातून निर्माण झालेल्या परिणामांबद्दल नक्कीच वाचले असेल.
उदाहरणार्थ, a चुकीच्या किंवा चुकीच्या निकालांचे अलीकडील प्रकरण हे Google च्या ChatBot Bard मधील अलीकडील होते. असताना, अप्रिय किंवा आक्षेपार्ह परिणामांचे जुने प्रकरण जेव्हा मायक्रोसॉफ्टने सोशल नेटवर्किंग प्लॅटफॉर्म Twitter वर Tay, एक कृत्रिम बुद्धिमत्ता चॅटबॉट लाँच केले, तेव्हा 16 तासांच्या ऑपरेशननंतर, चॅटबॉटने हजारो ट्विट प्रकाशित केले, जे शेवटी उघडपणे वर्णद्वेषी, अधर्मवादी आणि सेमिटिक विरोधी बनले.
तथापि, मी इंटरनेटवर लक्षात घेतले आहे, अनुकूल किंवा आनंददायी परिणाम नाही, विशेषत: जेव्हा लोकांच्या किंवा विशिष्ट लोकांच्या गटांबद्दल प्रतिमा तयार केल्या जातात. म्हणून, मला असे वाटते एआय सॉफ्टवेअरमध्ये पूर्वग्रह आणि मानवी पूर्वाग्रह देखील असू शकतात. आणि जेव्हा एआय सॉफ्टवेअरला प्रशिक्षित करण्यासाठी वापरला जाणारा डेटा पक्षपाती असेल किंवा जेव्हा सॉफ्टवेअर विशिष्ट मूल्यांचा संच किंवा विशिष्ट गटांच्या श्रद्धा लक्षात घेऊन डिझाइन केलेले असेल तेव्हा असे होऊ शकते.
अनेक वेळा, त्याच्या विकासाच्या विविध टप्प्यांत, ते सहसा काही लोकसंख्याशास्त्रीय गटातील बहुसंख्य डेटा वापरून डिझाइन केलेले असतात किंवा इतरांवर प्रचलित, किंवा शक्ती गटांना प्रभावित करू नये किंवा समाजातील महत्त्वाच्या गटांना अनुकूल बनवू नये यासाठी पॅरामीटर्ससह.
ते टाळण्यासाठी संभाव्य उपाय
AI सॉफ्टवेअरमध्ये पूर्वग्रह आणि पक्षपात टाळण्यासाठी, नेहमी त्याच्या विकसकांनी घेतले पाहिजेत, जसे की:
- AI सॉफ्टवेअरला प्रशिक्षित करण्यासाठी वापरलेला डेटा हा ज्या लोकसंख्येसाठी वापरला जाईल त्या लोकसंख्येचा प्रतिनिधी आहे आणि सॉफ्टवेअरमध्ये एम्बेड केलेली मूल्ये किंवा विश्वास हेतूसाठी योग्य आहेत याची खात्री करा.
- AI सॉफ्टवेअरमधील पूर्वाग्रह कमी करण्यात मदत करण्यासाठी विविधता, समावेश आणि निष्पक्षता (DIF) उपाय लागू करा. अशा प्रकारे की ते काही विशिष्ट लोक किंवा गटांमध्ये भेदभाव करत नाही.
असताना, एआय वापरकर्त्यांना मूलभूत नियम म्हणून असणे आवश्यक आहे:
- AI सॉफ्टवेअरवर आधारित निर्णय घेताना किंवा त्याच्या परिणामांसह नोकऱ्या, वस्तू, उत्पादने आणि सेवा तयार करताना सावधगिरी बाळगणे.
- नेहमी, त्यांनी AI च्या वापराबाबत निर्णय घेण्यापूर्वी पूर्वग्रह आणि पूर्वाग्रह आणि ऑफर केलेल्या डेटामधील त्रुटी आणि चुकीची संभाव्यता लक्षात घेतली पाहिजे.
Resumen
सारांश, संस्था आणि व्यक्तींनी स्वतःबद्दल माहिती देण्याचा प्रयत्न केला पाहिजे AI सॉफ्टवेअरची "बायस आणि बायस" ची क्षमता आणि ते कसे टाळावे. आणि विकासक ते टाळण्यासाठी सर्वकाही करतात, याची खात्री करण्यासाठी AI सॉफ्टवेअरचा वापर जबाबदारीने आणि निष्पक्षपणे केला जातो.
तसेच, लक्षात ठेवा, आमच्या सुरुवातीस भेट द्या «वेब साइट»च्या अधिकृत चॅनेल व्यतिरिक्त तार अधिक बातम्या, ट्यूटोरियल आणि लिनक्स अद्यतनांसाठी. पश्चिम गट, आजच्या विषयावरील अधिक माहितीसाठी.