التحيزات والتحيزات في نتائج الذكاء الاصطناعي
حتى الآن هذا العام ، قمنا ببعض المشاركات المتعلقة بالذكاء الاصطناعي، وعلاقتها بالبرمجيات الحرة والمصدر المفتوح ، وكيف يمكننا استخدامها على موقعنا أنظمة تشغيل حرة ومفتوحة على أساس جنو / لينكس. لذلك ، سنتناول اليوم موضوعًا آخر مثيرًا للاهتمام حولهم.
وهذا يتعلق بإمكانية الحصول على «الأحكام المسبقة والتحيزات» في نتائج الذكاء الاصطناعي. نظرًا لأنه على الرغم من أن الذكاء الاصطناعي عادةً ما يكون مفيدًا للغاية ، فبفضل حقيقة أنه يمكن أن ينتج نتائج دقيقة للغاية ، يمكن أن تحتوي هذه التحيزات الإيديولوجية البشرية ، إذا لم يتم اتخاذ الاحتياطات أو التدابير اللازمة.
Merlin و Translaite: أداتان لاستخدام ChatGPT على Linux
ولكن ، قبل البدء في هذا المنشور حول إمكانية الحصول على "التحيز والتحيز" في نتائج الذكاء الاصطناعي، نوصيك باستكشاف الوظيفة السابقة ذات الصلة مع نفس الشيء:
التحيزات والتحيزات: هل يمكن أن تحدث في نتائج الذكاء الاصطناعي؟
حول التحيزات والتحيزات في نتائج الذكاء الاصطناعي
أنا شخصياً حاولت في الآونة الأخيرة وأوصيت ببعضها أدوات الذكاء الاصطناعي، والتي يعتمد الكثير منها بالتأكيد على استخدام ChatBot المسمى OpenAI ChatGPT. وليس لدي أي مشاكل كبيرة مع نتائج خاطئة أو غير دقيقة أو خاطئة أو غير مناسبة أو مسيئة. ومع ذلك ، في الوقت القصير الذي تم بثه على الهواء ، قرأ الكثير منا بالتأكيد عن المواقف غير السارة وحتى غير المقبولة ، عن النتائج الناتجة عنها.
على سبيل المثال ، حالة حديثة لنتائج خاطئة أو غير دقيقة كان هذا هو الأحدث من ChatBot Bard من Google. بينما، حالة قديمة من النتائج غير السارة أو المسيئة عندما أطلقت شركة Microsoft Tay ، روبوت محادثة للذكاء الاصطناعي ، على منصة التواصل الاجتماعي Twitter ، الذي نشر آلاف التغريدات بعد 16 ساعة من التشغيل ، والتي أصبحت في النهاية عنصرية وكارهة للنساء ومعادية للسامية.
ومع ذلك ، فقد لاحظت على الإنترنت ، نتائج غير ودية أو ممتعة ، خاصة عندما يتم إنشاء صور حول مجموعات من الأشخاص أو أشخاص محددين. لذلك ، أعتقد ذلك يمكن أن يكون التحيز والتحيز البشري موجودًا أيضًا في برامج الذكاء الاصطناعي. وربما يحدث هذا عندما تكون البيانات المستخدمة لتدريب برنامج الذكاء الاصطناعي متحيزة ، أو عندما يتم تصميم البرنامج مع وضع مجموعة معينة من القيم أو المعتقدات الخاصة بمجموعات معينة في الاعتبار.
منذ عدة مرات في مراحل تطورها المختلفة ، عادة ما يتم تصميمها باستخدام بيانات الأغلبية من بعض المجموعات الديموغرافية أو السيطرة على الآخرين ، أو مع معايير لتجنب التأثير على مجموعات القوة أو تفضيل مجموعات مهمة من المجتمع.
التدابير الممكنة لتجنبه
لتجنب التحيز والتحيز في برامج الذكاء الاصطناعي، يجب أن يتخذها مطوروها دائمًا ، إجراءات مثل:
- تأكد من أن البيانات المستخدمة لتدريب برنامج الذكاء الاصطناعي تمثل السكان الذين سيتم استخدامه من أجلهم ، وأن القيم أو المعتقدات المضمنة في البرنامج مناسبة للغرض.
- تنفيذ تدابير التنوع والشمول والإنصاف (DIF) للمساعدة في تقليل التحيز في برامج الذكاء الاصطناعي. بطريقة لا تميز ضد أفراد أو مجموعات معينة.
في حين، يجب أن يكون لمستخدمي الذكاء الاصطناعي قاعدة أساسية:
- توخي الحذر عند اتخاذ القرارات بناءً على برامج الذكاء الاصطناعي ، أو عند صياغة الوظائف والسلع والمنتجات والخدمات مع نتائجها.
- دائمًا ، يجب أن يأخذوا في الاعتبار احتمالية التحيز والتحيز للذكاء الاصطناعي ، والأخطاء وعدم الدقة في البيانات المقدمة ، قبل اتخاذ قرار بشأن استخدامه.
ملخص
باختصار ، يجب على المنظمات والأفراد السعي لإطلاع أنفسهم عليها احتمال "التحيز والانحياز" لبرامج الذكاء الاصطناعي وكيفية تجنبه. ويبذل المطورون كل ما في وسعهم لتجنب ذلك ، من أجل التأكد من أن ملف يتم استخدام برامج الذكاء الاصطناعي بشكل مسؤول وعادل.
أيضا ، تذكر ، قم بزيارة بداية «موقع»، بالإضافة إلى القناة الرسمية لـ تیلیجرام لمزيد من الأخبار والبرامج التعليمية وتحديثات Linux. الغرب مجموعة، لمزيد من المعلومات حول موضوع اليوم.