مصنوعی ذہانت کے نتائج میں تعصبات اور تعصبات
اس سال اب تک ہم نے کچھ بنایا ہے۔ آرٹیفیشل انٹیلی جنس سے متعلق پوسٹسمفت سافٹ ویئر اور اوپن سورس کے ساتھ اس کا تعلق، اور ہم انہیں اپنے پر کیسے استعمال کر سکتے ہیں۔ GNU/Linux پر مبنی مفت اور کھلے آپریٹنگ سسٹم. اس لیے آج ہم ان کے بارے میں ایک اور دلچسپ موضوع پر بات کریں گے۔
اور یہ ہے، کے امکان کے بارے میں مصنوعی ذہانت کے نتائج میں "تعصبات اور تعصبات" حاصل کریں۔. چونکہ، اگرچہ AI عام طور پر بہت کارآمد ہوتے ہیں، اس حقیقت کی بدولت کہ وہ انتہائی درست نتائج دے سکتے ہیں، اگر ضروری احتیاطی تدابیر یا اقدامات نہ کیے گئے تو ان میں انسانی نظریاتی تعصبات شامل ہو سکتے ہیں۔
مرلن اور ٹرانسلائٹ: لینکس پر چیٹ جی پی ٹی استعمال کرنے کے لیے 2 ٹولز
لیکن، کے امکان کے بارے میں اس پوسٹ کو شروع کرنے سے پہلے AI نتائج میں "تعصب اور تعصب" حاصل کریں۔، ہم تجویز کرتے ہیں کہ آپ پھر دریافت کریں۔ پچھلی متعلقہ پوسٹ اسی کے ساتھ:
انڈیکس
تعصبات اور تعصبات: کیا وہ AI کے نتائج میں ہو سکتے ہیں؟
AI کے نتائج میں تعصبات اور تعصبات پر
ذاتی طور پر، حال ہی میں میں نے کوشش کی ہے اور چند کی سفارش کی ہے۔ مصنوعی ذہانت کے اوزار، جو یقیناً بہت سے لوگ چیٹ بوٹ کے استعمال پر مبنی ہیں۔ اوپن اے آئی چیٹ جی پی ٹی. اور مجھے کوئی بڑی پریشانی نہیں ہوئی۔ غلط، غلط، غلط، یا نامناسب یا جارحانہ نتائج. تاہم، مختصر وقت میں یہ نشر ہو چکے ہیں، ہم میں سے بہت سے لوگوں نے یقیناً ناخوشگوار اور یہاں تک کہ ناقابل قبول حالات کے بارے میں، ان سے پیدا ہونے والے نتائج کے بارے میں پڑھا ہوگا۔
مثال کے طور پر، ایک غلط یا غلط نتائج کا حالیہ معاملہ یہ گوگل کے چیٹ بوٹ بارڈ سے حالیہ تھا۔ جبکہ، ناخوشگوار یا جارحانہ نتائج کا ایک پرانا معاملہ یہ وہ وقت تھا جب مائیکروسافٹ نے سماجی رابطے کے پلیٹ فارم ٹوئٹر پر Tay نامی ایک مصنوعی ذہانت والا چیٹ بوٹ لانچ کیا، جس کے 16 گھنٹے کے آپریشن کے بعد چیٹ بوٹ نے ہزاروں ٹویٹس شائع کیں، جو آخر میں کھلم کھلا نسل پرستی، بدسلوکی اور یہود مخالف بن گئیں۔
تاہم، میں نے انٹرنیٹ پر دیکھا ہے، دوستانہ یا خوشگوار نتائج نہیں، خاص طور پر جب لوگوں کے گروپوں یا مخصوص لوگوں کے بارے میں تصاویر بنائی جاتی ہیں۔ لہذا، میں سوچتا ہوں کہ AI سافٹ ویئر میں تعصب اور انسانی تعصبات بھی موجود ہو سکتے ہیں۔. اور یہ کہ شاید ایسا اس وقت ہو سکتا ہے جب AI سافٹ ویئر کی تربیت کے لیے استعمال ہونے والا ڈیٹا متعصب ہو، یا جب سافٹ ویئر کو مخصوص اقدار یا مخصوص گروہوں کے عقائد کو ذہن میں رکھ کر ڈیزائن کیا گیا ہو۔
چونکہ، کئی بار، اس کی ترقی کے مختلف مراحل میں، وہ عام طور پر کچھ آبادیاتی گروپ کے اکثریتی ڈیٹا کا استعمال کرتے ہوئے ڈیزائن کیے جاتے ہیں۔ یا دوسروں پر غالب، یا طاقت کے گروہوں کو متاثر کرنے یا معاشرے کے اہم گروہوں کی حمایت کرنے سے بچنے کے لیے پیرامیٹرز کے ساتھ۔
اس سے بچنے کے لیے ممکنہ اقدامات
AI سافٹ ویئر میں تعصب اور تعصب سے بچنے کے لیے، ہمیشہ اس کے ڈویلپرز کے ذریعہ اٹھائے جانے چاہئیں، جیسے کہ:
- اس بات کو یقینی بنائیں کہ AI سافٹ ویئر کی تربیت کے لیے استعمال ہونے والا ڈیٹا اس آبادی کا نمائندہ ہے جس کے لیے اسے استعمال کیا جائے گا، اور یہ کہ سافٹ ویئر میں شامل اقدار یا عقائد مقصد کے لیے موزوں ہیں۔
- AI سافٹ ویئر میں تعصب کو کم کرنے میں مدد کے لیے تنوع، شمولیت اور انصاف (DIF) کے اقدامات کو نافذ کریں۔ اس طرح کہ یہ بعض لوگوں یا گروہوں کے ساتھ امتیازی سلوک نہیں کرتا۔
جبکہ ، AI صارفین کو بنیادی اصول کے طور پر ہونا چاہیے۔:
- AI سافٹ ویئر کی بنیاد پر فیصلے کرتے وقت، یا اس کے نتائج کے ساتھ ملازمتوں، سامان، مصنوعات اور خدمات کو تیار کرتے وقت احتیاط برتیں۔
- ہمیشہ، انہیں اس کے استعمال کے بارے میں کوئی فیصلہ کرنے سے پہلے، AI کے تعصب اور تعصب کے امکانات، اور پیش کردہ ڈیٹا میں غلطیوں اور غلطیوں کو مدنظر رکھنا چاہیے۔
خلاصہ
خلاصہ یہ کہ تنظیموں اور افراد کو اپنے بارے میں آگاہ کرنے کی کوشش کرنی چاہیے۔ AI سافٹ ویئر کے "تعصب اور تعصب" کے امکانات اور اس سے کیسے بچنا ہے۔. اور ڈویلپرز اس سے بچنے کے لیے ہر ممکن کوشش کرتے ہیں، تاکہ یہ یقینی بنایا جا سکے۔ AI سافٹ ویئر کا استعمال ذمہ داری اور منصفانہ طور پر کیا جاتا ہے۔.
اس کے علاوہ، یاد رکھیں، ہماری شروعات کا دورہ کریں «سائٹ»کے سرکاری چینل کے علاوہ تار مزید خبروں، سبق اور لینکس اپ ڈیٹس کے لیے۔ مغرب گروپآج کے موضوع پر مزید معلومات کے لیے۔
تبصرہ کرنے والا پہلا ہونا