কৃত্রিম বুদ্ধিমত্তার ফলাফলে কুসংস্কার এবং পক্ষপাত
এ বছর এ পর্যন্ত আমরা কিছু তৈরি করেছি কৃত্রিম বুদ্ধিমত্তা সম্পর্কিত পোস্ট, ফ্রি সফ্টওয়্যার এবং ওপেন সোর্সের সাথে এর সম্পর্ক, এবং কীভাবে আমরা সেগুলিকে ব্যবহার করতে পারি GNU/Linux-এর উপর ভিত্তি করে বিনামূল্যে এবং উন্মুক্ত অপারেটিং সিস্টেম. অতএব, আজ আমরা তাদের সম্পর্কে আরেকটি আকর্ষণীয় বিষয় সম্বোধন করব।
এবং এই হল, সম্ভাবনা সম্পর্কে আর্টিফিশিয়াল ইন্টেলিজেন্সের ফলাফলে "কুসংস্কার এবং পক্ষপাত" পান. যেহেতু, যদিও AI সাধারণত খুব দরকারী, ধন্যবাদ যে তারা খুব সুনির্দিষ্ট ফলাফল তৈরি করতে পারে, প্রয়োজনীয় সতর্কতা বা ব্যবস্থা না নেওয়া হলে এতে মানুষের আদর্শগত পক্ষপাত থাকতে পারে।
মার্লিন এবং ট্রান্সলাইট: লিনাক্সে ChatGPT ব্যবহার করার জন্য 2টি টুল
কিন্তু, সম্ভাবনা সম্পর্কে এই পোস্ট শুরু করার আগে এআই ফলাফলে "পক্ষপাত ও পক্ষপাত" পান, আমরা সুপারিশ করি যে আপনি তারপর অন্বেষণ করুন পূর্ববর্তী সম্পর্কিত পোস্ট একই সঙ্গে:
কুসংস্কার এবং পক্ষপাত: তারা কি AI এর ফলাফলে ঘটতে পারে?
AI এর ফলাফলে কুসংস্কার এবং পক্ষপাতের বিষয়ে
ব্যক্তিগতভাবে, ইদানীং আমি কয়েকটি চেষ্টা করেছি এবং সুপারিশ করেছি কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম, যেটা নিশ্চয়ই অনেকে চ্যাটবট নামের ব্যবহারের উপর ভিত্তি করে OpenAI ChatGPT. এবং আমার সাথে কোন বড় সমস্যা হয়নি ভুল, ভুল, মিথ্যা, বা অনুপযুক্ত বা আপত্তিকর ফলাফল. যাইহোক, অল্প সময়ের মধ্যে এগুলি প্রচারিত হয়েছে, আমাদের মধ্যে অনেকেই অবশ্যই অপ্রীতিকর এবং এমনকি অগ্রহণযোগ্য পরিস্থিতি সম্পর্কে, তাদের দ্বারা উত্পন্ন ফলাফল সম্পর্কে পড়েছি।
উদাহরণস্বরূপ, একটি ভুল বা ভুল ফলাফলের সাম্প্রতিক ক্ষেত্রে এটি ছিল গুগলের চ্যাটবট বার্ডের সাম্প্রতিক একটি। যখন, অপ্রীতিকর বা আপত্তিকর ফলাফলের একটি পুরানো কেস এটি ছিল, যখন মাইক্রোসফ্ট সোশ্যাল নেটওয়ার্কিং প্ল্যাটফর্ম টুইটারে টে, একটি কৃত্রিম বুদ্ধিমত্তার চ্যাটবট চালু করেছিল, যা 16 ঘন্টার অপারেশনের পরে, চ্যাটবটটি হাজার হাজার টুইট প্রকাশ করেছিল, যা শেষ পর্যন্ত প্রকাশ্যে বর্ণবাদী, মিসগোইনিস্টিক এবং এন্টি-সেমেটিক হয়ে ওঠে।
যাইহোক, আমি ইন্টারনেটে লক্ষ্য করেছি, বন্ধুত্বপূর্ণ বা আনন্দদায়ক ফলাফল নয়, বিশেষ করে যখন ছবিগুলি মানুষের গোষ্ঠী বা নির্দিষ্ট ব্যক্তিদের সম্পর্কে তৈরি করা হয়। অতএব, আমি মনে করি যে এআই সফ্টওয়্যারে কুসংস্কার এবং মানুষের পক্ষপাতও থাকতে পারে. এবং সম্ভবত এটি ঘটতে পারে যখন AI সফ্টওয়্যারকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটা পক্ষপাতদুষ্ট হয়, বা যখন সফ্টওয়্যারটি একটি নির্দিষ্ট সেট মান বা নির্দিষ্ট গোষ্ঠীর বিশ্বাসকে মাথায় রেখে ডিজাইন করা হয়।
যেহেতু, অনেকবার, তার বিকাশের বিভিন্ন পর্যায়ে, এগুলি সাধারণত কিছু জনতাত্ত্বিক গোষ্ঠীর সংখ্যাগরিষ্ঠ ডেটা ব্যবহার করে ডিজাইন করা হয় বা অন্যদের উপর প্রাধান্য, বা ক্ষমতা গ্রুপ প্রভাবিত বা সমাজের গুরুত্বপূর্ণ গোষ্ঠীর পক্ষপাত এড়াতে পরামিতি সহ।
এটি এড়াতে সম্ভাব্য ব্যবস্থা
এআই সফ্টওয়্যারে কুসংস্কার এবং পক্ষপাত এড়াতে, সর্বদা এর বিকাশকারীদের দ্বারা নেওয়া উচিত, যেমন ব্যবস্থাগুলি:
- নিশ্চিত করুন যে AI সফ্টওয়্যারকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটা জনসংখ্যার প্রতিনিধি যার জন্য এটি ব্যবহার করা হবে এবং সফ্টওয়্যারে এমবেড করা মান বা বিশ্বাসগুলি উদ্দেশ্যের জন্য উপযুক্ত।
- AI সফ্টওয়্যারে পক্ষপাত কমাতে সাহায্য করার জন্য বৈচিত্র্য, অন্তর্ভুক্তি এবং ন্যায্যতা (DIF) ব্যবস্থাগুলি প্রয়োগ করুন৷ এমনভাবে যাতে এটি নির্দিষ্ট ব্যক্তি বা গোষ্ঠীর প্রতি বৈষম্য না করে।
যখন, AI ব্যবহারকারীদের একটি মৌলিক নিয়ম হিসাবে থাকা উচিত:
- AI সফ্টওয়্যারের উপর ভিত্তি করে সিদ্ধান্ত নেওয়ার সময় বা এর ফলাফল সহ চাকরি, পণ্য, পণ্য এবং পরিষেবা তৈরি করার সময় সতর্কতা অবলম্বন করা।
- সর্বদা, তাদের AI এর কুসংস্কার এবং পক্ষপাতের সম্ভাবনা এবং অফার করা ডেটাতে ত্রুটি এবং ভুলের জন্য, এর ব্যবহারের বিষয়ে সিদ্ধান্ত নেওয়ার আগে তাদের বিবেচনা করা উচিত।
সারাংশ
সংক্ষেপে, সংস্থা এবং ব্যক্তিদের নিজেদের সম্পর্কে জানাতে চেষ্টা করা উচিত এআই সফ্টওয়্যারের "পক্ষপাত ও পক্ষপাত" এর সম্ভাব্যতা এবং কীভাবে এটি এড়ানো যায়. এবং বিকাশকারীরা এটি এড়াতে যা যা করতে পারে তা নিশ্চিত করার জন্য AI সফ্টওয়্যার দায়িত্বের সাথে এবং ন্যায্যভাবে ব্যবহার করা হয়.
এছাড়াও, মনে রাখবেন, আমাদের শুরুতে যান «ওয়েব সাইট», অফিসিয়াল চ্যানেল ছাড়াও Telegram আরও খবর, টিউটোরিয়াল এবং লিনাক্স আপডেটের জন্য। পশ্চিম গ্রুপ, আজকের বিষয়ে আরো তথ্যের জন্য.