Упередження та упередження в результатах штучного інтелекту
Цього року ми вже зробили деякі дописи, пов’язані зі штучним інтелектом, його зв’язок із вільним програмним забезпеченням і відкритим кодом, а також те, як ми можемо їх використовувати на наших вільні та відкриті операційні системи на основі GNU/Linux. Тому сьогодні ми торкнемося ще однієї цікавої теми про них.
І це, про можливість отримати «упередження та упередження» в результатах штучного інтелекту. Хоча штучний інтелект зазвичай дуже корисний, завдяки тому, що він може давати дуже точні результати, він може містити людські ідеологічні упередження, якщо не вжити необхідних заходів або заходів.
Merlin і Translaite: 2 інструменти для використання ChatGPT у Linux
Але, перш ніж почати цю публікацію про можливість отримати «упередженість і упередженість» у результатах ШІ, ми рекомендуємо вам дослідити попередній пов’язаний пост з тим самим:
Упередження та упередження: чи можуть вони мати місце в результатах ШІ?
Про упередження та упередження в результатах ШІ
Особисто я останнім часом пробував і рекомендував кілька засоби штучного інтелекту, який, напевно, багато хто базується на використанні ChatBot під назвою OpenAI ChatGPT. І в мене не було серйозних проблем помилкові, неточні, неправдиві або невідповідні або образливі результати. Але за цей короткий час в ефірі багато хто з нас напевно читав про неприємні і навіть неприйнятні ситуації, про результати, які вони породжують.
Наприклад, a недавній випадок помилкових або неточних результатів Це був останній від Google ChatBot Bard. поки, стара справа з неприємними або образливими результатами Це було, коли Microsoft запустила Tay, чат-бот зі штучним інтелектом, на платформі соціальної мережі Twitter, який після 16 годин роботи чат-бот опублікував тисячі твітів, які зрештою стали відверто расистськими, женоненависницькими та антисемітськими.
Однак я помітив в Інтернеті не дружні чи приємні результати, особливо коли генеруються зображення про групи людей або конкретних людей. Тому я так вважаю упередження та людські упередження також можуть бути присутніми в програмному забезпеченні ШІ. І що, можливо, це може статися, коли дані, які використовуються для навчання програмного забезпечення штучного інтелекту, є упередженими або коли програмне забезпечення розроблено з урахуванням певного набору цінностей або переконань певних груп.
Оскільки багато разів, на різних стадіях розвитку, Зазвичай вони розроблені з використанням даних більшості з певної демографічної групи або переважаючи над іншими, або з параметрами, щоб уникнути впливу на владні групи чи надання переваги важливим групам суспільства.
Можливі заходи, щоб цього уникнути
Щоб уникнути упередженого ставлення та упередженості до програмного забезпечення ШІ, завжди повинні вживатися його розробниками такі заходи, як:
- Переконайтеся, що дані, які використовуються для навчання програмного забезпечення штучного інтелекту, є репрезентативними для населення, для якого воно використовуватиметься, і що цінності чи переконання, вбудовані в програмне забезпечення, відповідають меті.
- Впроваджуйте заходи різноманітності, інклюзивності та справедливості (DIF), щоб зменшити упередженість програмного забезпечення ШІ. Таким чином, щоб це не дискримінувало певних людей чи груп.
Хоча, Користувачі штучного інтелекту повинні мати як фундаментальне правило:
- Будьте обережні, приймаючи рішення на основі програмного забезпечення AI або створюючи робочі місця, товари, продукти та послуги з його результатами.
- Вони завжди повинні брати до уваги потенціал упередженості та упередженості штучного інтелекту, а також помилки та неточності в запропонованих даних, перш ніж приймати рішення про його використання.
Резюме
Таким чином, організації та окремі особи повинні прагнути інформувати себе про потенціал «упередженості та упередженості» програмного забезпечення ШІ та як цього уникнути. І розробники роблять усе можливе, щоб уникнути цього, щоб гарантувати, що Програмне забезпечення ШІ використовується відповідально та чесно.
Крім того, пам'ятайте, відвідайте початок нашого «сайт», крім офіційного каналу Telegram для отримання додаткових новин, навчальних посібників та оновлень Linux. Захід група, щоб дізнатися більше про сьогоднішню тему.