Предрасуде и пристрасности у резултатима вештачке интелигенције
До сада смо ове године направили неке постове у вези са вештачком интелигенцијом, његов однос са слободним софтвером и отвореним кодом и како их можемо користити на нашим слободни и отворени оперативни системи засновани на ГНУ/Линук-у. Стога ћемо се данас позабавити још једном занимљивом темом о њима.
А ово је, о могућности да добити „предрасуде и предрасуде“ у резултатима вештачке интелигенције. Пошто је вештачка интелигенција, иако је обично веома корисна, захваљујући чињеници да може да произведе веома прецизне резултате, она може садржати људске идеолошке предрасуде, ако се не предузму неопходне мере предострожности или мере.
Мерлин и Транслаите: 2 алата за коришћење ЦхатГПТ-а на Линук-у
Али, пре него што започнемо овај пост о могућности добити „пристрасност и пристрасност“ у резултатима АИ, препоручујемо да затим истражите претходни сродни пост са истим:
Предрасуде и предрасуде: могу ли се појавити у резултатима АИ?
О предрасудама и пристрасностима у резултатима АИ
Лично, у последње време сам пробао и препоручио неколико алати вештачке интелигенције, који се врло сигурно многи заснивају на употреби ЦхатБот-а под називом ОпенАИ ЦхатГПТ. И нисам имао већих проблема са погрешне, нетачне, лажне или неприкладне или увредљиве резултате. Међутим, за кратко време које се емитује, многи од нас су сигурно читали о непријатним, па чак и неприхватљивим ситуацијама, о резултатима које су оне донеле.
На пример, а недавни случај погрешних или нетачних резултата Био је то недавни од Гоогле-овог ЦхатБот Барда. Док, стари случај непријатних или увредљивих резултата је, када је Мајкрософт покренуо Теј, четбот са вештачком интелигенцијом, на платформи друштвених мрежа Твитер, који је после 16 сати рада објавио хиљаде твитова, који су на крају постали отворено расистички, мизогинистички и антисемитски.
Међутим, приметио сам на Интернету, не пријатељске или пријатне резултате, посебно када се генеришу слике о групама људи или одређеним људима. Из тог разлога, мислим да предрасуде и људске пристрасности такође могу бити присутни у софтверу АИ. И то се можда може десити када су подаци који се користе за обуку АИ софтвера пристрасни, или када је софтвер дизајниран са одређеним скупом вредности или веровања одређених група на уму.
Пошто је, много пута, у својим различитим фазама развоја, Обично су дизајнирани користећи податке већине из неке демографске групе или превладавајући над другима, или са параметрима да се избегне утицај на групе моћи или фаворизовање важних група друштва.
Могуће мере за избегавање
Да би се избегле предрасуде и пристрасности у софтверу вештачке интелигенције, увек морају предузети његови програмери, мере као што су:
- Уверите се да подаци који се користе за обуку АИ софтвера представљају популацију за коју ће се користити и да вредности или уверења уграђена у софтвер одговарају сврси.
- Спроведите мере за разноликост, инклузију и правичност (ДИФ) како бисте помогли у смањењу пристрасности у софтверу АИ. На начин да не дискриминише одређене људе или групе.
Док, АИ корисници треба да имају као основно правило:
- Будите опрезни када доносите одлуке на основу АИ софтвера или када креирате послове, робу, производе и услуге са његовим резултатима.
- Увек треба да узму у обзир потенцијал за предрасуде и пристрасност АИ, као и за грешке и нетачности у понуђеним подацима, пре него што донесу одлуку о њеној употреби.
Резиме
Укратко, организације и појединци треба да настоје да се информишу о томе потенцијал за „пристрасност и пристрасност“ софтвера АИ и како то избећи. А програмери чине све што могу да то избегну, како би осигурали да АИ софтвер се користи одговорно и поштено.
Такође, запамтите, посетите почетак нашег «сајт», поред званичног канала Telegram за више вести, туторијала и ажурирања за Линук. Запад група, за више информација о данашњој теми.