Idén eddig készítettünk néhányat Mesterséges intelligenciával kapcsolatos bejegyzések, kapcsolata a szabad szoftverekkel és a nyílt forráskóddal, és hogyan használhatjuk őket a mi ingyenes és nyílt GNU/Linux alapú operációs rendszerek. Ezért ma egy másik érdekes témával foglalkozunk róluk.
És ez a lehetőségről szól „előítéleteket és elfogultságokat” szerezzen a mesterséges intelligencia eredményeiben. Mivel bár a mesterséges intelligencia általában nagyon hasznos, annak köszönhetően, hogy nagyon pontos eredményeket tud produkálni, ezek emberi ideológiai torzításokat tartalmazhatnak, ha nem teszik meg a szükséges óvintézkedéseket vagy intézkedéseket.
De mielőtt elkezdené ezt a bejegyzést a lehetőségről „elfogultság és elfogultság” megjelenítése az AI-eredményekben, javasoljuk, hogy ezután fedezze fel a előző kapcsolódó bejegyzés ugyanazzal:
Előítéletek és elfogultságok: előfordulhatnak-e az MI eredményeiben?
A mesterséges intelligencia eredményeinek előítéleteiről és torzításairól
Személy szerint mostanában kipróbáltam és ajánlottam néhányat mesterséges intelligencia eszközök, amit nagyon biztosan sokan a ChatBot nevű ChatBot használatán alapulnak OpenAI ChatGPT. És semmi komolyabb problémám nem volt vele téves, pontatlan, hamis, nem megfelelő vagy sértő eredmények. Ám azalatt a rövid idő alatt, ahogy ezek az adásban vannak, bizonyára sokan olvastunk már kellemetlen, sőt elfogadhatatlan helyzetekről, az általuk generált eredményekről.
Például a hibás vagy pontatlan eredmények legutóbbi esetei Ez volt a legutóbbi a Google ChatBot Bardjából. Míg, kellemetlen vagy sértő eredmények régi esete Akkor történt, amikor a Microsoft elindította a Tay nevű mesterséges intelligencia chatbotot a Twitter közösségi platformon, amely 16 órás működés után több ezer tweetet tett közzé, amelyek végül nyíltan rasszistává, nőgyűlölővé és antiszemitává váltak.
Az interneten azonban nem baráti vagy kellemes eredményeket vettem észre, különösen, ha emberek csoportjairól vagy konkrét személyekről generálnak képeket. Ezért úgy gondolom előítéletek és emberi elfogultságok is jelen lehetnek az AI szoftverekben. És talán ez megtörténhet, ha az AI-szoftver betanításához használt adatok elfogultak, vagy ha a szoftvert bizonyos csoportok meghatározott értékeinek vagy hiedelmeinek figyelembevételével tervezték.
Mivel sokszor a fejlődés különböző szakaszaiban, Általában valamilyen demográfiai csoportból származó többségi adatok felhasználásával készültek vagy másokkal szemben uralkodó, vagy olyan paraméterekkel, amelyek elkerülik a hatalmi csoportok befolyásolását vagy a társadalom fontos csoportjainak előnyben részesítését.
Lehetséges intézkedések ennek elkerülésére
Az előítéletek és az elfogultság elkerülése érdekében az AI szoftverekben, mindig a fejlesztőknek kell megtenniük, például:
- Győződjön meg arról, hogy az AI-szoftver betanításához használt adatok reprezentálják azt a populációt, amelyre használni fogják, és hogy a szoftverbe ágyazott értékek vagy hiedelmek megfelelnek a célnak.
- A sokszínűség, befogadás és méltányosság (DIF) intézkedések végrehajtása segít csökkenteni az AI-szoftverek torzítását. Oly módon, hogy ne diszkrimináljon bizonyos embereket vagy csoportokat.
Míg, Az AI-felhasználóknak alapvető szabálynak kell lenniük:
- Legyen körültekintő, amikor az AI-szoftveren alapuló döntéseket hoz, vagy amikor munkákat, árukat, termékeket és szolgáltatásokat készít az eredményekkel együtt.
- Mindig figyelembe kell venniük a mesterséges intelligencia előítéleteinek és elfogultságának lehetőségét, valamint a felajánlott adatok hibáit és pontatlanságait, mielőtt döntést hoznának a használatáról.
Összegzés
Összefoglalva, a szervezeteknek és egyéneknek törekedniük kell arra, hogy tájékozódjanak az AI-szoftverek „elfogultságának és elfogultságának” lehetősége, és ennek elkerülése. A fejlesztők pedig mindent megtesznek ennek elkerülése érdekében, annak érdekében, hogy a Az AI szoftvert felelősségteljesen és tisztességesen használják.
Ne feledje továbbá, hogy látogasson el az elejére «telek», a hivatalos csatorna mellett Telegram további hírekért, oktatóanyagokért és Linux-frissítésekért. nyugat csoport, további információkért a mai témáról.