Előítéletek és elfogultságok a mesterséges intelligencia eredményeiben

Előítéletek és elfogultságok a mesterséges intelligencia eredményeiben

Előítéletek és elfogultságok a mesterséges intelligencia eredményeiben

Idén eddig készítettünk néhányat Mesterséges intelligenciával kapcsolatos bejegyzések, kapcsolata a szabad szoftverekkel és a nyílt forráskóddal, és hogyan használhatjuk őket a mi ingyenes és nyílt GNU/Linux alapú operációs rendszerek. Ezért ma egy másik érdekes témával foglalkozunk róluk.

És ez a lehetőségről szól „előítéleteket és elfogultságokat” szerezzen a mesterséges intelligencia eredményeiben. Mivel bár a mesterséges intelligencia általában nagyon hasznos, annak köszönhetően, hogy nagyon pontos eredményeket tud produkálni, ezek emberi ideológiai torzításokat tartalmazhatnak, ha nem teszik meg a szükséges óvintézkedéseket vagy intézkedéseket.

Merlin és Translaite: 2 eszköz a ChatGPT használatához Linuxon

Merlin és Translaite: 2 eszköz a ChatGPT használatához Linuxon

De mielőtt elkezdené ezt a bejegyzést a lehetőségről „elfogultság és elfogultság” megjelenítése az AI-eredményekben, javasoljuk, hogy ezután fedezze fel a előző kapcsolódó bejegyzés ugyanazzal:

Merlin és Translaite: 2 eszköz a ChatGPT használatához Linuxon
Kapcsolódó cikk:
Merlin és Translaite: 2 eszköz a ChatGPT használatához Linuxon

Előítéletek és elfogultságok: előfordulhatnak-e az MI eredményeiben?

Előítéletek és elfogultságok: előfordulhatnak-e az MI eredményeiben?

A mesterséges intelligencia eredményeinek előítéleteiről és torzításairól

Személy szerint mostanában kipróbáltam és ajánlottam néhányat mesterséges intelligencia eszközök, amit nagyon biztosan sokan a ChatBot nevű ChatBot használatán alapulnak OpenAI ChatGPT. És semmi komolyabb problémám nem volt vele téves, pontatlan, hamis, nem megfelelő vagy sértő eredmények. Ám azalatt a rövid idő alatt, ahogy ezek az adásban vannak, bizonyára sokan olvastunk már kellemetlen, sőt elfogadhatatlan helyzetekről, az általuk generált eredményekről.

Például a hibás vagy pontatlan eredmények legutóbbi esetei Ez volt a legutóbbi a Google ChatBot Bardjából. Míg, kellemetlen vagy sértő eredmények régi esete Akkor történt, amikor a Microsoft elindította a Tay nevű mesterséges intelligencia chatbotot a Twitter közösségi platformon, amely 16 órás működés után több ezer tweetet tett közzé, amelyek végül nyíltan rasszistává, nőgyűlölővé és antiszemitává váltak.

Az interneten azonban nem baráti vagy kellemes eredményeket vettem észre, különösen, ha emberek csoportjairól vagy konkrét személyekről generálnak képeket. Ezért úgy gondolom előítéletek és emberi elfogultságok is jelen lehetnek az AI szoftverekben. És talán ez megtörténhet, ha az AI-szoftver betanításához használt adatok elfogultak, vagy ha a szoftvert bizonyos csoportok meghatározott értékeinek vagy hiedelmeinek figyelembevételével tervezték.

Mivel sokszor a fejlődés különböző szakaszaiban, Általában valamilyen demográfiai csoportból származó többségi adatok felhasználásával készültek vagy másokkal szemben uralkodó, vagy olyan paraméterekkel, amelyek elkerülik a hatalmi csoportok befolyásolását vagy a társadalom fontos csoportjainak előnyben részesítését.

Lehetséges intézkedések ennek elkerülésére

Lehetséges intézkedések ennek elkerülésére

Az előítéletek és az elfogultság elkerülése érdekében az AI szoftverekben, mindig a fejlesztőknek kell megtenniük, például:

  1. Győződjön meg arról, hogy az AI-szoftver betanításához használt adatok reprezentálják azt a populációt, amelyre használni fogják, és hogy a szoftverbe ágyazott értékek vagy hiedelmek megfelelnek a célnak.
  2. A sokszínűség, befogadás és méltányosság (DIF) intézkedések végrehajtása segít csökkenteni az AI-szoftverek torzítását. Oly módon, hogy ne diszkrimináljon bizonyos embereket vagy csoportokat.

Míg, Az AI-felhasználóknak alapvető szabálynak kell lenniük:

  1. Legyen körültekintő, amikor az AI-szoftveren alapuló döntéseket hoz, vagy amikor munkákat, árukat, termékeket és szolgáltatásokat készít az eredményekkel együtt.
  2. Mindig figyelembe kell venniük a mesterséges intelligencia előítéleteinek és elfogultságának lehetőségét, valamint a felajánlott adatok hibáit és pontatlanságait, mielőtt döntést hoznának a használatáról.
ChatGPT Linuxon: asztali ügyfelek és webböngészők
Kapcsolódó cikk:
ChatGPT Linuxon: asztali ügyfelek és webböngészők

Absztrakt banner post

Összegzés

Összefoglalva, a szervezeteknek és egyéneknek törekedniük kell arra, hogy tájékozódjanak az AI-szoftverek „elfogultságának és elfogultságának” lehetősége, és ennek elkerülése. A fejlesztők pedig mindent megtesznek ennek elkerülése érdekében, annak érdekében, hogy a Az AI szoftvert felelősségteljesen és tisztességesen használják.

Ne feledje továbbá, hogy látogasson el az elejére «telek», a hivatalos csatorna mellett Telegram további hírekért, oktatóanyagokért és Linux-frissítésekért. nyugat csoport, további információkért a mai témáról.


Legyen Ön az első hozzászóló

Hagyja megjegyzését

E-mail címed nem kerül nyilvánosságra. Kötelező mezők vannak jelölve *

*

*

  1. Az adatokért felelős: Miguel Ángel Gatón
  2. Az adatok célja: A SPAM ellenőrzése, a megjegyzések kezelése.
  3. Legitimáció: Az Ön beleegyezése
  4. Az adatok közlése: Az adatokat csak jogi kötelezettség alapján továbbítjuk harmadik felekkel.
  5. Adattárolás: Az Occentus Networks (EU) által üzemeltetett adatbázis
  6. Jogok: Bármikor korlátozhatja, helyreállíthatja és törölheti adatait.