Yapay Zekanın sonuçlarındaki önyargılar ve yanlılıklar
Bu yıl şimdiye kadar, bazı yapay zeka ile ilgili gönderiler, Özgür Yazılım ve Açık Kaynak ile ilişkisi ve bunları web sitemizde nasıl kullanabileceğimiz. GNU/Linux tabanlı özgür ve açık işletim sistemleri. Bu nedenle, bugün onlar hakkında başka bir ilginç konuyu ele alacağız.
Ve bu, olasılığı hakkında Yapay Zeka sonuçlarında «önyargılar ve önyargılar» elde edin. Zira yapay zekalar genellikle çok faydalı olmalarına rağmen çok kesin sonuçlar üretebilmeleri sayesinde gerekli önlem veya önlemler alınmadığı takdirde insani ideolojik önyargıları içerebilmektedir.
Merlin ve Translaite: ChatGPT'yi Linux'ta kullanmak için 2 araç
Ancak, olasılığı hakkında bu gönderiye başlamadan önce AI sonuçlarında "önyargı ve önyargı" elde edin, daha sonra keşfetmenizi öneririz önceki ilgili gönderi aynı ile:
Önyargılar ve yanlılıklar: AI sonuçlarında ortaya çıkabilirler mi?
AI sonuçlarındaki önyargılar ve yanlılıklar hakkında
Şahsen, son zamanlarda birkaç tane denedim ve tavsiye ettim. yapay zeka araçları, ki bu kesinlikle birçoğu ChatBot'un kullanımına dayanmaktadır. OpenAI ChatGPT. Ve büyük bir sorun yaşamadım hatalı, yanlış, yanlış veya uygunsuz veya rahatsız edici sonuçlar. Ancak bunların yayına girdiği kısa sürede, pek çoğumuz tatsız ve hatta kabul edilemez durumları, bunların yarattığı sonuçları mutlaka okumuşuzdur.
Örneğin, son zamanlarda hatalı veya yanlış sonuç vakası Google'ın ChatBot Bard'ından sonuncusuydu. Sırasında, hoş olmayan veya rahatsız edici sonuçların eski bir vakası Microsoft, yapay zeka sohbet robotu Tay'ı sosyal ağ platformu Twitter'da başlattığında, 16 saatlik çalışmanın ardından sohbet robotu binlerce tweet yayınladı ve sonunda açıkça ırkçı, kadın düşmanı ve anti-Semitik oldu.
Bununla birlikte, özellikle insan grupları veya belirli kişiler hakkında görüntüler oluşturulduğunda, internette dostça veya hoş olmayan sonuçlar fark ettim. Bu nedenle, bence AI yazılımında önyargı ve insan önyargıları da mevcut olabilir. Ve belki de bu, AI yazılımını eğitmek için kullanılan veriler önyargılı olduğunda veya yazılım belirli bir grup değer veya belirli grupların inançları göz önünde bulundurularak tasarlandığında olabilir.
Çünkü, birçok kez, gelişiminin çeşitli aşamalarında, Genellikle bazı demografik gruplardan çoğunluk verileri kullanılarak tasarlanırlar. veya başkalarına üstün gelmek veya güç gruplarını etkilemekten veya toplumun önemli gruplarını kayırmaktan kaçınmak için parametrelerle.
Bunu önlemek için olası önlemler
AI yazılımında önyargı ve yanlılığı önlemek için, her zaman geliştiricileri tarafından alınmalıdır, örneğin:
- AI yazılımını eğitmek için kullanılan verilerin, kullanılacağı popülasyonu temsil ettiğinden ve yazılımda gömülü olan değerlerin veya inançların amaca uygun olduğundan emin olun.
- Yapay zeka yazılımındaki önyargıyı azaltmaya yardımcı olmak için çeşitlilik, dahil etme ve adalet (DIF) önlemlerini uygulayın. Belirli kişi veya gruplara ayrımcılık yapmayacak şekilde.
Süre, AI kullanıcılarının temel bir kural olarak sahip olması gerekir:
- Yapay zeka yazılımına dayalı kararlar alırken veya sonuçlarıyla işleri, malları, ürünleri ve hizmetleri oluştururken dikkatli olun.
- Her zaman, kullanımı hakkında bir karar vermeden önce, AI'nın önyargı ve yanlılık potansiyelini ve sunulan verilerdeki hata ve yanlışlıkları dikkate almalıdırlar.
Resumen
Özetle, kuruluşlar ve bireyler kendilerini bu konuda bilgilendirmek için çaba göstermelidir. AI yazılımının "yanlılık ve yanlılık" potansiyeli ve bundan nasıl kaçınılacağı. Ve geliştiriciler, bundan kaçınmak için ellerinden gelen her şeyi yaparlar. AI yazılımı sorumlu ve adil bir şekilde kullanılır.
Ayrıca, unutmayın, sayfamızın başlangıcını ziyaret edin. «yer»resmi kanalına ek olarak Telegram daha fazla haber, öğreticiler ve Linux güncellemeleri için. Batı grup, bugünün konusu hakkında daha fazla bilgi için.