อคติและความลำเอียงในผลลัพธ์ของปัญญาประดิษฐ์
จนถึงปีนี้เราได้ทำบางส่วน โพสต์ที่เกี่ยวข้องกับปัญญาประดิษฐ์ความสัมพันธ์กับซอฟต์แวร์เสรีและโอเพ่นซอร์ส และวิธีที่เราใช้บนเว็บไซต์ของเรา ระบบปฏิบัติการฟรีและเปิดที่ใช้ GNU/Linux. ดังนั้นวันนี้เราจะพูดถึงหัวข้อที่น่าสนใจเกี่ยวกับพวกเขา
และนี่คือความเป็นไปได้ของ รับ «อคติและอคติ» ในผลลัพธ์ของปัญญาประดิษฐ์. เนื่องจากแม้ว่าโดยปกติแล้ว AI จะมีประโยชน์มาก แต่ด้วยข้อเท็จจริงที่ว่าพวกมันสามารถให้ผลลัพธ์ที่แม่นยำมาก สิ่งเหล่านี้อาจมีอคติทางอุดมการณ์ของมนุษย์ หากไม่ดำเนินการป้องกันหรือมาตรการที่จำเป็น
Merlin และ Translaite: 2 เครื่องมือสำหรับใช้ ChatGPT บน Linux
แต่ก่อนที่จะเริ่มโพสต์นี้เกี่ยวกับความเป็นไปได้ของ รับ "อคติและอคติ" ในผลลัพธ์ AIเราขอแนะนำให้คุณสำรวจ โพสต์ที่เกี่ยวข้องก่อนหน้านี้ ด้วยสิ่งเดียวกัน:
อคติและความลำเอียง: สามารถเกิดขึ้นได้จากผลลัพธ์ของ AI หรือไม่?
เกี่ยวกับอคติและความลำเอียงในผลลัพธ์ของ AI
โดยส่วนตัวแล้วเมื่อเร็ว ๆ นี้ฉันได้ลองใช้และแนะนำบางอย่าง เครื่องมือปัญญาประดิษฐ์ซึ่งแน่นอนว่าหลายคนมีพื้นฐานมาจากการใช้ ChatBot ที่เรียกว่า OpenAI ChatGPT. และฉันไม่ได้มีปัญหาใหญ่กับ ผลลัพธ์ที่ผิดพลาด ไม่ถูกต้อง เป็นเท็จ หรือไม่เหมาะสมหรือน่ารังเกียจ. อย่างไรก็ตาม ในช่วงเวลาสั้น ๆ สิ่งเหล่านี้ออกอากาศ พวกเราหลายคนได้อ่านเกี่ยวกับสถานการณ์ที่ไม่พึงประสงค์และแม้แต่ที่ยอมรับไม่ได้อย่างแน่นอน เกี่ยวกับผลลัพธ์ที่เกิดจากสถานการณ์เหล่านั้น
ตัวอย่างเช่น กรณีล่าสุดของผลลัพธ์ที่ผิดพลาดหรือไม่ถูกต้อง มันเป็นอันล่าสุดจาก ChatBot Bard ของ Google ในขณะที่, กรณีเก่าของผลลัพธ์ที่ไม่พึงประสงค์หรือน่ารังเกียจ เมื่อ Microsoft เปิดตัว Tay ซึ่งเป็นแชทบอทปัญญาประดิษฐ์บนแพลตฟอร์มโซเชียลเน็ตเวิร์ก Twitter ซึ่งหลังจากใช้งานไป 16 ชั่วโมง แชทบอทก็ได้เผยแพร่ทวีตหลายพันรายการ ซึ่งท้ายที่สุดกลายเป็นการเหยียดเชื้อชาติ เกลียดผู้หญิง และต่อต้านกลุ่มเซมิติกอย่างเปิดเผย
อย่างไรก็ตาม ฉันสังเกตเห็นว่าผลลัพธ์บนอินเทอร์เน็ตไม่ใช่ผลลัพธ์ที่เป็นมิตรหรือน่าพึงพอใจ โดยเฉพาะอย่างยิ่งเมื่อมีการสร้างรูปภาพเกี่ยวกับกลุ่มคนหรือเฉพาะบุคคล ดังนั้นฉันคิดว่า อคติและความลำเอียงของมนุษย์สามารถมีอยู่ในซอฟต์แวร์ AI ได้เช่นกัน. และนั่นอาจเกิดขึ้นได้เมื่อข้อมูลที่ใช้ในการฝึกซอฟต์แวร์ AI มีความลำเอียง หรือเมื่อซอฟต์แวร์ได้รับการออกแบบโดยคำนึงถึงค่านิยมหรือความเชื่อเฉพาะกลุ่มบางกลุ่ม
เนื่องจากหลายครั้งในขั้นตอนต่างๆ ของการพัฒนา โดยปกติจะออกแบบโดยใช้ข้อมูลส่วนใหญ่จากกลุ่มประชากรบางกลุ่ม หรือมีชัยเหนือผู้อื่น หรือมีตัวแปร เพื่อไม่ให้กระทบกระเทือนกลุ่มอำนาจหรือเข้าข้างกลุ่มสำคัญของสังคม
มาตรการที่เป็นไปได้เพื่อหลีกเลี่ยง
เพื่อหลีกเลี่ยงอคติและความลำเอียงในซอฟต์แวร์ AI, ต้องดำเนินการโดยนักพัฒนาเสมอ, มาตรการเช่น:
- ตรวจสอบให้แน่ใจว่าข้อมูลที่ใช้ในการฝึกซอฟต์แวร์ AI นั้นเป็นตัวแทนของประชากรที่จะใช้งาน และค่าหรือความเชื่อที่ฝังอยู่ในซอฟต์แวร์นั้นเหมาะสมกับวัตถุประสงค์
- ใช้มาตรการความหลากหลาย การรวม และความยุติธรรม (DIF) เพื่อช่วยลดอคติในซอฟต์แวร์ AI โดยไม่เลือกปฏิบัติต่อบางคนหรือบางกลุ่ม
ในขณะที่ ผู้ใช้ AI ควรมีเป็นกฎพื้นฐาน:
- ใช้ความระมัดระวังเมื่อตัดสินใจโดยใช้ซอฟต์แวร์ AI หรือเมื่อสร้างงาน สินค้า ผลิตภัณฑ์ และบริการด้วยผลลัพธ์
- เสมอ พวกเขาควรคำนึงถึงความเป็นไปได้ของอคติและความลำเอียงของ AI และข้อผิดพลาดและความไม่ถูกต้องในข้อมูลที่นำเสนอ ก่อนที่จะตัดสินใจเกี่ยวกับการใช้งาน
ข้อมูลอย่างย่อ
กล่าวโดยสรุป องค์กรและบุคคลควรพยายามให้ข้อมูลเกี่ยวกับตนเอง ศักยภาพของ "อคติและอคติ" ของซอฟต์แวร์ AI และวิธีหลีกเลี่ยง. และนักพัฒนาทำทุกอย่างที่ทำได้เพื่อหลีกเลี่ยงเพื่อให้แน่ใจว่า มีการใช้ซอฟต์แวร์ AI อย่างมีความรับผิดชอบและเป็นธรรม.
นอกจากนี้อย่าลืมเยี่ยมชมจุดเริ่มต้นของเรา «สถาน», นอกเหนือจากช่องทางการของ Telegram สำหรับข่าวสาร บทช่วยสอน และการอัปเดต Linux เพิ่มเติม ตะวันตก กลุ่ม, สำหรับข้อมูลเพิ่มเติมในหัวข้อของวันนี้