인공 지능 결과의 편견과 편향
올해 지금까지 우리는 몇 가지를 만들었습니다. 인공지능 관련 포스팅, 자유 소프트웨어 및 오픈 소스와의 관계, 그리고 우리 회사에서 이를 사용할 수 있는 방법 GNU/Linux 기반의 무료 개방형 운영 체제. 따라서 오늘 우리는 그들에 대한 또 다른 흥미로운 주제를 다룰 것입니다.
그리고 이것은 다음의 가능성에 대한 것입니다. 인공 지능의 결과에서 «편견과 편견»을 얻습니다.. AI는 일반적으로 매우 유용하지만 매우 정확한 결과를 생성할 수 있다는 사실 덕분에 필요한 예방 조치나 조치를 취하지 않으면 인간의 이데올로기적 편견을 포함할 수 있습니다.
Merlin 및 Translaite: Linux에서 ChatGPT를 사용하는 2가지 도구
그러나 이 게시물을 시작하기 전에 AI 결과에서 "바이어스 및 바이어스" 가져오기, 그런 다음 이전 관련 게시물 같은:
편견과 편향: AI의 결과에서 발생할 수 있습니까?
AI 결과의 편견과 편향
개인적으로 최근에 몇 가지를 시도하고 추천했습니다. 인공 지능 도구, 매우 확실하게 많은 사람들이 ChatBot이라는 ChatBot의 사용을 기반으로 합니다. OpenAI 채팅GPT. 그리고 나는 큰 문제가 없었습니다 오류, 부정확, 허위 또는 부적절하거나 불쾌감을 주는 결과. 그러나 짧은 시간에 방송에 나온 우리 중 많은 사람들은 불쾌하고 용납할 수 없는 상황과 그에 따른 결과에 대해 확실히 읽었습니다.
예를 들어, a 잘못되었거나 부정확한 결과의 최근 사례 Google의 ChatBot Bard에서 최근에 나온 것입니다. 하는 동안, 불쾌하거나 불쾌한 결과의 오래된 사례 Microsoft가 인공 지능 챗봇인 Tay를 소셜 네트워킹 플랫폼 Twitter에 출시했을 때 16시간 작동 후 챗봇은 수천 개의 트윗을 게시했고 결국 공개적으로 인종 차별, 여성 혐오, 반유대주의가 되었습니다.
그러나 나는 인터넷에서 특히 사람들의 그룹이나 특정 사람들에 대한 이미지가 생성될 때 친근하거나 유쾌하지 않은 결과를 발견했습니다. 그러므로 나는 AI 소프트웨어에도 편견과 인간의 편견이 존재할 수 있습니다.. 그리고 아마도 이것은 AI 소프트웨어를 훈련시키는 데 사용되는 데이터가 편향되거나 소프트웨어가 특정 그룹의 특정 가치 또는 신념 세트를 염두에 두고 설계되었을 때 발생할 수 있습니다.
여러 번, 다양한 개발 단계에서 일반적으로 일부 인구 통계 그룹의 대다수 데이터를 사용하여 설계됩니다. 또는 다른 사람들보다 우세하거나 매개 변수를 사용하여 권력 집단에 영향을 미치거나 사회의 중요한 집단을 선호하지 않습니다.
그것을 피하기 위해 가능한 조치
AI 소프트웨어의 편견과 편견을 피하기 위해, 개발자는 항상 다음과 같은 조치를 취해야 합니다.
- AI 소프트웨어를 교육하는 데 사용되는 데이터가 사용될 모집단을 대표하고 소프트웨어에 내장된 가치 또는 신념이 목적에 맞는지 확인합니다.
- AI 소프트웨어의 편견을 줄이는 데 도움이 되는 DIF(다양성, 포함 및 공정성) 조치를 구현합니다. 특정인이나 집단을 차별하지 않는 방식으로 말이다.
동안, AI 사용자는 기본 규칙으로 있어야 합니다.:
- AI 소프트웨어를 기반으로 의사 결정을 내리거나 그 결과로 작업, 상품, 제품 및 서비스를 만들 때 주의하십시오.
- 항상 그들은 AI의 사용에 대한 결정을 내리기 전에 AI의 편견과 편견, 제공된 데이터의 오류와 부정확성에 대한 가능성을 고려해야 합니다.
개요
요약하면, 조직과 개인은 다음에 대해 스스로 정보를 얻기 위해 노력해야 합니다. AI 소프트웨어의 "편향과 편향" 가능성과 이를 방지하는 방법. 그리고 개발자는 이를 피하기 위해 할 수 있는 모든 일을 합니다. AI 소프트웨어는 책임감 있고 공정하게 사용됩니다..
또한 기억하십시오. 우리의 시작 부분을 방문하십시오. «사이트», 공식 채널 외에도 텔레그램 더 많은 뉴스, 자습서 및 Linux 업데이트를 보려면 서쪽 그룹, 오늘의 주제에 대한 자세한 내용은