주요 원인은 AI의 학습 방법에 있습니다.
데이터 가 편향되어 있습니다.
AI는 수많은 사진과 데이터를 학습해서 안면인식 능력을 키우죠.
만약 학습 데이터가 편향되어 인종의유색인종의 얼굴 사진이 충분히 포함되지 않는다면 해당 인종에 대한 인식률이 떨어질 수 밖에 없습니다.
AI가 백인 얼굴을 주로 학습했다면 유색인종의 얼굴을 정확히 판별하기 어려워지는 거죠.
피부색이 어둡거나 특정 인종의 얼굴 특징이 데이터에 충분히 반영되지 않으면 AI는 이러한 차이를 제대로 인식하지 못해 오작동하게 됩니다.
이러한 오류는 단순한 실수를 넘어 사회적 불평등과 인종차별의 도구가 될 수 있다는 우려를 낳고 있습니다.
잘못된 인식이 누명을 씌우거나 심각한 문제를 초래할 수 있기 때문에 이 문제 해결을 위한 다양하고 포괄적인 학습 데이터 구축 노력이 매우 중요합니다.