AI 안면인식 기술은 유색인종에게 오류가 더 많이 난다고 하는데 이유가 뭔가요?

Question

미국이나 중국 등 AI 기술로 사람 얼굴을 인식한 뒤 실제 사람과 대조하여 찾아내는 기술이 있다고 합니다. 그런데 AI 안면인식 기술은 백인 보다는 유색인종에게 오류가 더 많이 난다고 하는데 이유가 뭔가요?

Answer 1

아무래도 피부색이 가장 큰 원인인 거 같습니다

색깔이 하얀 백인의 경우 이목구미의 형태라던지 명확하게 볼 수 있는데 유색인종의 경우 이목구비가 비슷한 경우가 더 많거든요

Answer 2

주요 원인은 AI의 학습 방법에 있습니다.

데이터 가 편향되어 있습니다.

AI는 수많은 사진과 데이터를 학습해서 안면인식 능력을 키우죠.

만약 학습 데이터가 편향되어 인종의유색인종의 얼굴 사진이 충분히 포함되지 않는다면 해당 인종에 대한 인식률이 떨어질 수 밖에 없습니다.

AI가 백인 얼굴을 주로 학습했다면 유색인종의 얼굴을 정확히 판별하기 어려워지는 거죠.

피부색이 어둡거나 특정 인종의 얼굴 특징이 데이터에 충분히 반영되지 않으면 AI는 이러한 차이를 제대로 인식하지 못해 오작동하게 됩니다.

이러한 오류는 단순한 실수를 넘어 사회적 불평등과 인종차별의 도구가 될 수 있다는 우려를 낳고 있습니다.

잘못된 인식이 누명을 씌우거나 심각한 문제를 초래할 수 있기 때문에 이 문제 해결을 위한 다양하고 포괄적인 학습 데이터 구축 노력이 매우 중요합니다.