편향, bias · AI 편향 · AI 편견

AI는 일부러 누군가를 차별하려는 마음이 없어요. 하지만 배운 자료가 특정 성별이나 피부색, 지역 쪽으로 치우쳐 있으면 답도 그쪽으로 기울어요. 이렇게 AI의 판단이 어느 한쪽으로 쏠리는 걸 편향이라고 해요.

2018년 '젠더 셰이즈' 연구에서는 얼굴 사진으로 성별을 맞히는 상용 프로그램들이 피부색이 어두운 여성에게서 가장 많이 틀렸어요. 채용이나 대출처럼 사람을 고르는 일에 AI를 쓰면 이런 치우침이 실제 피해로 이어질 수 있어요. 그래서 자료를 고르게 모으고, 집단별로 결과를 따로 재 보는 방법을 써요.