이 답에 누가 빠져 있진 않을까 — AI의 편견
AI는 미워하지 않아. 다만 많이 본 쪽으로 기울 뿐이야. 사람을 고르는 질문이 나오면 '다른 경우는?' 하고 한 번 더 물어.
1 · 먼저 생각해 보기
AI는 마음먹고 누구를 미워하는 게 아니야. 배운 자료가 한쪽으로 치우쳐 있으면 답도 그쪽으로 치우치는 것뿐이야.
2018년에 얼굴 사진을 맞히는 프로그램들을 검사한 연구가 있었어. 피부색이 어두운 여성 얼굴에서 틀리는 비율이 가장 높았고, 피부색이 밝은 남성 얼굴에서 가장 낮았어.
그러니까 겁낼 게 아니라 습관을 하나 만들면 돼. 사람을 나누거나 고르는 질문에는 '다른 경우는?' 하고 한 번 더 묻기.
2 · 실험 · 골라보기
직접 해보기 — 이 답에 편견이 섞였을까
상황을 하나씩 읽고 둘 중 하나를 골라 봐. 어떤 질문이 잘 치우치고 어떤 질문이 덜 치우치는지 감이 잡힐 거야.
정답이 한쪽에만 몰려 있지 않아. 질문이 무엇을 묻고 있는지를 봐.
그림
치우침이 흘러가는 길
편견은 어느 한 곳에서 갑자기 생기지 않고 앞에서부터 흘러와.
3 · 퀴즈
확인해보기
세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.
오늘의 한 줄
오늘의 한 줄
AI는 미워하지 않아. 다만 많이 본 쪽으로 기울 뿐이야.
사람을 고르는 질문이 나오면 '다른 경우는?' 하고 한 번 더 물어.
더 알아보기
- 얼굴 맞히기 프로그램을 피부색과 성별로 나눠 검사한 2018년 연구야 — Gender Shades (2018)
- 미국 표준기관이 얼굴 인식의 집단별 차이를 대규모로 측정한 공식 보고서 — NIST IR 8280 (2019)
- 단어를 숫자로 바꾼 자료에 성별 편견이 남아 있다는 걸 보인 논문 — Man is to Computer Programmer as Woman is to Homemaker? (2016)