총정리4부 조심할 것DAY 36–45

4부 총정리

내 정보 지키기부터 AI의 법까지 · 설명 한 겹 더 · DAY 36-45

4부 열 날을 다시 훑는 칸이야. 1부에서 3부까지가 'AI가 뭘 할 수 있나' 였다면, 4부는 그게 잘못될 때 어떤 모양으로 잘못되는가였어.

초급보다 한 겹 더 들어가서 왜 그렇게 되는지까지 짚어. 퀴즈도 실험도 없으니 읽고 넘어가면 돼 — 더 파고들고 싶으면 고급으로, 가볍게 훑고 싶으면 초급으로 가도 좋아.

DAY 36 · 내 정보 지키기

넣는 순간 내 손을 떠난다

AI에 넣은 말은 넣는 순간 내 손을 떠난다고 생각하는 게 안전해. 이름·주소·전화번호처럼 나를 콕 집어낼 것만 빼면 답은 똑같이 나와. 친구 얼굴이나 친구 번호는 내가 올릴지 정할 수 있는 게 아니야.

'중3 남학생' 하나로는 수십만 명이야. 학교와 반이 붙으면 서른 명이 되고, 학원 시간까지 붙으면 한 명이 돼. 개인정보보호법도 다른 정보와 쉽게 합쳐 알아볼 수 있으면 개인정보로 봐.

DAY 37 · 저작권

'베꼈다'는 말에 칸이 하나 늘었다

예전에는 '베꼈다'를 결과물이 얼마나 닮았는지로만 따졌어. 이제는 만들기 전에 무엇으로 배웠나까지 쟁점이 돼. 나라마다 답이 다르고 재판도 진행 중이라, 외울 게 아니라 쟁점을 알아 둬야 해.

왼쪽 기준이 사라진 건 아니야 — 닮은 결과물은 지금도 그대로 문제야. 오른쪽에 배움에 쓴 자료라는 칸이 새로 생긴 거야. 그래서 결과물이 안 닮았는데도 다투는 일이 생겼어.

DAY 38 · 딥페이크

눈으로는 못 가린다 — 출처로 가린다

눈으로 봐서는 못 가려 — 손가락 개수를 세라던 옛 요령은 거의 안 통해. 화면 속을 뜯어보는 대신 어디서 왔는지를 따라가. 원래 있어야 할 곳에 있나, 다른 사람이 찍은 것도 있나를 보면 돼.

안 통하는 쪽은 다 화면 안을 보는 방법이야 — 손가락, 눈 깜빡임, 화질. 지금 쓰는 쪽은 다 화면 밖을 보는 방법이야 — 출처, 다른 각도, 급한 요구. 화면 안은 갈수록 완벽해지니까, 눈을 화면 밖으로 옮기는 게 맞아.

DAY 39 · AI의 편견

미워하는 게 아니라 기울어 있는 것

AI는 마음먹고 누구를 미워하는 게 아니야. 배운 자료가 한쪽으로 치우쳐 있으면 답도 그쪽으로 기울 뿐이야. 그러니 사람을 나누거나 고르는 질문엔 '다른 경우는?'을 한 번 더 붙여.

얼굴 사진으로 남녀를 맞히는 프로그램들을 피부색과 성별로 나눠 검사했어. 틀리는 비율이 가장 높았던 건 피부색이 어두운 여성 얼굴이었어. 가장 낮았던 건 피부색이 밝은 남성 얼굴이었어.

DAY 40 · AI가 만들었다고 밝히기

밝히는 한 줄은 내 몫을 지키는 울타리

AI를 썼다고 밝히는 건 자수가 아니라 이름표야. 안 밝히면 내가 잘한 부분까지 같이 의심받거든. 과제를 조각으로 쪼개고, 조각마다 누가 했는지 한 줄만 적으면 끝이야.

과제를 주제 정하기·자료 찾기·초안 쓰기·다듬기·사실 확인으로 쪼개. 조각마다 내가 했는지 AI가 했는지 표시해. '어느 조각을, 어떻게 썼고, 내가 뭘 고쳤는지' 이 세 가지면 한 줄이 완성돼.

DAY 41 · 숙제와 AI, 어디까지

끝났을 때 내 머리에 뭐가 남았나

기준은 긴 규칙집이 아니라 한 문장이야 — 끝났을 때 내 머리에 뭔가 남았나. 통째로 시키면 결과물만 남고 나는 그 내용을 설명하지 못해. 막힌 데만 물어보고 내가 다시 쓰면 결과물도 남고 실력도 남아.

숙제를 받으면 먼저 '뭘 배우라는 걸까'를 생각해. 그다음 5분이라도 내 머리로 해 봐. 막히면 답 말고 실마리로 묻고, 마지막은 내 말로 다시 써.

DAY 42 · 가짜뉴스

가려내는 건 눈썰미가 아니라 순서

가짜뉴스를 가려내는 건 눈썰미가 아니라 순서야. 누가 처음 말했나, 언제 일인가, 다른 곳에도 있나 — 이 셋만 차례로 봐. 셋 중 하나라도 비어 있으면 거기서 멈추면 돼. 멈추는 것도 판단이야.

첫 칸은 출처 — 처음 말한 곳까지 거슬러 올라가. 둘째 칸은 날짜 — 옛 일이 지금 일처럼 돌아다닐 때가 많아. 제일 힘이 센 건 셋째 칸 — 다른 곳이 따로 취재해 같은 말을 하나.

DAY 43 · AI를 쓴 사기

끊고, 내가 아는 번호로 내가 다시 건다

AI를 쓴 사기는 늘 같은 순서야 — 흉내 내고, 아는 척하고, 급하게 몰아치고, 요구해. 막는 법은 싱거울 만큼 간단해 — 일단 끊고, 내가 아는 번호로 내가 다시 걸기. 진짜 가족이면 다시 걸어도 아무 일 안 생겨.

사기는 아는 목소리, '지금 당장'이라는 급함, 혼자 결정하게 만들기를 노려. 셋을 하나씩 뒤집으면 돼 — 끊고 다시 걸기, 한 박자 쉬기, 옆의 어른에게 말하기. 진짜인지 귀로 가려내려 하지 마 — 연락하는 방향을 내가 바꾸는 게 쉬워.

DAY 44 · 의존하지 않기

맡기는 비율을 내가 정하고 있나

쓰지 말라는 얘기가 아니야 — 맡기는 비율을 내가 정하고 있느냐가 전부야. 0도 100도 아니고, 남는 게 제일 많은 자리는 가운데야. 먼저 5분은 내 머리로 해 보고, 그다음에 맡기면 돼.

글쓰기로 실험한 연구팀이 AI에 많이 맡긴 쪽을 살펴봤어. 그쪽은 자기가 방금 쓴 문장을 잘 기억하지 못했다고 보고했어 — 글은 멀쩡했는데. 아직 검토 중인 예비 연구니까 결론처럼 외우진 말고.

DAY 45 · AI에도 법이 있다

위험한 정도에 따라 칸을 나눈다

AI에도 법이 있어. 그런데 모든 AI를 똑같이 다루지는 않아. 쓰임이 위험한 정도에 따라 칸을 나눠 규칙을 다르게 걸어. 우리나라 AI 기본법도 2026년 1월에 시행됐어.

아예 금지 · 고위험 · 알림 필요 · 최소, 이렇게 네 칸이야. 금지 칸은 쓰는 것 자체가 막히고, 고위험 칸은 검사를 통과하고 사람이 감독해야 해. 알림 필요 칸은 AI라고 밝히기, 최소 칸은 특별한 규칙이 없어.

4부를 한 줄로

4부를 한 줄로 줄이면 이거야 — 조심할 것은 겁낼 목록이 아니라 확인하는 순서다. 넣기 전에 한 번, 믿기 전에 한 번, 맡기기 전에 한 번.

5부에서는 반대쪽으로 들어가. 지금까지는 밖에서 본 이야기였고, 다음은 AI 안에서 무슨 일이 벌어지는지야.

더 알아보기

개인정보 포털 (개인정보보호위원회) — 내 정보가 어디에 쓰였는지 확인해 보는 곳privacy.go.kr
Gemini Apps Privacy Hub (Google) — 넣은 대화가 어떻게 쓰이고 어떻게 끄는지 적힌 공식 안내support.google.com/gemini/answer/13594961
SynthID-Text, Nature (2024) — 눈에 안 보이는 표식을 글에 심는 방법nature.com/articles/s41586-024-08025-4
C2PA Content Credentials 규격 — 사진·영상에 '어디서 어떻게 만들어졌나'를 붙이는 공개 규격c2pa.org/specifications
Gender Shades (2018) — 얼굴 맞히기 프로그램을 피부색과 성별로 나눠 검사한 연구proceedings.mlr.press/v81/buolamwini18a.html
NIST IR 8280 (2019) — 얼굴 인식의 집단별 차이를 대규모로 측정한 공식 보고서nvlpubs.nist.gov/nistpubs/ir/2019/NIST.IR.8280.pdf
유네스코 교육·연구 분야 생성형 AI 지침 (2023) — 학교에서 AI를 어떻게 쓸지 정리한 공식 안내서unesco.org/en/articles/guidance-generative-ai-educa…
네 가지 확인 동작 (2019) — 확인하는 네 가지 동작을 처음 제안한 글hapgood.us/2019/06/19/sift-the-four-moves
미국 연방수사국 인터넷범죄신고센터 공지 (2024) — AI로 만든 목소리·사진·영상이 사기에 쓰인다는 공식 경고ic3.gov/PSA/2024/PSA241203
Your Brain on ChatGPT (2025, 예비 연구) — AI를 쓰며 글을 쓴 사람들의 기억을 살펴본 연구arxiv.org/abs/2506.08872
유럽위원회 · AI 규제 얼개 안내 — 위험 등급을 어떻게 나눴는지 한 장에 정리된 설명digital-strategy.ec.europa.eu/en/policies/regulator…