4부 조심할 것

이건 AI에 넣어도 될까

오늘부터는 이야기가 좀 달라져. 지금까지가 '뭘 할 수 있나' 였다면 여기서부터는 '조심할 것' 이고, 첫 답은 이거야 — 한번 넣은 말은 내 손을 떠난다고 생각하고 넣어.

이름·주소·전화번호·비밀번호처럼 나를 콕 집어낼 수 있는 것은 빼고 물어봐. 물어볼 내용만 남겨도 답은 똑같이 나오거든.

내 것이 아닌 정보는 더 조심해. 친구 얼굴이나 친구 연락처를 어디에 올릴지는, 내가 정할 수 있는 게 아니야.

직접 해보기 — 이건 AI에 넣어도 될까

여섯 가지 상황이야. 넣기 전에 딱 한 번만 생각해 봐 — 이게 남의 손에 남아도 괜찮을까?

조각은 합쳐질 때 나를 가리킨다

하나씩은 아무것도 아닌 말인데, 몇 개만 붙으면 한 명으로 좁혀져.

우리나라 개인정보보호법도 다른 정보와 쉽게 합쳐서 누구인지 알아볼 수 있으면 개인정보로 봐.

1. Q1AI에 넣으면 안 되는 것으로 가장 확실한 건?

   1. ① 수학 문제 사진
   2. ② 읽은 책 제목
   3. ③ 좋아하는 색깔
   4. ④ 비밀번호

2. Q2작은 정보 조각이 위험해지는 때는?

   1. ① 여러 조각이 합쳐질 때
   2. ② 글자 수가 많을 때
   3. ③ 밤에 물어볼 때
   4. ④ 영어로 물어볼 때

3. Q3친구 얼굴 사진을 올리는 건?

   1. ① 내 정보라 괜찮다
   2. ② 친구 정보라 안 된다
   3. ③ 사진은 상관없다
   4. ④ 배경만 지우면 된다

한번 넣은 말은 내 손을 떠나고, 조각은 합쳐질 때 나를 가리켜.

'베꼈다'는 말의 뜻이 왜 흔들렸을까

AI 이전에는 '베꼈다' 를 결과물이 얼마나 닮았나로 따졌어. 두 개를 나란히 놓고 보면 됐거든.

AI 이후에는 질문이 하나 더 붙었어 — 만들기 전에 남의 작품으로 배운 것은 괜찮은가. 결과물이 안 닮았는데도 다투는 일이 생긴 거야.

이건 아직 나라마다 답이 다르고 큰 재판도 진행 중이야. 그러니 '이건 불법' 이라고 외우지 말고, 무엇이 쟁점인지를 알아 두는 게 맞아.

직접 해보기 — AI 앞뒤로 무엇이 달라졌나

같은 질문을 'AI 이전' 과 'AI 이후' 로 번갈아 눌러 봐. 규칙이 사라진 게 아니라 따질 게 하나 늘어난 거야.

결과물만 보던 시절 vs 배운 것까지 보는 지금

규칙이 없어진 게 아니라, 따질 칸이 하나 늘었어.

한국 정부 안내서도 판례가 쌓이기 전까지는 판단이 불명확하다고 적어 뒀어. 모르는 게 정상인 상태야.

1. Q1AI 이전에 '베꼈다' 를 판단한 기준은?

   1. ① 결과물이 얼마나 닮았나
   2. ② 누가 더 유명한가
   3. ③ 누가 먼저 올렸나
   4. ④ 값이 얼마나 비싼가

2. Q2AI 이후에 새로 붙은 질문은?

   1. ① 그림을 몇 장 그렸나
   2. ② 만들기 전에 무엇으로 배웠나
   3. ③ 색을 몇 개 썼나
   4. ④ 몇 초 만에 만들었나

3. Q3학습 데이터 다툼은 지금 어떤 상태일까?

   1. ① 전부 불법으로 정해짐
   2. ② 전부 합법으로 정해짐
   3. ③ 나라마다 다르고 진행 중
   4. ④ 아무도 다투지 않음

예전엔 결과물만 봤지만, 이제는 무엇으로 배웠는지까지 따져.

이 영상, 진짜일까 — 딥페이크

솔직히 말하면 눈으로 봐서는 못 가려. 손가락 개수를 세라던 옛날 요령은 이제 거의 안 통해.

그래서 보는 곳을 바꿔야 해. 화면 속을 뜯어보는 대신 어디서 왔는지를 따라가 — 원래 있어야 할 곳에 있나, 다른 사람이 찍은 것도 있나.

만드는 쪽에도 표시를 붙이는 흐름이 생겼어. 눈에 안 보이는 표식을 심거나, AI로 만들었으면 밝히게 하는 규칙을 유럽은 법에 넣었고, 다른 나라들도 만드는 중이야.

직접 해보기 — 이건 믿어도 될까, 의심해야 할까

여섯 가지 상황이야. 잘 만들어졌는지 보지 말고, 딸려 있는 단서를 읽어 봐.

이제 안 통하는 단서 vs 지금 쓰는 단서

몇 년 전에 배운 요령을 그대로 쓰면 오히려 속아.

눈에 안 보이는 표식을 심는 기술도 쓰이고, 유럽은 AI로 만든 것에 표시를 붙이고 딥페이크는 밝히게 하는 규칙을 두었어.

1. Q1요즘 딥페이크를 가려낼 때 더 믿을 만한 방법은?

   1. ① 손가락 개수 세기
   2. ② 화질이 좋은지 보기
   3. ③ 어디서 왔는지 거슬러 올라가기
   4. ④ 길이가 짧은지 보기

2. Q2친구 목소리로 급하게 돈을 보내 달라고 하면?

   1. ① 목소리가 맞으니 보낸다
   2. ② 단톡에 먼저 올린다
   3. ③ 조금만 보낸다
   4. ④ 다른 방법으로 본인 확인부터

3. Q3AI로 만들었다고 밝힌 비디오는?

   1. ① 밝혔으면 속임이 아니다
   2. ② 무조건 딥페이크다
   3. ③ 전부 불법이다
   4. ④ 볼 수 없다

화면을 아무리 노려봐도 안 보여, 어디서 왔는지를 따라가.

이 답에 누가 빠져 있진 않을까

AI는 마음먹고 누구를 미워하는 게 아니야. 배운 자료가 한쪽으로 치우쳐 있으면 답도 그쪽으로 치우치는 것뿐이야.

2018년에 얼굴 사진을 맞히는 프로그램들을 검사한 연구가 있었어. 피부색이 어두운 여성 얼굴에서 틀리는 비율이 가장 높았고, 피부색이 밝은 남성 얼굴에서 가장 낮았어.

그러니까 겁낼 게 아니라 습관을 하나 만들면 돼. 사람을 나누거나 고르는 질문에는 '다른 경우는?' 하고 한 번 더 묻기.

직접 해보기 — 이 답에 편견이 섞였을까

상황을 하나씩 읽고 둘 중 하나를 골라 봐. 어떤 질문이 잘 치우치고 어떤 질문이 덜 치우치는지 감이 잡힐 거야.

치우침이 흘러가는 길

편견은 어느 한 곳에서 갑자기 생기지 않고 앞에서부터 흘러와.

AI를 고치는 건 어렵지만, 맨 끝 칸에서 한 번 되묻는 건 오늘 당장 할 수 있어.

1. Q1AI에 편견이 생기는 가장 큰 이유는?

   1. ① AI가 사람을 싫어해서
   2. ② 인터넷이 느려서
   3. ③ 계산을 잘 못해서
   4. ④ 배운 자료가 한쪽으로 치우쳐서

2. Q22018년 얼굴 사진 검사 연구에서 드러난 건?

   1. ① 피부색이 어두운 여성 얼굴에서 가장 많이 틀렸다
   2. ② 모든 얼굴에서 똑같이 틀렸다
   3. ③ 사진이 흐릴 때만 틀렸다
   4. ④ 사람보다 늘 정확했다

3. Q3다음 중 편견이 섞이기 쉬운 질문은?

   1. ① 3 곱하기 7은?
   2. ② 누가 반장에 어울려?
   3. ③ 물의 끓는점은?
   4. ④ 와이파이 바꾸는 법은?

AI는 미워하지 않아. 다만 많이 본 쪽으로 기울 뿐이야. 사람을 고르는 질문이 나오면 '다른 경우는?' 하고 한 번 더 물어.

어디까지 내가 했고 어디부터 AI가 했지

AI를 썼다고 밝히는 건 자수가 아니야. 어디까지가 내 솜씨인지 알려 주는 표시야 — 안 밝히면 잘한 부분까지 같이 의심받거든.

밝히는 방법은 생각보다 쉬워. 과제를 주제 정하기·자료 찾기·초안 쓰기·다듬기·사실 확인 다섯 조각으로 쪼개고, 조각마다 누가 했는지 한 줄로 적으면 끝이야.

그림이나 비디오에는 눈에 안 보이는 표시를 넣기도 해. 구글은 자기 모델이 만든 결과물에 보이지 않는 워터마크를 넣고, 유럽연합은 AI가 만든 것에 기계가 읽을 수 있는 표시를 붙이게 하는 규칙을 법에 넣었어(언제부터 적용할지는 조정 중이야).

직접 해보기 — 과제를 조각으로 쪼개고 이름표 붙이기

같은 독서감상문 과제를 세 가지 방식으로 했을 때를 비교해 봐. 주황은 AI가 한 조각, 초록은 내가 한 조각, 흐린 건 아무도 안 한 조각이야.

안 밝히면 / 밝히면

같은 과제인데 한 줄을 적었느냐 아니냐로 이렇게 달라져.

'어느 조각을, 어떻게 썼고, 내가 뭘 고쳤는지' 이 세 가지만 적으면 한 줄이 완성돼.

1. Q1AI를 썼다고 밝히는 가장 큰 이유는?

   1. ① 내가 한 부분을 또렷하게 지키려고
   2. ② 벌을 덜 받으려고
   3. ③ AI가 요구해서
   4. ④ 글자 수를 채우려고

2. Q2'밝히기'를 쉽게 하는 방법으로 오늘 배운 건?

   1. ① 맨 앞에 'AI 씀'이라고만 적기
   2. ② 과제를 조각으로 쪼개 조각마다 적기
   3. ③ 글자 색을 바꾸기
   4. ④ 분량을 줄이기

3. Q3그림에 넣는 보이지 않는 표시를 뭐라고 해?

   1. ① 즐겨찾기
   2. ② 비밀번호
   3. ③ 워터마크
   4. ④ 캡처

밝히는 건 자수가 아니라 이름표야. 어느 조각을 도움받았는지 한 줄이면 충분해.

통째로 시키면 뭐가 남을까

기준은 긴 규칙집이 아니라 한 문장이야. 다 끝났을 때 내 머리에 뭔가 남았는가.

통째로 시키면 결과물만 남고 나는 그 내용을 설명하지 못해. 그래서 발표 자리나 시험지 앞에서 바로 티가 나.

반대로 막힌 데만 물어보고 내가 다시 쓰면 결과물도 남고 실력도 남아. 같은 도구인데 어느 자리에서 쓰느냐가 다른 거야.

직접 해보기 — 통째로 시키기 vs 같이 하기

같은 숙제를 두 가지 방식으로 했다고 생각해 봐. 왼쪽 오른쪽을 번갈아 누르면서 '끝나고 뭐가 남았나'를 비교해 보는 실험이야.

숙제 앞에서 밟는 네 걸음

순서만 지켜도 '통째로 시키기'에 빠지지 않아.

네 번째 칸을 못 넘으면 아직 내 숙제가 아니야 — 그럴 땐 앞으로 한 칸 돌아가면 돼.

1. Q1숙제에 AI를 써도 되는지 가르는 기준은?

   1. ① 걸리지 않느냐
   2. ② 끝났을 때 내게 뭔가 남았느냐
   3. ③ 시간이 얼마나 줄었느냐
   4. ④ 글자 수가 채워졌느냐

2. Q2수학 숙제를 통째로 맡겼을 때 가장 큰 문제는?

   1. ① 숙제 칸이 안 채워진다
   2. ② 글씨가 예뻐진다
   3. ③ 같은 유형이 또 나오면 다시 막힌다
   4. ④ 시간이 더 걸린다

3. Q3막혔을 때 더 나은 질문은?

   1. ① 답만 알려 줘
   2. ② 제출해 줘
   3. ③ 전부 다시 써 줘
   4. ④ 어디서 막혔는지 짚어 줘

AI한테 맡길 건 막힌 자리지 숙제 전체가 아니야. 끝나고 내 말로 설명되면, 그건 네가 한 거야.

이 소식, 믿어도 될까

가짜뉴스를 가려내는 건 눈썰미가 아니라 순서야. 세 가지만 차례로 보면 대부분 걸러져.

누가 처음 말했나(출처), 언제 일인가(날짜), 다른 곳에도 있나(교차 확인) — 이 셋 중 하나라도 비어 있으면 일단 멈춰.

AI가 글도 사진도 순식간에 만들 수 있게 되면서 '그럴듯해 보인다'는 더 이상 근거가 못 돼. 눈으로 믿지 말고 단서로 믿어야 해.

직접 해보기 — 이 소식, 믿어도 될까

단톡방이나 피드에서 실제로 마주칠 법한 상황이야. 출처·날짜·교차 확인 세 단서를 떠올리면서 골라 봐.

믿기 전에 밟는 세 칸

퍼뜨리기 전에 이 세 칸만 지나가면 돼. 다 해도 1분 안 걸려.

제일 힘이 센 건 세 번째 칸 — 다른 곳이 따로 취재해 같은 말을 하는지 보는 거야.

1. Q1소식을 믿기 전에 확인하는 세 단서는?

   1. ① 길이·글씨체·사진 수
   2. ② 제목·이모티콘·말투
   3. ③ 조회수·댓글·좋아요
   4. ④ 출처·날짜·교차 확인

2. Q2AI 때문에 더 이상 근거로 쓸 수 없게 된 건?

   1. ① 그럴듯해 보인다
   2. ② 원문 링크가 있다
   3. ③ 날짜가 적혀 있다
   4. ④ 여러 곳에 실렸다

3. Q3다음 중 가장 믿을 만한 건?

   1. ① 출처 없는 단톡방 글
   2. ② 원문 링크가 붙은 공지
   3. ③ 이름 없는 전문가 말
   4. ④ 3년 전 사진

그럴듯한 건 이제 증거가 아니야. 출처·날짜·다른 곳, 셋만 보고 판단해.

가족 목소리로 전화가 오면

AI를 쓴 사기는 늘 같은 순서를 밟아. 목소리나 얼굴을 흉내 내고 → 아는 사람인 척하고 → 급하게 몰아친 다음 → 돈이나 정보를 요구해.

미국 수사기관도 AI로 만든 목소리와 사진, 비디오가 사기에 쓰이고 있다는 공식 경고를 냈어. 짧은 음성만 있어도 비슷하게 흉내 낼 수 있거든.

막는 방법은 싱거울 만큼 간단해. 일단 끊고, 내가 원래 알던 번호로 내가 다시 걸어. 진짜 가족이면 다시 걸어도 아무 일 안 생겨.

직접 해보기 — 사기의 순서, 그리고 그걸 끊는 순서

섞여 있는 조각을 순서대로 눌러 봐. 사기가 어떤 길로 오는지 알면, 어디서 끊어야 하는지도 보여.

사기가 노리는 것 / 그걸 깨는 것

사기는 세 가지를 노려. 그 셋을 하나씩 뒤집으면 돼.

급할수록 한 박자 쉬는 게 제일 빠른 길이야 — 진짜 급한 일은 5분 뒤에도 급하거든.

1. Q1AI를 쓴 사기 전화를 막는 가장 확실한 방법은?

   1. ① 끊고 내가 아는 번호로 다시 건다
   2. ② 목소리를 귀로 가려낸다
   3. ③ 더 오래 통화한다
   4. ④ 상대에게 이름을 묻는다

2. Q2사기가 '급하다'고 몰아치는 이유는?

   1. ① 정말 시간이 없어서
   2. ② 확인할 틈을 안 주려고
   3. ③ 전화 요금을 아끼려고
   4. ④ 예의를 차리려고

3. Q3낯선 계정으로 친구가 급한 부탁을 하면?

   1. ① 바로 보내 준다
   2. ② 그 계정에 되묻는다
   3. ③ 원래 연락처로 확인
   4. ④ 링크를 눌러 본다

목소리는 흉내 낼 수 있어도, 내가 먼저 거는 전화는 흉내 못 내.

얼마나 맡기면 될까 — 의존하지 않기

쓰지 말라는 얘기가 아니야. 맡기는 비율을 내가 정하고 있느냐, 그게 전부야.

2025년에 글쓰기로 실험한 연구팀은 AI에 많이 맡긴 쪽이 자기가 방금 쓴 문장을 잘 기억하지 못했다고 보고했어. 글은 멀쩡했는데 말이야 — 아직 검토 중인 예비 연구니까 결론처럼 외우진 말고.

그래서 비율보다 순서가 중요해. 먼저 5분은 내 머리로 해 보고 그다음에 맡기면, 같은 도구를 써도 남는 게 달라져.

직접 해보기 — 맡기는 비율을 올려 보면

손잡이를 0에서 100까지 올리면서 세 가지가 어떻게 움직이는지 봐. 막대 숫자는 정확한 측정값이 아니라 경향을 보여주려고 그린 거야.

맡기는 비율과 남는 것

0도 100도 아니고, 남는 게 제일 많은 자리는 가운데야.

가운데 막대가 제일 긴 이유는 딱 하나 — 그 방식만 결과물과 실력을 같이 남기거든.

1. Q1오늘 배운 '의존하지 않기'의 뜻은?

   1. ① AI를 아예 쓰지 않기
   2. ② 맡기는 비율을 내가 정하기
   3. ③ 하루에 한 번만 쓰기
   4. ④ 어려운 것만 맡기기

2. Q22025년 글쓰기 실험에서 AI에 많이 맡긴 쪽은?

   1. ① 글을 더 못 썼다
   2. ② 시간이 더 걸렸다
   3. ③ 자기가 쓴 문장을 잘 기억하지 못했다
   4. ④ 맞춤법이 틀렸다

3. Q3같은 도구로 남는 걸 늘리는 방법은?

   1. ① 여러 번 다시 묻기
   2. ② 처음부터 맡기기
   3. ③ 끝까지 혼자 하기
   4. ④ 먼저 5분 해 보고 맡기기

다 맡기지도, 아예 안 쓰지도 않아. 먼저 5분은 내 머리로 — 순서만 바꿔도 남는 게 달라져.

AI라고 다 같은 규칙을 지킬까?

AI에도 법이 있어. 그런데 모든 AI를 똑같이 다루지 않고, 위험한 정도에 따라 칸을 나눠 규칙을 다르게 걸어.

유럽연합이 만든 AI 법이 이 방식을 제일 또렷하게 보여줘. 쓰임을 아예 금지 · 고위험 · 알림 필요 · 최소 네 칸으로 갈라 놨거든.

우리나라도 AI 기본법이 2026년 1월에 시행됐어. AI가 만든 내용은 AI가 만들었다고 표시하라는 게 그중 눈에 띄는 규칙이야.

직접 해보기 — 같은 목록, 칸만 바꿔 보기

AI 쓰임 일곱 개를 늘어놓고, 위험 칸을 하나씩 눌러 봐. 그 칸에 들어가는 쓰임만 켜지고 나머지는 흐려져.

위험이 클수록 규칙이 세진다

같은 AI라도 어디에 쓰느냐에 따라 걸리는 규칙의 세기가 달라져.

유럽연합 AI 법이 쓰는 네 칸 얼개 — 우리나라 AI 기본법도 위험이 큰 쓰임을 따로 골라 무겁게 다룬다.

1. Q1AI 법이 규칙을 정하는 방식에 가장 가까운 건?

   1. ① 모든 AI에 똑같은 규칙을 건다
   2. ② 새 AI는 전부 금지한다
   3. ③ 위험한 정도에 따라 칸을 나눠 다르게 건다
   4. ④ 만든 사람이 알아서 정한다

2. Q2'고위험' 칸에 들어간 쓰임은 어떻게 될까?

   1. ① 아예 쓸 수 없다
   2. ② 아무 규칙도 없다
   3. ③ 이름만 바꾸면 된다
   4. ④ 검사를 통과하고 사람이 감독하며 쓴다

3. Q3AI가 만든 비디오에 붙는 규칙은?

   1. ① AI가 만들었다고 밝힌다
   2. ② 금지한다
   3. ③ 화질을 낮춘다
   4. ④ 길이를 줄인다

법은 AI를 통째로 막지도, 그냥 두지도 않아. 위험한 순서대로 칸을 나눠서 다르게 다뤄.