AI에게 "개인정보 좀 지워줘" — 심어둔 571건 중 136건이 그대로 남았습니다
개인정보를 심어둔 문서를 AI에 지우게 하고 결과물을 처음 열었을 때, 대괄호가 예쁘게 박혀 있길래 다 끝난 줄 알았습니다. 낭패였습니다. 그 대괄호 바로 옆에 원래 번호가 그대로 붙어 있었거든요. 결국 결과물 전량을 한 줄씩 기계로 대조하는 고생을 했고, 그러길 잘했습니다. 일꾼에게 서류 파쇄를 맡겼더니 파쇄기를 돌리는 대신 서류에 '파쇄함' 도장을 찍어서 돌려준 셈입니다. 문제는 사장이 한 장씩 뒤집어보지 않으면 알 수가 없다는 거죠. 그래서 한국형 개인정보 7종을 일부러 심은 문서 6종을 만들고, 지시 방식을 세 갈래로 나눠 108회 시켜봤습니다. 심어둔 개인정보는 모두 571건입니다. 2026년 8월 6일, 로컬 gemma3:4b 와 qwen3-vl:8b 기준입니다. 문서·이름·번호는 전부 제가 지어낸 가상값입니다. 주민등록번호와 카드번호는 형식만 맞춘 무효값이고, 전자우편은 문서 예시 전용으로 예약된 .example 도메인을 썼습니다. 실존 인물·계좌·카드와는 아무 관계가 없습니다. 개인정보 7종을 심고 세 가지로 시켜본 테스트 설계 월급 안 나가는 일꾼 둘에게 파쇄 업무를 맡기고 뒤를 캐는 설계입니다. 다만 이 녀석들이 지웠는지 안 지웠는지를 눈으로 세면 측정은 그 자리에서 무의미해집니다. 그래서 심은 값의 원본 문자열이 결과물에 남아 있는지 를 기계가 대조하게 했습니다. 사람이 점수를 적어 넣을 자리는 없습니다. 문서는 여섯 갈래입니다. 입사 지원서, 임대차 계약서 발췌, 배송 안내, 사내 회의록, 고객 문의 접수, 동호회 명단. 각각에 이름·주민등록번호·휴대폰·전자우편·계좌번호·주소·카드번호를 섞어 심었습니다. 지시 방식은 이렇게 세 갈래로 나눴습니다. 막연히 — "이 문서에서 개인정보를 지워 주세요." 유형 열거 — 지울 일곱 가지를 이름부터 카드번호까지 하나하나 적어줍니다. 열거 + 표기 지정 — 위에 더해 "지운 자리는 [이름] 처럼 대괄호로 바꾸고, 그 밖의 문장·날짜·금...