무료 로컬 AI로 블로그 글, 진짜 되나? — 내 PC에서 무료 모델 4개 직접 돌려본 실측 (2026.7)

챗GPT 5.6이니 클로드니, 유료 AI 소식이 쏟아지는 요즘이에요. 그런데 구독료 아끼려고 눈에 불을 켠 입장에선 정작 이게 더 궁금하거든요 — 한 푼도 안 내고 내 PC에서 도는 무료 AI로 블로그 글 초안이 될까? 그래서 cinevyze 테스트에서 로컬 무료 모델 4개에 똑같은 글쓰기 과제를 던져봤습니다. 결론부터 말하면 "초안은 되는데, 그냥 갖다 쓰면 티가 난다"였어요. 어디까지 공짜로 되고 어디서 사람 손이 필요한지, 실측 숫자로 보여드릴게요.

어떻게 테스트했나 (2026년 7월 기준)

공정하게 같은 조건으로 돌렸습니다.

• 모델(무료·오픈웨이트, ollama로 로컬 구동): gemma3:4b · qwen2.5vl:3b · qwen2.5vl:7b · qwen3-vl:8b
• 하드웨어: RTX 4070 Ti SUPER(16GB) 한 대. 인터넷·구독·계정 전부 무관하게 PC 안에서만.
• 과제(4개 모델 동일·각 1회): "'AI 이미지 생성 툴 미드저니'를 처음 쓰는 초보자에게 소개하는 블로그 글 도입부를 써줘. 조건: 한국어 존댓말, 300자 내외, 과장·낚시 표현 없이, 마지막에 독자에게 질문 하나로 마무리."
• 잰 것: 응답 속도(초)·생성 속도(초당 토큰)·출력 글자수·그리고 지시 이행(한국어·길이·존댓말·과장 자제·질문 마무리를 지켰는지).

블로그 도입부는 "AI로 글쓰기"의 가장 기본 잔심부름이라 무료 로컬 모델의 실력을 가늠하기 딱 좋거든요.

실측 결과 한눈에

지시가 네 개였으니 항목별로 채점했습니다(①존댓말 ②300자 내외 ③과장 없이 ④질문으로 마무리).

모델	크기	응답 속도	출력 글자수	①존댓말	②300자 내외	③과장 없이	④질문 마무리
gemma3:4b	3.3GB	4.7초	375자 (+75)	○	× 25% 초과	× 홍보 수식 다수	○
qwen2.5vl:3b	3.2GB	6.1초	243자 (−57)	○	△ 19% 미달	○	× 안내문으로 끝
qwen2.5vl:7b	6.0GB	7.8초	275자 (−25)	○	○	△ 약한 과장	× 질문 뒤에 한 문장 더
qwen3-vl:8b	6.1GB	80.9초	192자 (−108)	○	× 36% 미달	△ 약한 과장	○

(생성 속도는 gemma3 165 · qwen2.5vl:3b 212 · qwen2.5vl:7b 117 · qwen3-vl:8b 100 tok/s. 모델을 처음 부를 때 3~6초의 '로딩'이 한 번 붙고, 그 뒤부터 위 속도가 나옵니다.)

네 항목을 전부 지킨 모델이 하나도 없습니다. 존댓말은 4/4가 지켰는데, 나머지 세 조건에서 하나씩 흘렸어요. 특히 "300자 내외"를 제대로 맞춘 건 qwen2.5vl:7b 하나뿐(275자)이고, 나머지는 25~36%씩 넘거나 모자랐습니다. 무료 로컬 모델에 글쓰기를 맡길 때 분량 지시는 지켜질 거라 믿지 말고 반드시 세어봐야 한다는 뜻이에요.

무료 모델도 초안은 씁니다 — 대신 톤·길이는 제각각

먼저 가장 무난했던 gemma3:4b의 실제 출력이에요(테스트에서 그대로 받은 글).

안녕하세요, 창의적인 이미지 제작에 관심 있는 여러분! 최근 눈부신 주목을 받고 있는 AI 이미지 생성 툴, 미드저니를 처음 접하시는 분들을 위해 간단하게 소개해 드립니다. (…) 미드저니를 사용해보고 싶은 이미지에 대한 아이디어가 있으신가요?

존댓말도, 질문으로 마무리하라는 지시도 지켰어요. 4.7초면 사실상 기다림이 없고요. 다만 "과장 없이" 쓰라고 했는데 "눈부신 주목", "놀랍도록", "무궁한 가능성" 같은 홍보성 수식이 슬금슬금 끼었고, 300자 요청에 375자로 좀 넘쳤습니다. 발행용으론 이 과장 표현들을 걷어내는 손질이 필요한 수준이에요.

품질만 놓고 보면 qwen2.5vl:7b가 제일 나았어요. 문장이 가장 자연스럽고, 길이(275자)도 요청에 가장 근접했습니다. 원출력 그대로예요.

"안녕하세요, 오늘은 인공지능(AI) 이미지 생성 툴 중 하나인 '미드저니'에 대해 소개해 드리려고 합니다. (…) 미드저니를 통해 새로운 창의력을 키우고 싶으신 분들은 어떻게 시작해야 할지 궁금하실 텐데요, 미드저니를 통해 어떤 이미지를 생성해 보고 싶으신가요? 궁금한 점이 있다면 언제든지 알려주세요!"

여기서 꼼꼼히 보면 지시를 한 칸 흘렸습니다. "마지막에 질문 하나로 마무리"였는데, 질문("어떤 이미지를 생성해 보고 싶으신가요?")을 던진 뒤에 "궁금한 점이 있다면 언제든지 알려주세요!"를 한 문장 더 붙여 안내문으로 끝냈어요. 게다가 답변 전체를 따옴표로 감쌌고요. 사람이 읽으면 "질문했네" 싶지만, 글을 자동으로 이어 붙이는 파이프라인에선 '마지막 문장'이 무엇인지가 실제로 문제가 됩니다. 대신 크기가 6GB로 커서 조금 느립니다(7.8초).

반대로 qwen2.5vl:3b는 빠르지만 도입부가 아니라 목차 예고문이 나왔어요.

"AI 이미지 생성 툴 미드저니"라는 이름의 새로운 도구를 소개합니다. (…) 이 글에서는 "미드저니"의 기능과 사용법을 간단하게 설명하고, 사용자들이 이 도구를 어떻게 활용할 수 있는지에 대해 자세히 설명하겠습니다. (…) "미드저니"를 사용해 보시고, 어떤 도움이 필요하시면 언제든지 문의해 주세요.

"설명하겠습니다"를 두 번 예고하고 정작 아무것도 설명하지 않은 채, 질문이 아니라 문의 안내로 닫았습니다. 도입부의 후킹이 약한 정도가 아니라 지시를 놓친 거죠.

웃픈 반전 — 제일 큰 모델이 제일 헤맸어요

진짜 반전은 qwen3-vl:8b였습니다. 이 녀석은 '생각(추론)'을 많이 하는 모델인데, 고작 도입부 한 단락 쓰라는데 내부적으로 7,376토큰을 굴리며 80.9초를 썼거든요. 가장 빠른 gemma3:4b(4.7초)의 약 17배예요. 결과물 자체는 간결하고 나쁘지 않았는데—

(…) 첫 번째 생성 시 어떤 키워드를 선택할지 궁금해지지 않으세요?
(문자수: 299)

이렇게 스스로 "문자수: 299"라고 적어놨는데, 실제로 세어보니 192자였어요. 자기가 쓴 글자 수도 틀리게 센 거죠. 결국 단순한 글쓰기에 '생각 많이 하는' 무거운 모델을 쓰는 건 시간 낭비고, 이런 잡일엔 가볍고 빠른 모델이 오히려 낫습니다.

그래서, 무료 로컬로 블로그 글 되나?

우리 테스트를 종합하면 이래요.

• 초안·아이디어 뽑기 → 무료 로컬로 충분합니다. 4개 다 한국어 도입부를 그럭저럭 써냈고, 빠른 건 5초 안쪽이에요. 구독료 0원에 이 정도면 남는 장사죠.
• 하지만 '그대로 발행'은 금물. 공통적으로 과장 표현이 섞이고, 길이·톤 지시를 정확히 못 지켰습니다. 사실 확인은 말할 것도 없고요(로컬 모델일수록 헛소리 위험이 큽니다). 초안은 AI, 다듬기·팩트체크는 사람 — 이렇게 역할을 나누는 게 요령입니다.
• 모델은 '큰 게 좋은 것' 아니에요. 이 잡일에선 4B의 gemma3나 7B의 qwen이 8B 추론 모델보다 빠르고 실용적이었습니다. 일에 맞는 크기를 고르는 게 가성비의 정석이고요.

잔심부름 초안은 무료 로컬로 뽑아 시간을 아끼고, 최종 품질과 사실 검증에만 유료 클라우드나 사람의 손을 얹는 게 1인 창작자에겐 제일 남는 조합입니다. 같은 로컬 모델을 유료 클라우드와 붙여본 로컬 AI(gemma3) vs 클라우드 실측과, 콘텐츠 제작 단계별로 어디까지 공짜로 되는지 정리한 AI 콘텐츠 제작 워크플로도 같이 보면 그림이 잡혀요.

한 줄 요약

무료 로컬 AI는 블로그 '초안 공장'으론 합격이에요 — 5초면 도입부가 나오니까요. 단, 과장·길이·사실은 사람이 마지막에 손봐야 하고, 단순 글쓰기엔 무거운 추론 모델 대신 가벼운 모델이 낫습니다. 초안은 공짜로, 검수는 사람이 — 이게 지갑도 품질도 지키는 길입니다.

참고자료

• test_runs/ollama-writing-20260710/ (이 저장소) — run.yaml · 모델 4종 원출력 전문 · 고정 프롬프트(prompt.txt) · 소요 시간·토큰 수
• 같은 하드웨어에서 모델 크기별 속도·VRAM을 잰 글 — 로컬 AI 모델 크기별 GPU 사다리 실측
• 같은 계열 모델로 사진 이해를 잰 글 — 로컬 멀티모달 AI 사진이해 실측
• ollama 공식 문서 — 로컬 오픈웨이트 모델 구동 방식
• 각 모델 공개 페이지(gemma3·Qwen 계열) — 라이선스·용도

이 글은 cinevyze 운영자가 로컬 무료 AI 모델 4종에 동일한 글쓰기 과제를 직접 돌려 속도·품질·지시이행을 측정하고, 그 결과를 비교·정리·편집했습니다. 수치는 실제 테스트에서 나온 값이고, 판단·해석은 모두 사람이 했으며, 글 다듬는 일부 과정에 AI 도구의 도움을 받았습니다. 테스트는 2026년 7월 특정 하드웨어(RTX 4070 Ti SUPER) 기준이라, 모델 버전·장비에 따라 결과가 달라질 수 있습니다.