인터넷을 꺼도 대답하는 AI
설치 0, 링크 하나로 브라우저 탭 안에 진짜 언어모델을 켜고 — 와이파이를 끕니다. 그래도 대답하면, “AI = 남의 서버”라는 상식이 눈앞에서 무너집니다.
지난 호에서 우리는 남의 엔진(클라우드 API)을 빌려 AI 도구를 만들었습니다. 편했지만, 그 AI는 내 것이 아니었죠 — 내 데이터는 남의 서버를 거쳤고, 쓰려면 매달 돈을 냈고, 인터넷이 끊기면 멈췄습니다. Vol.2는 그 엔진을 통째로 내 차고로 들입니다.
설치 0, 링크 하나로 브라우저 탭 안에 진짜 언어모델을 켜고 — 와이파이를 끕니다. 그래도 대답하면, “AI = 남의 서버”라는 상식이 눈앞에서 무너집니다.
터미널 한 줄 없이 원클릭 GUI 앱(LM Studio·Ollama)을 깔고, 내 RAM에 맞는 모델을 내려받아 — 하드디스크에 상주하는 나만의 비서를 완성합니다.
양자화 슬라이더를 밀면 용량은 3.3배 줄고 품질은 4%만 손해. 그 지독하게 불공평한 거래를 손으로 붙잡습니다. 내 RAM 고르면 “돌아가는 모델”이 뜨는 판정기.
브라우저 안 Whisper로 말하면 글자가 되는데, 그 소리는 내 노트북을 한 발짝도 안 떠납니다. 업로드 0건을 와이파이 끄고 직접 증명하는 내 도구.
클라우드엔 차마 못 올리던 회사 자료도 일기도, 인터넷을 끊은 내 기계 안에서만 답하는 ‘제2의 뇌’. 이 호에서 가장 높은 계단(실기 인증 전 안내 중심 발행).
새로 살 것도 설치할 것도 없이, [AI 깨우기] 버튼 하나로 이미 있던 AI를 켜고 — 3년 된 폰으로 비행기모드 받아쓰기가 되는 걸 확인합니다. 자가진단 체크리스트 포함.
느리고 덜 똑똑한 로컬 AI를 왜 집에 들였을까. 구독료 절약 계산기가 🏠·🔀·☁️ 셋 중 하나를 정직하게 판정하고, 익명 사연 벽에서 “나만 그런 게 아니네”를 확인합니다.
코너 분포 — 만들기 3(2·4·5) · 실행 3(1·3·6) · 공감 1(7) |
난이도 — ★☆☆ 3(1·6·7) · ★★☆ 3(2·3·4) · ★★★ 1(5) |
서사 — ★☆☆ 진입(1) → 손에 익히기(2·3·4) → 정점(5) → 완만한 마무리(6·7).
5번 「내 문서 사서」는 이 호의 정점이지만 설치·환경 의존으로 실기 인증 전이라 안내·스크린샷 중심으로 싣고, 발행 전 실기기 1회 확인을 남겨 뒀습니다(발행 노트 참조).