겨울 코트를 오랜만에 꺼내 입었다가, 주머니에서 접힌 만 원짜리를 발견한 적 있는가. 분명 내 돈인데, 있는 줄도 몰랐던 돈.
이 기사는 그런 순간에 관한 이야기다. 다만 주머니에서 나오는 게 지폐가 아니라 — AI다.
지난 다섯 편 동안 우리는 AI를 남의 집(클라우드)에서 내 집으로 이사시켰다. 그런데 이번 편에서 우리가 할 일은 정반대다. 아무것도 새로 들이지 않는다. 대신 이삿짐을 풀다 말고 벽장 문을 열어본다. 그랬더니 — AI가 이미 거기 살고 있다. 당신의 폰에도, 노트북에도, 지금 이 글을 보고 있는 브라우저에도, 켠 적 없는 AI가 이미 들어와 있다.
새로 살 것도, 설치할 것도 없다 — 이미 네 손 안에 있다
“온디바이스 AI”라는 말을 들으면 이런 그림이 떠오르기 쉽다. 수백만 원짜리 최신 폰, 특별한 칩, 아무나 못 만지는 개발자 세팅. 그래서 대부분은 “나랑은 상관없는 얘기”라며 넘긴다. 그 지레짐작을, 지금 당신의 두 손으로 깨보려 한다. 증거는 멀리 있지 않다. 바로 이 페이지 안에 있다.
아래 커다란 [AI 깨우기] 버튼이 하나 있다. 이 버튼은 지금 당신 브라우저에서 켤 수 있는 가장 좋은 AI 문을 알아서 고른다. 운이 좋으면 브라우저에 이미 내장된 AI를 열고, 아니면 조용히 다른 문(1편에서 만난 그 브라우저 챗봇)으로 우회한다. 어느 문이 열리든 당신은 신경 쓸 필요가 없다. 플래그도, 설치도, 가입도 없다.
이미 있던 AI 깨우기. 설명은 잠깐 접어두고, 지금 아래 [AI 깨우기] 버튼부터 누르세요. 위젯이 “지금 이 브라우저에서 켤 수 있는 AI”를 알아서 찾습니다. 준비 막대가 차오르면 — 손을 떼고, 이 글로 돌아오세요. (이 버튼 하나로 시작해, 뒤에서 인터넷을 끄고도 대답하는 순간까지 갑니다.)
막대가 차는 동안 — 이미 네 기기 안에 있던 AI들
막대가 차고 있나. 그럼 손은 잠깐 쉬고, 이 대목을 읽으며 기다리자. “거의” 내 기기 안에서 도는 AI가 우회 경로라면, 진짜 놀라운 건 따로 있다 — “이미” 내 기기 안에서 도는 AI가 벌써 들어와 있다는 것. 몇 개만 꺼내 보자.
- 당신 아이폰의 음성 받아쓰기. 키보드의 마이크 아이콘을 눌러 말하면 글자가 되는 그 기능. 상당 부분이 인터넷 없이, 폰 안에서 처리된다.
- 안드로이드폰의 실시간 자막(라이브 캡션). 이건 인터넷을 꺼도 돈다 — 소리 인식이 폰 안에서 일어나기 때문이다.
- 노트북 화상회의의 배경 흐림·눈맞춤 보정. NPU라는 AI 전용 칩이 든 요즘 노트북은 이런 영상 처리를 클라우드가 아니라 기계 안에서 해낸다.
이게 “온디바이스 AI”의 진짜 얼굴이다. 거창한 신기술이 아니라, 이미 당신 주머니 속에서 조용히 돌고 있던 것들. 비싼 최신 기기만의 특권이 아니라, 3년 된 폰에도 흔히 들어 있는 기능이다.
💡 더 깊이 — 왜 어떤 AI는 인터넷 없이 도나 (NPU) 개념
요즘 폰·노트북에는 NPU(Neural Processing Unit, 신경망 연산 전용 칩)가 들어갑니다. AI 계산은 같은 곱셈·덧셈을 어마어마하게 반복하는 일인데, NPU는 딱 그 반복에 특화돼 전기를 적게 쓰고도 빠릅니다. 그래서 작은 AI라면 클라우드에 안 보내고 기기 안에서 곧장 처리할 수 있죠. 장점은 빠르고·사적이고·오프라인. 대신 기기 안이라 크기 제약이 있어, 거대한 클라우드 AI만큼 똑똑하진 않습니다 — 이 트레이드오프는 마지막 기사 mine-but-dumber에서 정면으로 다룹니다.
이제, 인터넷을 끄세요
막대가 다 찼는가. 그럼 이 활동의 절정으로 간다. 먼저 아무거나 물어보자. “한 줄 자기소개 해줘. 한국어로.” 답이 온다. 좋다. 그런데 회의적인 사람은 이렇게 말할 수 있다. “그거 그냥 몰래 서버로 보낸 거 아니야?” 그 의심을 지금 물리적으로 끝장내자.
탭을 그대로 둔 채, 노트북 와이파이를 끄거나 폰 비행기모드를 켜세요. 인터넷이 완전히 끊긴 걸 확인하고 — 새 질문을 하나 더 던지세요.
비행기모드에서도 대답하는가. 방금 깨운 그 AI에게, 인터넷을 끊은 채 다시 말을 걸어보세요. 딱 하나만 주의 — 오프라인 상태에서 페이지를 새로고침하지 마세요. 여전히 대답이 오면, 위젯이 “POCKET AI ✅ — 내 손 안의 AI를 깨웠다” 배지를 찍어줍니다. 비행기모드 아이콘과 답이 한 화면에 잡히게 스크린샷을 남겨 #주머니속AI로 공유해 보세요.
대답이, 왔는가. 방금 당신이 친 문장은 어디로도 갈 수 없었다. 네트워크가 끊겨 있으니까. 그런데도 답이 왔다. 그렇다면 답을 만든 건 오직 하나뿐이다 — 당신 손 안의 이 기계. 이게 “내 손 안에서 돈다”는 말의 진짜 의미다. 논리로 설득한 게 아니라, 네트워크를 끊어서 증명했다.
그럼 진짜 크롬 안에도 AI가 들어 있을까? (되면 보너스)
방금 위젯이 우회 경로로 켠 게 아니라, 크롬 브라우저 자체에 통째로 내장된 AI(Gemini Nano)를 직접 깨울 수도 있다. 다만 여기서부터는 “되면 놀랍고, 안 돼도 전혀 문제없는” 보너스 구간이다. 솔직히 말하면 크롬 내장 AI는 켜는 조건이 까다롭다. 발행 시점 기준으로 데스크톱 크롬에 넉넉한 저장공간(대략 20GB 이상)과 일정 사양이 필요하고, 켜는 방법도 버전마다 바뀌어 왔다. 그래서 많은 사람이 여기서 못 켠다. 그게 정상이다.
그러니 마음을 편히 먹자. 당신은 앞에서 이미 ★☆☆로 완주했다. 이건 그 위에 얹는 디저트일 뿐이다.
원래 까다로운 트랙이에요. 안 켜져도 괜찮습니다 — 당신은 이미 완주했어요. 아래 버튼으로 지금 브라우저가 크롬 내장 AI를 지원하는지 자동 점검합니다.
아직 점검 전이에요.
되면 위 [AI 깨우기]가 크롬 내장 AI로 열립니다. 조건·플래그 안내는 공식 문서(developer.chrome.com 내장 AI)를 참고하세요.
진짜 크롬 속 AI 깨우기. 위 패널의 [점검] 버튼을 눌러 지원 여부를 확인하세요. 🟢 available이면 [AI 깨우기]가 크롬 내장 AI로 열립니다. 안 켜져도 괜찮습니다 — 방금의 WebLLM 결과가 그대로 유지되고, 여기서 좌절할 이유는 하나도 없어요.
💡 더 깊이 — LanguageModel과 ‘점진적 향상’ 실무자용
크롬 내장 AI는 브라우저 안에서 LanguageModel 같은 객체로 접근합니다(예전엔 window.ai 아래였는데 이름이 여러 번 바뀌었어요). 지원되면 세션을 만들어 질문을 던지고, 안 되면 앞서 본 브라우저 챗봇으로 넘어갑니다. 이렇게 “최신 기기엔 내장 AI, 나머진 안전한 대안”으로 갈라 짜는 방식을 실무에선 점진적 향상(progressive enhancement)이라 부릅니다. 오늘 당신이 누른 [AI 깨우기]가 정확히 이 패턴으로 동작한 것이죠.
브라우저 말고, 네 폰·노트북엔 뭐가 이미 있을까?
방금 당신은 브라우저 안의 AI를 깨웠다. 그런데 아이폰 받아쓰기, 안드로이드 라이브 캡션, 노트북 배경 흐림 — 그것들이 진짜 “인터넷 안 타는” 온디바이스 AI인지, 이제 당신 손으로 직접 확인할 차례다. 방법은 딱 하나, 어처구니없이 간단하다. 비행기모드를 켜고 해보는 것. 인터넷이 끊겼는데도 되면? 기계 안에서 돈다는 확실한 증거다. 비행기모드는 온디바이스 AI를 가려내는 리트머스지다.
내 기기의 온디바이스 AI 자가진단. 아래 위젯에서 내 기기 종류를 고르세요. 그러면 그 기기에 이미 들어 있는 “인터넷 안 타는” AI 기능 체크리스트가 뜹니다. 목록에서 ✅“누구나 진입 항목”으로 표시된 것 하나만 실제로 해보세요 — 대개 비행기모드로 음성 받아쓰기 또는 라이브 캡션입니다. 되면 그 항목을 체크하세요.
여기 이 활동의 핵심 약속이 있다. 어떤 기기든 최소 하나는 반드시 발견하게 되어 있다. 최신 아이폰이든, 3년 된 중고 안드로이드든, 저가 노트북이든 상관없다. 정말 폰에서 하나도 못 찾겠으면, 방금 노트북 브라우저에서 깨운 AI가 이미 당신의 “발견 1개”다. 바로 이 지점에서 “온디바이스 AI = 비싼 최신 기기만”이라는 지레짐작이 무너진다.
💡 더 깊이 — 판별 기준은 브랜드가 아니라 ‘비행기모드’ 개념
헷갈리기 쉬운 함정 하나. 폰의 모든 AI 기능이 온디바이스인 건 아니다. 어떤 건 여전히 클라우드로 보내 처리한다(그래서 비행기모드에서 안 됨). 그래서 이 자가진단의 판별 기준을 “브랜드가 AI라고 부르는가”가 아니라 “비행기모드에서 되는가”로 두는 것이다. 브랜드 기능명(발행 시점 기준: 아이폰 Apple Intelligence, 갤럭시 Galaxy AI, 픽셀 Gemini Nano, 노트북 Copilot+/NPU)은 기종·지역·업데이트에 따라 갈리지만, 비행기모드라는 리트머스지는 어느 기기에서나 똑같이 정직하게 작동한다.
마치며 — 이사할 것도 없이, 이미 내 집에 있었다
오늘, 이삿짐을 풀다 벽장을 열어보니 — AI가 이미 거기 살고 있었다. 폰 안에, 노트북 안에, 브라우저 안에. 굳이 옮겨올 것도 없이, 처음부터 내 집 식구였던 것이다. 클라우드 없이 내 손 안에서 도는 AI는 더 이상 특별한 무엇이 아니다. 이미 당신의 일상에, 주머니 속에 스며들어 있었다.
내 지도 공유하고, 한 줄 남기기. 완성한 지도 카드를 #내주머니AI지도로 공유해 보세요(“내 폰에 이미 온디바이스 AI가 N개 있었다”). 그리고 아래 벽에 답을 남기세요 — “가장 의외였던 온디바이스 기능은?” 남기는 순간, 다른 독자들의 답이 벽에 함께 뜹니다.
그 한 줄 벽에서, 다음 이야기가 시작된다. 내 손 안의 AI는 클라우드 거인보다 느리고, 가끔 어설프다. 그런데도 왜 사람들은 그 불편을 감수하고 AI를 집으로 들일까? 다음 기사이자 이 호의 마지막 편 mine-but-dumber — 내 AI는 좀 멍청하지만, 온전히 내 것이다에서, 오늘 당신이 주머니에서 꺼낸 그 발견에 사람들의 진짜 이야기를 포갠다. 이사는, 이제 마지막 짐을 내려놓을 참이다.