오픈클로 로컬 AI 벤치마크: 6종 PC에서 3가지 모델 직접 비교

ChatGPT Plus는 월 2만원, Claude Pro는 월 2만 5천원. 매달 나가는 AI 구독료가 부담스러우신가요? 게다가 민감한 업무 자료를 클라우드에 올리는 것도 찝찝하고요. 이런 고민을 한 번에 해결할 수 있는 방법이 바로 로컬AI입니다. 내 PC에서 직접 AI를 돌리면 비용도 0원, 프라이버시도 완벽하게 지킬 수 있죠.

하지만 막상 시작하려면 궁금한 게 많습니다. 내 PC 스펙으로도 될까? 어떤 모델을 써야 할까? 실제 속도는 얼마나 나올까? 이런 질문에 답하기 위해 오픈클로(OpenClaw)를 포함한 로컬AI 벤치마크 테스트를 진행했습니다. 미니PC부터 게이밍 노트북까지 총 6종의 PC에서 3가지 AI 모델을 직접 돌려본 결과를 공유합니다.

이 글의 내용
✓ 오픈클로와 로컬AI의 개념
✓ Llama 3.3 3B / 3.1 8B / GPT-OSS 20B 성능 비교
✓ Intel N100부터 AMD 7600XT까지 6종 PC 벤치마크
✓ 오픈클로 실전 사용 후기
✓ PC 스펙별 추천 모델 가이드

※ 본 벤치마크 데이터는 YouTube 영상 "무제한 무료, 로컬 AI 벤치마크, 미니PC 등 총 6종 PC에서 돌려봤습니다"의 테스트 결과를 기반으로 작성되었습니다.

오픈클로(OpenClaw)란?

오픈클로(OpenClaw)는 로컬LLM을 활용한 AI 에이전트 프로그램입니다. 일반적인 챗봇과 달리 PC의 파일을 직접 읽고, 코드를 실행하고, 시스템 명령을 수행할 수 있는 것이 특징이죠. Claude Code나 ChatGPT의 Code Interpreter처럼 작동하지만, 모든 처리가 내 PC에서 이루어집니다.

오픈클로는 Ollama 같은 로컬LLM 서버와 연결되어 작동합니다. 사용자가 "이 폴더의 이미지를 전부 복사해줘"라고 요청하면, AI가 명령어를 생성하고 실제로 실행까지 해주는 거죠. 다만 이런 복잡한 작업을 수행하려면 충분한 성능의 AI 모델이 필요합니다. 그래서 벤치마크가 중요합니다.

테스트 환경

테스트한 AI 모델 3종

벤치마크에는 메타(Meta)와 OpenAI에서 공개한 3가지 모델을 사용했습니다. 모두 4bit 양자화 버전으로, 별도 튜닝 없이 기본 상태에서 테스트했습니다.

모델명	크기	특징
Llama 3.3 3B	3B 파라미터	초경량 모델. 저사양 PC, 스마트폰에서도 작동 가능
Llama 3.1 8B	8B 파라미터	범용적이고 표준적인 모델. 가장 많이 사용됨
GPT-OSS 20B	20B 파라미터	테스트 중 가장 고성능. 대답 전 "생각하는" 과정 포함

테스트한 PC 6종

저사양 미니PC부터 데스크탑급 그래픽카드를 탑재한 시스템까지 다양한 환경에서 테스트했습니다. 특히 VRAM(그래픽카드 메모리)이 성능에 미치는 영향을 확인하는 데 초점을 맞췄습니다.

PC 유형	CPU	RAM	GPU (VRAM)
① 홈서버급 미니PC	Intel N100	16GB DDR4	내장 그래픽
② 모바일 CPU 미니PC	AMD 7735U	16GB DDR4	내장 그래픽
③ 내장 그래픽 미니PC	AMD 7735HS	32GB DDR5	AMD 680M (VRAM 2GB)
④ 고성능 미니PC	Intel i9-13900	32GB DDR4	내장 그래픽
⑤ HP 게이밍 노트북	AMD 780M	32GB DDR5	NVIDIA RTX 4060 (VRAM 8GB)
⑥ 일반 데스크탑	AMD 5600X	32GB	AMD 7600XT (VRAM 8GB)

벤치마크 결과: 속도가 전부다

로컬AI의 성능은 tokens/sec(초당 토큰 생성 속도)로 측정합니다. 숫자가 높을수록 AI의 대답이 빠르게 나오는 거죠. 일반적으로 10 tokens/sec 이상이면 대화용으로 무난하고, 5 이하면 답답함을 느낄 수 있습니다.

PC	Llama 3.3 3B	Llama 3.1 8B	GPT-OSS 20B
Intel N100	8.9	3.7	느림
AMD 7735U	17	7.8	8 미만
AMD 7735HS	17	8.1	~1
Intel i9-13900	비슷	비슷	~1
게이밍 노트북 (RTX 4060)	88	41	느림 (오프로딩)
데스크탑 (7600XT)	105	67.5	14

※ 단위: tokens/sec (초당 토큰 생성 속도). 숫자가 높을수록 빠름

핵심 인사이트

• VRAM이 있는 GPU(RTX 4060, 7600XT)는 압도적으로 빠릅니다. CPU만 쓰는 것보다 10배 이상 차이가 나죠.
• Intel i9 같은 고성능 CPU도 GPU 없이는 한계가 명확합니다. 20B 모델은 거의 사용 불가 수준입니다.
• 메모리 오프로딩 현상: AI 모델이 VRAM보다 크면 RAM으로 넘어가면서 속도가 급격히 떨어집니다. 20B 모델은 VRAM 8GB로도 부족합니다.
• 3B 모델은 저사양에서도 쓸만하지만, 8B 이상부터는 VRAM이 필수입니다.

오픈클로 설치 및 실전 테스트

벤치마크는 순수 AI 성능 측정이고, 실제 사용은 또 다릅니다. 오픈클로는 AI가 파일 시스템에 접근하고 명령을 실행하는 복잡한 작업을 수행하기 때문에, 더 높은 성능이 필요합니다.

i9 미니PC에서의 실패

먼저 Intel i9-13900 미니PC에 GPT-OSS 20B 모델과 오픈클로를 설치했습니다. 벤치마크에서는 1 tokens/sec 정도 나왔던 환경이죠. 결과는? 너무 느려서 사용 불가 수준이었습니다. CPU만으로는 20B 모델의 복잡한 추론을 감당하기 어렵습니다.

게이밍 노트북에서의 성공

같은 세팅을 RTX 4060(VRAM 8GB)이 탑재된 게이밍 노트북에 적용했습니다. 이번엔 확실히 달랐습니다. 파일 리스트 확인 같은 간단한 명령은 문제없이 수행했죠.

하지만 파일 복사 같은 복잡한 명령에서는 실패가 발생했습니다. 이건 GPU 성능 문제가 아니라 20B 모델 자체의 한계로 보입니다. 오픈클로는 시스템 컨텍스트가 복잡해서 더 큰 모델이나 추가 튜닝이 필요할 수 있습니다.

오픈클로 사용 시 주의사항

오픈클로는 일반 챗봇보다 훨씬 무거운 작업을 수행합니다. CPU만으로는 제대로 된 경험을 하기 어렵고, 최소 VRAM 8GB 이상의 GPU가 권장됩니다. 그리고 20B 모델도 완벽하지 않으니, 간단한 파일 작업 위주로 활용하는 게 현실적입니다.

로컬AI의 4가지 장점

속도와 성능만 놓고 보면 유료 클라우드 AI가 압도적입니다. 그럼에도 로컬AI를 선택하는 이유는 명확합니다.

1. 완전한 무료

인터넷 없이도 사용 가능하고, 월 구독료가 0원입니다. 초기 투자(GPU)만 하면 무제한으로 쓸 수 있죠. ChatGPT Plus를 1년 쓰면 24만원이지만, 로컬AI는 한 번 세팅하면 계속 무료입니다.

2. 완벽한 프라이버시

모든 데이터가 내 PC에만 머뭅니다. 회사 업무 자료, 개인 정보, 민감한 질문 등을 클라우드에 올리지 않아도 되죠. 특히 PrivateGPT 같은 프로그램을 쓰면 내 문서를 AI에게 학습시킬 수도 있습니다. 외부 서버에 데이터를 보내지 않으니 보안 측면에서 유리합니다.

3. 검열 없는 자유

ChatGPT나 Claude는 윤리 필터가 강합니다. 소설 창작이나 특정 주제에 대한 토론에서 제약을 받을 수 있죠. 하지만 로컬AI는 Uncensored(검열 없는) 모델을 자유롭게 선택할 수 있습니다. 물론 책임도 사용자에게 있습니다.

4. 온디바이스AI 학습 기회

AI 기술이 점점 온디바이스(기기 내 실행) 방향으로 가고 있습니다. 스마트폰도 이제 AI를 직접 돌리는 시대죠. 로컬AI를 지금 경험해두면, 미래 기술 트렌드를 미리 이해할 수 있습니다.

VRAM 요구사항 및 PC별 추천 가이드

벤치마크 결과를 바탕으로 VRAM 요구사항을 정리했습니다. 이건 거의 절대적인 기준입니다.

VRAM 최소 요구사항

• 8B 모델 (Llama 3.1 8B 등) → VRAM 8GB 필요
• 20B 모델 (GPT-OSS 20B 등) → VRAM 16GB 필요
• 3B 모델 (Llama 3.3 3B 등) → CPU만으로도 가능 (느림)

맥 미니(16GB 통합 메모리)로도 20B 모델을 제대로 돌리기 어렵다는 점이 확인되었습니다. VRAM은 단순 용량이 아니라 대역폭과 최적화가 중요하기 때문입니다.

용도별 추천 조합

용도	권장 모델	최소 VRAM	추천 GPU
일상 대화, 간단한 질문	Llama 3.1 8B	8GB	RTX 4060, 7600XT 등
오픈클로, 복잡한 작업	GPT-OSS 20B 이상	16GB	RTX 4070 Ti, 7900 XTX 등
실험, 학습용 (느려도 OK)	Llama 3.3 3B	없어도 됨	CPU만 (Intel i5 이상)

결론: 로컬AI, 누구에게 맞을까?

이번 벤치마크를 통해 확실히 알게 된 건, 로컬AI는 GPU 성능이 거의 전부라는 점입니다. CPU만 좋다고 되는 게 아닙니다. VRAM 8GB 이상의 그래픽카드가 있어야 제대로 된 경험을 할 수 있죠.

오픈클로 같은 AI 에이전트는 더욱 높은 성능을 요구합니다. 단순 대화형 AI와 달리 시스템 제어 기능을 갖춘 AI 에이전트는 더 복잡한 추론 과정을 거치기 때문이죠. 현재로서는 20B 모델도 복잡한 작업에서 한계를 보이니, 간단한 파일 관리 정도로 기대치를 조정하는 게 좋습니다.

로컬AI를 추천하는 사람

• 유료 AI 구독료가 부담되는 사람
• 민감한 데이터를 클라우드에 올리기 꺼려지는 사람
• VRAM 8GB 이상의 GPU를 이미 보유한 사람
• AI 기술을 직접 실험하고 배우고 싶은 사람

속도와 편의성을 원한다면 여전히 ChatGPT나 Claude가 낫습니다. 하지만 프라이버시, 비용 절감, 기술 학습이 중요하다면 로컬AI는 충분히 매력적인 선택지입니다. 이 글이 여러분의 PC 환경에 맞는 로컬AI 세팅을 찾는 데 도움이 되었길 바랍니다.