히말라야에서 로컬 Qwen3.5 9B와 OpenCode로 오프라인 코딩 에이전트 실행하기
Coding From the Himalayas With an Offline AI Agent
Thomson Reuters의 Principal Engineer인 저자는 인터넷을 끊은 상태에서 노트북에 설치한 Qwen3.5 9B 모델과 OpenCode 에이전트만으로 코딩 작업이 가능한지 실험했다. 프로젝트 파일 읽기, 코드 수정, 테스트 실행 같은 작업은 모델과 의존성, 테스트 도구가 로컬에 있으면 오프라인에서도 수행할 수 있다. 저자는 OpenCode를 터미널에서 프로젝트와 연결하고, Ollama가 같은 노트북에서 Qwen 모델을 실행하도록 구성했다. OpenCode는 파일을 읽고 수정안을 제안하며 테스트 스위트 같은 명령을 실행할 수 있고, 권한 프롬프트로 명령과 변경을 검토한 뒤 허용하도록 설정했다. 모델은 Qwen3.5 9B를 선택했는데, 기사에 실린 Qwen 모델 카드 수치 기준으로 LiveCodeBench v6는 65.6, BFCL-V4는 66.1이며 4B 변형(55.8, 50.3)보다 높다. 다운로드 크기는 6.6~7.6GB이고, 기사는 6.6GB 빌드에 메모리 12~16GB를 권장한다고 전한다. 다만 64k 토큰 OpenCode 설정은 더 많은 메모리가 필요할 수 있다고 적었다. 기사는 OpenCode가 Goose·OpenHands-SDK와 비교된 연구 프리프린트(The Scaffold Effect in Coding Agents)를 인용했다. 해당 연구에서 OpenCode는 Qwen3.6 Plus 기준 50%, MiniMax M2.5 기준 46%의 통과율을 보였으며, 해결한 작업당 토큰 사용량은 Goose보다 약 40배 많았다고 한다. 저자는 이 실험이 클라우드 API와 다른 모델을 사용했기 때문에 로컬 Qwen3.5 9B의 성능을 예측하지 않는다고 밝혔다.
Ollama로 Qwen3.5 9B(6.6~7.6GB)를 노트북에서 실행하고 OpenCode 1.19.4를 연결하면, 설치 후 인터넷을 끊은 상태에서도 프로젝트 파일 수정과 테스트 실행을 시도할 수 있다.
원문 출처
Latent Space (swyx & Alessio)