Ollama
Ollama
Ollama는 로컬 머신에서 오픈 웨이트 LLM을 손쉽게 내려받아 실행하게 해주는 도구다. 모델 가중치·설정·프롬프트 템플릿을 하나의 패키지로 묶어 ollama run 한 줄로 구동하게 만들어, 로컬 LLM의 진입 장벽을 크게 낮췄다. macOS·Linux·Windows를 지원한다.
핵심 기능은 모델 라이브러리에서의 원클릭 pull/run, GGUF 양자화 모델 실행, Modelfile을 통한 커스텀 모델 정의, OpenAI 호환 로컬 API 서버, 그리고 CPU/GPU·Apple Silicon 자동 활용이다. 데스크톱 앱과 CLI를 모두 제공하며 멀티모달·임베딩 모델도 다룬다.
대상은 프라이버시·오프라인·비용 이유로 LLM을 로컬에서 돌리려는 개발자·연구자, 그리고 로컬 모델을 앱에 붙이려는 사람이다. 소프트웨어는 무료 오픈소스이며 비용은 자신의 하드웨어뿐이다. 별도 클라우드 호스팅 옵션도 등장하고 있다.
강점은 압도적으로 간단한 설치·실행 경험, OpenAI 호환 API로 기존 코드에 쉽게 연결, 데이터가 로컬에 머무는 프라이버시다. 한계는 로컬 하드웨어(특히 VRAM)에 성능·모델 크기가 묶여 대형 모델은 양자화·속도 타협이 필요하고, 고동시성 프로덕션 서빙은 vLLM 같은 전용 엔진 대비 처리량이 떨어진다는 점이다.
AI 개발 관련 브리핑
Idle Frontier 게임 개발 경험과 AI 활용
Idle Frontier는 Opus 5(Claude)를 활용하여 개발된 게임으로, 데이터와 컴퓨팅 자원 제약을 다루는 내용을 담고 있다. 게임 개발자는 Godot 3에서 Godot 4로의 마이그레이션과 게임 디자인 패턴을 배우는 데 Claude의 도움을 받았다. Claude는 버그 수정 및 디버깅에서 유용했으며, 게임의 일부 화면은 Claude가 끝까지 구현했다. 그러나 새로운 기능을 구현할 때 기존 기능이 깨지는 등의 문제도 발생했다.
Claude는 Godot 4의 신기능을 배우는 데 도움을 주었으며, 게임 개발 과정에서 효율성을 높일 수 있다.
클코나잇 2 웨비나에서 하네스 엔지니어링 구축 사례 공유
요즘IT는 5월 27일과 6월 10일에 클코나잇 2 웨비나를 개최하고, 개발자와 비개발자가 클로드 코드(Claude Code)를 활용한 경험을 공유했다. 바이버스 AI의 김영채는 하네스 엔지니어링 도입 배경과 마에스트로 데브(Maestro Dev)라는 스킬을 통해 코드 관리와 개발 속도를 개선한 사례를 설명했다. 지난 8개월 동안 4명의 개발자가 170만 줄의 코드를 작업하며 발생한 문제를 해결하기 위해 하네스 엔지니어링을 도입했다고 밝혔다.
마에스트로 데브는 개발자의 암묵지를 형식지화하여 자동화된 개발 프로세스를 통해 코드 관리와 출시 속도를 개선하는 데 기여한다.
AI 해커톤에서 재무 업무 문제 해결을 위한 접근 방식
네이버의 ‘모두의 Engineering Day AI 해커톤’에서 참가자들은 실제 업무 문제를 해결하기 위해 팀을 구성하고, AI를 활용하여 재무 업무를 자동화하는 프로젝트를 진행했다. 팀은 수기 Microsoft Excel 기반의 출자 현황 관리를 LLM·MCP 기반의 투자 포트폴리오 관리 플랫폼으로 전환하는 과제를 선택했다. 이 과정에서 AI의 역할을 단순한 도구가 아닌 문제 정의, 설계, 검증의 파트너로 설정하고, 현재 값이 아닌 거래 이력을 중심으로 시스템을 설계했다.
NVIDIA DeepStream 9.1을 활용한 다중 카메라 3D 추적 애플리케이션 구축
대규모 공간에서 비디오 분석 애플리케이션을 개발하는 개발자는 카메라 뷰 간에 이동하는 동일한 객체를 추적해야 한다. 단일 카메라 2D 추적은 신뢰할 수 있는 깊이 정보를 제공하지 않으며, 객체가 프레임을 벗어날 때 추적을 잃는 경우가 많아 창고 안전, 소매 분석, 스마트 빌딩 모니터링과 같은 애플리케이션의 한계를 초래한다. 현재의 3D 추적 방법은 수동 작업을 요구한다.
NVIDIA DeepStream 9.1을 사용하면 다중 카메라 환경에서 신뢰성 있는 3D 추적을 구현할 수 있다.