OpenJarvis + Gemma 4.0 (추가)

오픈자비스는 2026년 3월 옥스퍼드 대학교에서 배포한 오픈소스 AI비서입니다. 오픈자비스는 아래 주소에 소스코드가 공개되어있다.

https://github.com/open-jarvis/OpenJarvis

Table of Contents

비교를 위한 기타 AI비서 프로그램 목록

OpenClaw (오픈소스 기반) – 2026년 1월 출시
CoWork (Anthropic) – 2026년 3월 출시
NVIDIA NemoClaw – 2026년 3월 출시
Project Jarvis (Google) – 2024년 12월 출시

OpenJarvis 설치

OpenJarvis는 Rust를 사용해 만들어졌기때문에 운영체제 관련없이 설치하면되지만 먼저 Rust가 설치되어 있어야한다.

rustup 필요

#rustup이 설치되어있는지 확인하기
rustup --version

https://rustup.rs
rustup이 설치가 되어있지 않다면 링크로가서 안내되있는대로 설치하면된다.

uv 필요 (파이썬 패키지 관리자)

powershell -c "irm https://astral.sh/uv/install.ps1 | iex" # uv 설치

uv 사용법

uv python list               # 설치된 파이썬 목록 확인
uv run python --version  #현재 작업폴더에서 적용되고있는 파이썬 버전 확인

uv python install 3.14.3    # 파이썬 3.14.3버전 설치 

#3.14.3 버전을 프로젝트 전용으로 고정 (가장 중요)
uv python pin 3.14.3

git clone https://github.com/open-jarvis/OpenJarvis.git 
cd OpenJarvis
uv sync                           # core framework 설치
uv sync --extra server             # + FastAPI server 설치

# Build the Rust extension (requires Rust: https://rustup.rs/)
uv run maturin develop -m rust/crates/openjarvis-python/Cargo.toml

OpenJarvis 실행

uv run jarvis init

#이미 실행해서 config.toml이 있는경우에는
uv run jarvis init --force

올라마 선택

╭─────────── Getting Started ──────────────────
│ Next steps:                                                                                                          
│                                                                                                                      
│   1. Install and start Ollama:                                                                                       
│      curl -fsSL https://ollama.com/install.sh | sh                                                                   
│      ollama serve                                                                                                    
│                                                                                                                      
│   2. Pull a model:                                                                                                   
│      ollama pull qwen3.5:35b                                                                                         
│                                                                                                                      
│   3. Try it out:                                                                                                     
│      jarvis ask "Hello"                                                                                              
│                                                                                                                      
│   Run `jarvis doctor` to verify your setup.                                                                          
╰─────────────────────────────────────

만약 모델 선택이 안될경우

# Windows 경우 아래 경로에 설정파일이 있음 이걸 열고
C:\Users\__window__account__\.openjarvis\config.toml

[llm]
model = "qwen3.5:9b"

[llm]
model = "gemma4:e2b-it-q4_K_M"
num_ctx = 8192 

이렇게 원하는 모델을 적어주면 됨

올라마 설치 (Linux)

# 2. Start Ollama and pull a model
curl -fsSL https://ollama.com/install.sh | sh
ollama serve &
ollama pull qwen3:8b

올라마 설치 (Windows)

https://ollama.com/download/windows 에서 윈도우용 다운로드 가능

# 다운로드 설치 한번에 (글 작성 시 다운로드 용량 1.8gb)
irm https://ollama.com/install.ps1 | iex

PC 올라마에 설치된 목록 보기

 ollama list

Qwen의 세부버전 확인 – 글 작성당시 github 페이지에서 qwen3버전을 언급해서 qwen3버전중에 알맞은버전을 실행

https://ollama.com/library

https://ollama.com/library/qwen3 <- 이 안에서 고르기 추천

ollama pull qwen3:14b          # 저는 14b 모델을 골랐습니다

ollama rm qwen3:14b           # 14b 지울때

ollama qwen3.5:27b             # 최신버전인 3.5:27b를 설치할때

Ollama 실행

#이모델의 사이즈는 18GB context를 8k쓰면 20GB정도사용 (그래픽카드가 4090 이라서 VRAM=24GB 20기가는 AI에활용 4기가로 코딩이나 웹서핑)

ollama run gemma4:e2b-it-q4_K_M

Ollama 명령어

참고로 gemma4는 최대 256k컨텍스트 메모리사이즈를 지원하며 gemini 무료버전은 현재 128k를배당해줍니다. 유료결제후 Pro모델을사용할때는 1M이상의 가변 context를 할당해줍니다. 하지만 로컬에서 사용할때 256k컨텍스트를 모두사용하려면 추가로 48GB의 VRAM이 필요합니다. Gemma4의 가장 큰 모델은 사이즈가 80GB이므로 128GB가 필요합니다. 즉 Gemma4최고사양을 사용하려면 128GB이상의 메모리가 필요하다는 이야기가 되니까 참고해주세요. (=128GB로하면 운영체제나 다른용도로 쓰이는것때문에 일부를 시스템메모리를 사용하게되면 상당히 느려져서 조금 성능을 낮추는게 유리함. VRAM이나 공유메모리가 132GB이상이면 무리없이 일반작업이 가능하고 150GB이상이면 AI를 돌리면서 게임을 해도 괜찮음.)

/show parameters

/set parameter num_ctx 8192 # context 8192로 사용량제한

#
uv run jarvis serve --model gemma4:e2b-it-q4_K_M --port 9090

qwen3.5 모델 목록 참고

Gemma 4 목록

OpenJarvis 사용

#1회용 질문 실행
uv run jarvis ask "What is the capital of France?"