Ollama 설치 (homebrew이용)
1. GUI버전
GUI버전은 올라마를 어플리케이션 폴더를 통해 실행할수있음
brew install --cask ollama실행
open /Applications/Ollama.app2. CLI버전
ssh만 사용한다면 CLI 로 설치
brew install ollama실행
이 방식으로 실행을하면 ssh를 추가로 연결하거나 tmux를써야하고 사용할때마다 실행해줘야함. 그래서 아래 자동실행 방법을 이용.
맥 전원을 켜면 자동으로 실행됨.
ollama serve자동 실행
서비스 설정파일 (plist) 생성
sudo nano /Library/LaunchDaemons/com.ollama.ollama.plistplist 파일 내부를 아래처럼 수정해줌.
이부분은 AI에게 물어보면 만들어줍니다. 물어볼때 올라마 설치경로 등을 기억해두세요
모르면 which ollama
설치방법에 따라 설치경로가 다를수있음.# 소유자를 root로 변경
sudo chown root:wheel /Library/LaunchDaemons/com.ollama.ollama.plist
# 권한을 644로 변경
sudo chmod 644 /Library/LaunchDaemons/com.ollama.ollama.plist재시작
sudo launchctl unload /Library/LaunchDaemons/com.ollama.ollama.plist
sudo launchctl load -w /Library/LaunchDaemons/com.ollama.ollama.plistError Log 확인
로그 저장할 폴더 생성 및 권한설정
sudo mkdir -p /var/log/ollama
sudo chown root:wheel /var/log/ollama에러 메시지 확인하기 (실행이 안되거나 원하는 기능이 안될경우 에러메시지를 확인합니다)
cat /var/log/ollama/stderr.log에러확인
# 1. 프로세스가 떠 있는지 확인
ps aux | grep ollama
# 2. 11434 포트가 열려 있는지 확인 (LSOF 이용)
sudo lsof -i :11434실 사용 시
위에 내용이면 설치하고 ollama를 실행하고 설치 및 실행 과정중 오류를 찾을수 있습니다.
위에서 ollama serve를 자동실행 하도록해뒀다면 이제 ssh 연결하자마자 ollama 명령어를 사용할수있습니다.
# 설치된 모델 목록 보는방법
ollama list처음에는 설치가 안되있을겁니다
llm모델을 다운받아 설치해줍니다 (다른모델을 찾고싶으면 이전 글 참조) https://blog.kggstudio.com/open-jarvis/
ollama pull gemma4:26b-a4b-it-q4_K_M실행
ollama run gemma4:26b-a4b-it-q4_K_M이 포스트는 맥에서 사용하는방법을 보는것이라 더 자세히 알아보진않겠습니다 기타 올라마 명령어나 설정방법은 위 링크를 참고해주세요.