Ollama를 설치하면 기본으로 local IP에 bind 되어있다.
외부 내트워크에서 Mac에서 실행중인 ollama에 접근하려면 listening binding을 바꿔줘야한다.
Ollama FAQ에 How can I expose Ollama on my network? 내용이 나온다.
- Ollama 디폴트는 127.0.0.1:11434 에 bind함.
- binding을 변경하려면
OLLAMA_HOST환경변수 값을 변경해야 함.
launchctl setenv OLLAMA_HOST "0.0.0.0"IntelliJ에서 Local LLM 사용하기에서 테스트 해보니 잘 작동한다.
Ollama가 업데이트 되면 이 명령을 다시 실행해줘야 한다.
업데이트 후
launchctl getenv해보면 설정이 사라져있다…