태그: ollama

Docker 드라이버를 사용하여 Ollama와 Web UI 실행하는 Job 샘플입니다.
Web UI의 외부 노출을 위해 bridge 네트워크 모드를 사용해야 할 수 있습니다. 이경우 CNI가 설치되어야 합니다.

Nomad CNI setup

Link : https://developer.hashicorp.com/nomad/docs/networking/cni

export ARCH_CNI=$( [ $(uname -m) = aarch64 ] && echo arm64 || echo amd64)
export CNI_PLUGIN_VERSION=v1.6.2
curl -L -o cni-plugins.tgz "https://github.com/containernetworking/plugins/releases/download/${CNI_PLUGIN_VERSION}/cni-plugins-linux-${ARCH_CNI}-${CNI_PLUGIN_VERSION}".tgz && \
  sudo mkdir -p /opt/cni/bin && \
  sudo tar -C /opt/cni/bin -xzf cni-plugins.tgz

25. 6. 16.약 3 분