helm repo add vllm https://vllm-project.github.io/helm-charts
helm repo update

helm upgrade --install vllm vllm/vllm \
  --namespace vllm --create-namespace \
  --set resources.requests."nvidia\.com/gpu"=1 \
  --set resources.limits."nvidia\.com/gpu"=1 \
  --set extraArgs="{--model,mistralai/Mistral-7B-v0.1}"

        __
        __