| 1234567891011121314151617 |
- ####################################################### DOCKER #######################################################
- COMPOSE_FILE=docker-compose.yml
- COMPOSE_PROJECT_NAME=rag-inference
- ####################################################### PROJECT #######################################################
- # Ollama
- OLLAMA_HOST=ollama
- OLLAMA_PORT=11434
- OLLAMA_URL=http://${OLLAMA_HOST}:${OLLAMA_PORT}
- OLLAMA_MODEL=qwen3:8b
- OLLAMA_MODELS=qwen3:8b
- OLLAMA_MAX_LOADED_MODELS=1
- # Chroma
- CHROMA_HOST=chroma
- CHROMA_PORT=8000
|
