Systemd环境变量

当需要向systemd传递环境变量参数时,例如,我在 Ollama使用NVIDIA GPU运行大模型 实践中,需要向 ollama 服务进程传递环境变量:

/etc/systemd/system/ollama.service 设置 ollama 服务运行环境变量
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_MODELS=/huggingface.co/ollama/models"
Environment="CUDA_VISIBLE_DEVICES=GPU-794d1de5-b8c7-9b49-6fe3-f96f8fd98a19"

[Install]
WantedBy=default.target

上述配置 /etc/systemd/system/ollama.service 我增加了两个环境变量,分别用来指定大模型文件存储位置以及运行时将推理计算在 NVIDIA GPU 上运行

参考