Categories: AI/人工智能

Ollama环境变量设置

修改前先要关闭Ollama,修改完成后在开启

Ollama 默认模型在C盘下,到时候模型多了就占用了很多的系统空间,所以要修改下。

另外默认Ollama只允许本机localhost访问,对外访问也要修改下

我们直接修改系统变量添加下面需要修改的地方,这样对这台电脑上的所有人都生效


修改后


OLLAMA_HOST:这个变量定义了Ollama监听的网络接口。通过设置OLLAMA_HOST=0.0.0.0,我们可以让Ollama监听所有可用的网络接口,从而允许外部网络访问。

OLLAMA_MODELS:这个变量指定了模型镜像的存储路径。通过设置OLLAMA_MODELS=F:\OllamaCache,我们可以将模型镜像存储在E盘,避免C盘空间不足的问题。

OLLAMA_KEEP_ALIVE:这个变量控制模型在内存中的存活时间。设置OLLAMA_KEEP_ALIVE=24h可以让模型在内存中保持24小时,提高访问速度。

OLLAMA_PORT:这个变量允许我们更改Ollama的默认端口。例如,设置OLLAMA_PORT=8080可以将服务端口从默认的11434更改为8080。

OLLAMA_NUM_PARALLEL:这个变量决定了Ollama可以同时处理的用户请求数量。设置OLLAMA_NUM_PARALLEL=4可以让Ollama同时处理两个并发请求。

OLLAMA_MAX_LOADED_MODELS:这个变量限制了Ollama可以同时加载的模型数量。设置OLLAMA_MAX_LOADED_MODELS=4可以确保系统资源得到合理分配。

OLLAMA_ORIGINS: 允许的源列表,星号*或使用逗号分隔。

王哥哥

Share
Published by
王哥哥

Recent Posts

VMware ESXi 8.0 生产环境模拟实验9-网络设置

网络设置 标准交换机 我之所以…

4 天 ago

VMware ESXi 8.0 生产环境模拟实验8-配置VCSA

配置VCSA VCSA加域 加…

4 天 ago

VMware ESXi 8.0 生产环境模拟实验7-安装VCSA

安装VCSA 我们在一台Win…

4 天 ago

VMware ESXi 8.0 生产环境模拟实验6-配置ESXi主机

配置ESXi主机 前面我们域控…

4 天 ago

VMware ESXi 8.0 生产环境模拟实验5-安装iSCSI主机

安装iSCSI主机 网络设置 …

4 天 ago

VMware ESXi 8.0 生产环境模拟实验4-安装域控

安装域控 这里具体安装就不写太…

4 天 ago