先去ollama官网上进行下载,官网链接:Ollama
这个下载还是挺慢的,要提前预留至少1-2小时的时间
同时,在官网上你也可以查看到ollama支持的所有开源模型
可以创建一个账号,有免费的云模型Tokens,包括qwen3.5,minimax,gemini等大模型在内,额度每周刷新,普通用户用free计划完全够用了
有关命令
ollama serve #启动ollama
ollama create #从模型文件创建模型
ollama show #显示模型信息
ollama run #运行模型
ollama pull #从注册表中拉取模型
ollama push #将模型推送到注册表
ollama list #列出模型
ollama cp #复制模型
ollama rm #删除模型
ollama help #获取有关任何命令的帮助信息
ollama ps #查看运行模型及其占用
ollama run model_name –verbose #模型运行中提供tokens数据(模型运行快慢的指标)
有关环境变量设置
ollama下载本身是默认C盘的,整体的体量也就是几G的大小,本身并不是很大,加上修改起来也很麻烦,就没有必要去修改了,但是对于本地模型的拉取这一点还是很有必要去修改的。
本地安装ollama之后,所有下载的模型都会安装到C:\Users%username%.ollama\models目录下,如有需求可以默认将下载的模型保存到其他盘。具体配置方法如下:
打开「系统环境变量」,新建一个系统变量OLLAMA_MODELS ,然后设置Ollama模型的存储路径。
变量名:OLLAMA_MODELS
变量值(路径):D:\666\OLLAMA(修改为你需要的路径)
设置完成环境变量后记得保存信息,然后重启,环境变量要重启后才能生效!!!
重启打开ollama官方提供的可视化界面,进入setting
