原来我一直用ollama amd专版,使用起来不太方便。
今天试了一下lmstudio,居然原生支持amd gpu,开箱即用,方便很多。
但是在模型下载速度上,还是ollama最快,
国内直连情况下,ollama pull
命令可以达到30MB/s左右。
在lmstudio下只能达到4-5MB/s。
原来我一直用ollama amd专版,使用起来不太方便。
今天试了一下lmstudio,居然原生支持amd gpu,开箱即用,方便很多。
但是在模型下载速度上,还是ollama最快,
国内直连情况下,ollama pull
命令可以达到30MB/s左右。
在lmstudio下只能达到4-5MB/s。