lmstudio 原生支持AMD显卡,开箱即用,比ollama方便很多

Posted by backup@lfo.cc; tagged with none

原来我一直用ollama amd专版,使用起来不太方便。
今天试了一下lmstudio,居然原生支持amd gpu,开箱即用,方便很多。

但是在模型下载速度上,还是ollama最快,
国内直连情况下,ollama pull 命令可以达到30MB/s左右。
在lmstudio下只能达到4-5MB/s。