解决ollama使用cline和roo code遇到api request无限循环的问题
先说原因,类似roo code的编程工具,会需要较大上下文支持,而ollama的num_ctx默认只有2048,那么AI一直重复api request这个动作,最大可能就是丢弃了上下文,导致AI忘记了之前干的事情。
解决方法:编写modelfile,假设文件名为modelfile.txt,文件内容为:
FROM deepseek-r1:32b-qwen-distill-q4_K_M PARAMETER num_ctx 32768
其中deepseek-r1:32b-qwen-distill-q4_K_M为你的模型名字,新的名字随便取,假设为deepseek-r1:32b。
打开cmd,切换到文件所在目录,执行:
ollama create -f modelfile.txt deepseek-r1:32b ollama rm deepseek-r1:32b-qwen-distill-q4_K_M ollama show deepseek-r1:32b --modelfile
至此,可用deepseek-r1:32b这个模型干活了。