【AI学习笔记】Openclaw配置Ollama本地大模型上下文窗口大小

背景

• 此前在Windows系统上装了Openclaw，配置了本地的大模型，当时用的是Qwen3模型，使用下来发现调用和运行本地的工具上有很大问题，经常运行失败，因此弃用了一段时间。

配置Ollama本地大模型上下文窗口

• 近期Qwen3.5模型发布，我又重新配置了一下，配置了9b的模型，Ollama本地直接跑的时候，消耗的显存大概是10GB的样子。但是当我用Openclaw直接调用9b模型的时候，发现显存消耗高达20GB，多了整整一倍，运行起来非常卡顿。

• 我排查了很长时间，后来发现，是因为Openclaw直接调用本地Ollama的API端口识别模型，默认读取了元数据，被告知9b模型的最大上下文窗口是256K，所以Openclaw就按照最大的256K开了上下文窗口，一旦运行就把我的4090显卡撑满了。

• 后来通过问智谱清言，并自己做了一些测试，发现了该如何修改本地Ollama模型的上下文窗口和Maxtoken的配置。其中的核心配置部分如下，供大家参考（Openclaw.json文件）：

{  "models": {    "mode": "merge",    "providers": {      "ollama": {        "baseUrl": "http://127.0.0.1:11434",        "api": "ollama",        "apiKey": "ollama-local",        "models": [          {            "id": "qwen3.5:9b",            "name": "qwen35-9b",            "contextWindow": 65536,    //关键：限制上下文窗口，控制显存开销            "maxTokens": 32768     //控制单次最大的token          }        ]      }    }  },}

• 当我把上下文窗口限制在64K之后，显存消耗立即降低到了12GB左右，运行流畅度提升了很多，也不影响长对话，体验提升了很多。

一些小tips

• openclaw.json文件是支持热修改的，就是一旦你修改了openclaw.json中的参数，无须重启服务，在下次的对话中，Openclaw会自动读取更新后的配置参数，在调试适合自己配置的参数时非常方便，大家可以试一下。

• 在有些教程里，会说同步修改model.json文件里的上下文窗口，如果是通过ollama的api调用的话，这种方式通常无效，因为Openclaw会通过api自动读取元数据，对model.json中的内容进行覆盖。一般来说，是不需要手动修改model.json文件的。

• qwen3.5:9b模型，我自己试用下来，觉得进步还是比较大的，日常对话、写些简单的脚本都没有问题。希望开源模型能够继续进步，在提升自身能力的同时，让硬件的消耗要求下降，让消费级的算力也可以拥有体验良好的本地大模型，相信未来是会朝着这个方向进化的。