作者bjk (Up2u)
看板Soft_Job
标题[请益] openclaw 怎麽写档案 wsl vllm 5070ti
时间Wed Apr 15 11:07:38 2026
https://ibb.co/cXv1sKpD
请问怎麽让openclaw写档案,问ai是说我的openclaw没有call tools
某一次有试出来会有闪电标记Tool call
AGENTS.md 已经这样写了
# Tool Usage (CRITICAL)
## When to use tools
You MUST use tools when:
- The task involves real-world data (weather, files, system, web)
但是openclaw还是直接用幻觉,没有实际写档案 call tool
感谢各位大大
我的环境
win11,wsl,vllm,5070ti
python -m vllm.entrypoints.openai.api_server \
--model Qwen/Qwen2.5-3B-Instruct-AWQ \
--quantization awq_marlin \
--gpu-memory-utilization 0.9 \
--max-model-len 32000 \
--enable-auto-tool-choice \
--tool-call-parser hermes
"models": {
"mode": "merge",
"providers": {
"vllm": {
"baseUrl": "
http://127.0.0.1:8000/v1",
"api": "openai-completions",
"apiKey": "VLLM_API_KEY",
"models": [
{
"id": "Qwen/Qwen2.5-3B-Instruct-AWQ",
"name": "Qwen/Qwen2.5-3B-Instruct-AWQ",
"reasoning": false,
"input": [
"text"
],
"cost": {
"input": 0,
"output": 0,
"cacheRead": 0,
"cacheWrite": 0
},
"contextWindow": 128000,
"maxTokens": 8192
}
]
}
}
},
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.231.112.237 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1776222463.A.DDF.html
1F:推 nicetw20xx: 先换opus看看 04/15 12:21
2F:推 v86861062: 我的经验是:OpenClaw 对模型能力有门槛,模型太弱(例如 04/15 12:45
3F:→ v86861062: 3B),通常没办法正常使用工具, 会直接 hallucinate。 04/15 12:45
4F:推 chita0258: Filesystem mcp试试看吧 04/15 13:27
5F:→ bjk: 3q3q 04/15 15:08
6F:→ oopFoo: 起码用Qwen3.5吧,2.5很旧了。4b或9b,先不要Quantized版 04/15 20:45
7F:→ oopFoo: 确定行了,再来。Gemma 4 e4b也不错。 04/15 20:47
8F:推 strlen: 除了GPT 5.4或Opus 4.6其它全都是垃圾 不要浪费时间 04/15 21:38
9F:→ strlen: 就连这两个 有时还会歪哥 更别提其它 04/15 21:38
10F:推 henrylin8086: 人家用local llm可能有他的理由 04/16 13:29
11F:→ henrylin8086: 体验要好一定是课金买云端模型 04/16 13:31
12F:→ henrylin8086: 我建议你先用Gemma4 26B试看看,我16G vram在ollama 04/16 13:34
13F:→ henrylin8086: 上能跑,5060Ti应该也可以 04/16 13:35
14F:→ henrylin8086: 不过我是跑quant过得模型,VRAM就是吃满 04/16 13:38
15F:推 pool3690: 3B跟低bit有时候会有呼叫工具失败的状况,只能建议拉高 04/16 15:54
16F:→ bjk: 感谢大家 04/17 07:44
17F:→ strlen: 本低端模型 你设备能跑得动就偷笑了 不要提蛇摸能力罗 04/18 10:59
18F:→ tennyleaz: 资源不够的话,至少Qwen3 4B看看吧 04/18 11:47