V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
AFOX
27.72D
V2EX  ›  OpenClaw

openclaw 的 vllm tool call 调用问题

  •  
  •   AFOX · 4 天前 · 394 次点击

    各位使用 vllm 跑本地模型的,有没有碰到 openclaw 调用本地模型时,tool call 存在问题?基本无法执行任何工具。

    使用的 qwen 系列模型

    3 条回复    2026-03-10 19:28:15 +08:00
    AoEiuV020JP
        1
    AoEiuV020JP  
       4 天前
    具体是? qwen 应该只有最新的 3.5 支持工具调用,
    另外怀疑模型前可以先接个 api 模型试试看正常了再换本地的,
    openclaw 权限给了没,
    AFOX
        2
    AFOX  
    OP
       4 天前
    @AoEiuV020JP

    api 模型正常的,我后面改为使用 picoclaw ,让 ai 修改代码支持了 qwen3-30b-a3b 的工具调用。我觉得这个问题很奇怪,开源社区有几篇 issue 提到这个问题,但是没有引起讨论,所以发帖问问。
    AFOX
        3
    AFOX  
    OP
       4 天前
    @AoEiuV020JP 具体表现为:模型返回的结果是这种结构:<tool_call> tool call 内容 <tool_cal>,我也不知道对不对,我把日志丢给 AI ,让它帮我修了一下就可以用了
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   1290 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 17:38 · PVG 01:38 · LAX 10:38 · JFK 13:38
    ♥ Do have faith in what you're doing.