独立开发者节点

愿每一位独立开发者都能保持初心,获得一个好的结果.

zhangsimon

任务中途切换模型时,需要提示模型理解上下文吗?

  •  
  •   zhangsimon · Mar 15 · 1151 views
    This topic created in 101 days ago, the information mentioned may be changed or developed.

    使用 antigravity 因为模型冷却时间必须中途进行更换 我在更换到其他模型时 需要给新的模型说下上下文吗? 还是他自己会去读取和理解?

    如果每换一次模型,模型会重新读取和理解上下文 那是不是频繁切换模型,token 消耗会比一个模型更多?

    MajestySolor
        1
    MajestySolor  
       Mar 15
    我是这样理解的,对话中切换模型会严重降智,就是因为缺少之前的上下文情景🤣
    kulove
        2
    kulove  
       Mar 15 via Android
    不用 目前模型本身不存储数据 每次调用都是把完整上下文传过去的
    Tink
        3
    Tink  
    PRO
       Mar 15
    不需要,但是新开 session 肯定是最好把之前上下文告诉他
    Tink
        4
    Tink  
    PRO
       Mar 15   ❤️ 1
    但是频繁切换模型一定会多消耗 tokens ,因为缓存命中会很低
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   987 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 19:30 · PVG 03:30 · LAX 12:30 · JFK 15:30
    ♥ Do have faith in what you're doing.