pipeline-llm

History

yumoqing fba76a0cdc fix(inference): 同步路径注入prompt便利变量——两路径模板命名空间一致(2026-09-08实测根因)

提取生成器为DashScope生成类模型产的request_template用{{ prompt }}(messages末条
文本),此前只异步路径_build_async_body注入;同步生成路径复用_build_upstream_body
时StrictUndefined渲染崩"Object of type Undefined"(qwen-image-plus实测0.1s失败)。

2026-09-08 13:38:02 +08:00

__init__.py

refactor: load_llm 规范化为 load_pipeline_llm(load_<模块名>约定)+保留旧名别名(accounting_worker 零改动)

2026-09-07 13:57:42 +08:00

accounting.py

fix(记账): 同步调用usage原文落usages+出账补prompt_tokens_details/hour维度——根治derived缓存变量求值失败(uncache_tokens=0输入不计费)与忙闲时分档计价缺失(2026-09-07实测qwen3.8-max记账failed根因)

2026-09-07 16:57:43 +08:00

gateway.py

fix(gateway): 同能力备链铁律——显式指定模型不可用时禁止跨能力静默顺延(2026-09-07 qwen-image-plus实测:指定t2i模型无key账号→旧逻辑补t2t备链→静默返回deepseek文字还报ok:true,要图得文当成功);_model_chain指定模型只补同能力备链+owner容错链同能力过滤,无同能力替代则报可行动错误(违反禁止静默回退铁律,且毒害invoke_model自动选型)

2026-09-07 18:38:25 +08:00

inference.py

fix(inference): 同步路径注入prompt便利变量——两路径模板命名空间一致(2026-09-08实测根因)