ymq
|
58853de72d
|
fix(bridge): project_id透传补全——proxy_chat_completion委托chat_inference带token绑定的project_id;bug_flow的PM确认调用带project_id落流水(配套pipeline-llm 427cd7c,2026-09-10遗留)
|
2026-09-11 15:30:30 +08:00 |
|
ymq
|
f3f82dd448
|
refactor(llm): agent调用收敛到模型治理统一推理API——llm_bridge改HTTP自调用薄客户端(短期token+本进程端口),删旧llm表直查;llm_proxy委托chat_inference;gateway/agent_loop/bug_flow模型解析与缺省模型改走治理链/统一解析,清除写死模型名
|
2026-09-04 17:05:42 +08:00 |
|
ymq
|
6953a27937
|
feat(llm-govern): llm_bridge/llm_proxy 挂治理钩子——门禁前置解析+成功/失败结算
- _resolve_cfg_with_govern: 机构有策略→门禁链(限流/限额/主备容错/端点选择/预授权)；
无策略→__LEGACY__走旧llm表(向后兼容)；治理真实失败抛错禁止静默回退
- llm_call/llm_call_msgs/llm_call_msgs_native 三处接入；失败结算释放预授权写failed流水
- proxy_chat_completion(运行环境token路径)同样接入，按上游真实usage结算
|
2026-09-01 17:27:51 +08:00 |
|
ymq
|
9bb1c5ce65
|
security: LLM 代理端点加失败限速(防 token 枚举)
窗口 300s 内鉴权失败 >= 20 次即拒绝，不再查库(避免枚举放大 DB 压力)。
限速键取 token 前 12 字符，内存不留全量密钥；条目超 5000 清理过期窗口。
|
2026-08-25 14:47:24 +08:00 |
|
ymq
|
106a600c45
|
feat(llm-proxy): 内部 LLM 代理 + 短期 token，真 api_key 永不下发运行环境
运行环境(agent run_shell 子进程/bwrap 沙箱/远程目标机/被开发的 AI 应用)需要调 LLM 时，
不下发真实模型 key，改为签发短期 token(绑定 org_id+project_id+task_id，带过期/调用上限/可吊销)，
运行环境用 token 当 api_key 调本平台 OpenAI 兼容代理端点；真 key 只在服务进程内存解析。
- create_llm_token / verify_llm_token / revoke_llm_token / revoke_task_tokens
- proxy_chat_completion: 按 token 绑定 org_id 解析真 key(机构隔离) + 转发 + 用量回填
- list_llm_tokens: 审计用，不返回 token 明文
|
2026-08-25 14:11:29 +08:00 |
|