yumoqing/pipeline-llm
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

docs: README端点选择章节改新约定——端点纯连接点可互换(主机根+region+timeout,protocol标签废止),profile.path承载完整相对路径(含版本段),endpoint_ids空=全部,inference删全URL覆盖分支,根治t2t间歇404

Browse Source
This commit is contained in:
yumoqing 2026-09-12 15:21:34 +08:00
parent 3ea03bedc4
commit cc2e9c5a50
1 changed files with 10 additions and 1 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

11
README.md
View File

@ -10,7 +10,16 @@
2. **容量治理**：供应商限流 → 多账号轮转；多供应商 → 主备模型容错 2. **容量治理**：供应商限流 → 多账号轮转；多供应商 → 主备模型容错
3. **需求侧治理**：组织级模型容错策略、组织限额限流、个人限额限流 3. **需求侧治理**：组织级模型容错策略、组织限额限流、个人限额限流
4. **计费**：双维度记账（成本侧记账号、消费侧记组织/个人），模型挂定价 `pricing_program.ppid` 4. **计费**：双维度记账（成本侧记账号、消费侧记组织/个人），模型挂定价 `pricing_program.ppid`
5. **端点选择**：端点目录配在供应商下（全球配置一次），账号选用端点，客户按区域偏好（prefer/must） 5. **端点选择**：端点目录配在供应商下（全球配置一次），客户按区域偏好（prefer/must）过滤。
**2026-09-12 端点可互换重构**：端点 = 纯连接点（主机根+region+timeout），不再带
protocol 标签、不参与协议过滤；多端点只为冗余/区域/多 key，每个端点支持全部模型。
请求形态（协议/版本段/接口路径）完全由模型适配模板 profile.path 承载——path 是从
主机根起的完整相对路径（含版本段，如 /compatible-mode/v1/chat/completions、
/api/v1/services/aigc/...），运行时 url = 端点主机根 + path。账号 endpoint_ids
空 = 选用全部端点。inference 删除「path 为全 URL 则无视端点」的覆盖分支（模型
禁把端点写进 path）。这根治了 t2t 间歇 404（无 profile 模型被轮询到 api/v1
原生端点拼 chat/completions）。auto-config 提取提示词与归一化（_norm_relative_path
/ normalize_endpoints 主机根收敛）已同步新约定。
## 数据表（9 张） ## 数据表（9 张）