docs: Sage技术白皮书+市场宣传稿
This commit is contained in:
parent
9a8d36d337
commit
338e0e3882
135
docs/marketing-promo.md
Normal file
135
docs/marketing-promo.md
Normal file
@ -0,0 +1,135 @@
|
||||
# Sage 智能平台 — 市场宣传稿
|
||||
|
||||
## 一句话
|
||||
|
||||
**Sage:让 AI 服务成为可运营、可计费、可编排的商业产品。**
|
||||
|
||||
---
|
||||
|
||||
## 我们解决了什么问题
|
||||
|
||||
AI 时代的企业面临三个核心难题:
|
||||
|
||||
1. **模型太多,管理太难** — 通义、DeepSeek、MiniMax、火山方舟……每个供应商 API 不同,接入成本高
|
||||
2. **计费复杂,算不清账** — 按 token?按秒?按次?不同模型不同定价,客户账单一团乱
|
||||
3. **产线分散,效率低下** — 多个 AI 服务各自为政,无法编排成完整的业务流程
|
||||
|
||||
**Sage 用一套平台解决全部问题。**
|
||||
|
||||
---
|
||||
|
||||
## 核心能力
|
||||
|
||||
### ① 统一模型网关 — 一个接口,接入所有 AI
|
||||
|
||||
```
|
||||
OpenAI 兼容 API Sage llmage 网关 上游 AI 服务
|
||||
───────────────── ───────────────── ─────────────
|
||||
/v1/chat → → 通义千问
|
||||
/v1/image → 模型路由 + → 通义万相
|
||||
/v1/video → 计费 + 权限 → MiniMax
|
||||
/v1/models → → 火山方舟
|
||||
/pipeline/submit → → 自建 GPU 服务
|
||||
```
|
||||
|
||||
- **146+ 模型**已接入,文本/图像/视频/语音全覆盖
|
||||
- **OpenAI 兼容 API**,零代码迁移
|
||||
- **一行配置**新增模型,无需改代码
|
||||
|
||||
### ② 智能计费引擎 — 每一分钱都算得清清楚楚
|
||||
|
||||
| 计费方式 | 示例 |
|
||||
|---------|------|
|
||||
| 按量计费 | ASR 语音识别:0.01元/秒 |
|
||||
| 按次计费 | 人脸检测:0.10元/次 |
|
||||
| 按时长 | 视频生成:0.05元/秒 |
|
||||
| 套餐/折扣 | 客户专属折扣、分销商差价 |
|
||||
|
||||
- 实时余额检查,欠费自动拦截
|
||||
- 后台自动记账,零人工对账
|
||||
- 支持多级分销折扣体系
|
||||
|
||||
### ③ KTV 产线 — 从一首歌到一部 MV,全自动
|
||||
|
||||
```
|
||||
上传音频 → 自动分离人声/伴奏 → AI 生成 28 个场景视频
|
||||
→ 逐字卡拉OK字幕 → 片头+水印 → 输出 KTV + MTV
|
||||
```
|
||||
|
||||
**全部通过 API 自动化完成**,无需人工介入。
|
||||
|
||||
- 内置模型选择流程:客户看到费用预估,自主选择视频模型
|
||||
- 费用透明:每个子步骤独立计费,总费用一目了然
|
||||
- 容错机制:20% 容错预算,自动重试失败任务
|
||||
|
||||
### ④ 完整商业闭环
|
||||
|
||||
```
|
||||
客户注册 → API Key 管理 → 余额充值 → 调用服务 → 自动记账 → 账单导出
|
||||
```
|
||||
|
||||
- 多租户隔离,数据安全
|
||||
- 分销商/供应商多级管理体系
|
||||
- 优惠券、折扣、促销活动支持
|
||||
|
||||
---
|
||||
|
||||
## 谁在用 / 谁能用
|
||||
|
||||
| 用户类型 | 使用场景 |
|
||||
|---------|---------|
|
||||
| **AI 服务商** | 将自己的 GPU 服务包装为 API 产品,上架销售 |
|
||||
| **内容创作者** | 一键制作 KTV/MV,AI 写词、AI 演唱、AI 视频 |
|
||||
| **企业 IT** | 统一管理公司所有 AI 服务接入,控制成本 |
|
||||
| **代理商** | 代理销售 AI 服务,赚取差价佣金 |
|
||||
| **开发者** | 通过 OpenAI 兼容 API 快速开发 AI 应用 |
|
||||
|
||||
---
|
||||
|
||||
## 技术亮点
|
||||
|
||||
- **异步任务引擎**:长耗时任务自动轮询,不阻塞用户
|
||||
- **供应商抽象层**:更换底层模型只需改配置,不换代码
|
||||
- **xls2ddl 建表**:Excel 设计数据库,自动生成 DDL + CRUD
|
||||
- **浏览器测试**:CDP 协议自动化端到端测试
|
||||
- **热更新**:配置修改即时生效,无需重启
|
||||
|
||||
---
|
||||
|
||||
## 与竞品的差异
|
||||
|
||||
| 对比维度 | Sage | 传统 API 网关 | 单一模型平台 |
|
||||
|---------|------|-------------|------------|
|
||||
| 模型接入 | 146+ 任意供应商 | 有限 | 自有模型 |
|
||||
| 计费能力 | 按量/按次/套餐/折扣 | 简单限额 | 固定定价 |
|
||||
| 产线编排 | 多步骤自动化 | ❌ | ❌ |
|
||||
| 客户管理 | 多租户+分销 | ❌ | 简单 |
|
||||
| 部署方式 | 私有化部署 | 云服务 | SaaS |
|
||||
|
||||
---
|
||||
|
||||
## 案例:KTV 产线实测数据
|
||||
|
||||
**《女儿国的秋》制作全过程:**
|
||||
|
||||
| 步骤 | 服务 | 耗时 | 费用 |
|
||||
|------|------|------|------|
|
||||
| 音频分离 | Demucs (full) | 65秒 | 1.31元 |
|
||||
| 场景生成 | HappyHorse T2V × 28 | ~10分钟 | ~14元 |
|
||||
| 视频合成 | ffmpeg | 30秒 | — |
|
||||
| **总计** | | | **~16元** |
|
||||
|
||||
产出:213MB KTV 视频(双音轨+卡拉OK字幕)+ 210MB MTV 视频
|
||||
|
||||
---
|
||||
|
||||
## 立即开始
|
||||
|
||||
```bash
|
||||
# 一行命令体验 KTV 产线
|
||||
curl -X POST https://your-sage.com/llmage/v1/pipeline/submit \
|
||||
-H "Authorization: Bearer YOUR_KEY" \
|
||||
-d '{"model":"ky-demucs-separate","audio_file":"song.mp3"}'
|
||||
```
|
||||
|
||||
**联系元境团队,获取完整部署方案:元境出品 欢乐随行**
|
||||
208
docs/technical-whitepaper.md
Normal file
208
docs/technical-whitepaper.md
Normal file
@ -0,0 +1,208 @@
|
||||
# Sage 智能平台技术白皮书
|
||||
|
||||
## 一、平台概述
|
||||
|
||||
Sage 是一个面向 AI 时代的智能服务管理平台,集模型网关、计费引擎、产线编排、权限管理于一体,为企业提供从 API 接入到业务结算的全链路基础设施。
|
||||
|
||||
**核心理念**:一套平台,统一管理所有 AI 服务的接入、调度、计费和客户关系。
|
||||
|
||||
## 二、系统架构
|
||||
|
||||
```
|
||||
┌──────────────────────────────────────────────────────────┐
|
||||
│ 客户端层 │
|
||||
│ Web 管理后台 │ API 调用 (OpenAI 兼容) │ CLI Agent │
|
||||
└──────────────┬───────────────────────────────────────────┘
|
||||
│
|
||||
┌──────────────▼───────────────────────────────────────────┐
|
||||
│ Sage 平台核心 │
|
||||
│ │
|
||||
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌────────────┐ │
|
||||
│ │ 权限管理 │ │ 模型网关 │ │ 计费引擎 │ │ 产线编排 │ │
|
||||
│ │ RBAC + │ │ llmage │ │ Pricing │ │ Pipeline │ │
|
||||
│ │ Session │ │ UAPI │ │ Engine │ │ Orchestrator│ │
|
||||
│ └──────────┘ └──────────┘ └──────────┘ └────────────┘ │
|
||||
│ │
|
||||
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌────────────┐ │
|
||||
│ │ 文件管理 │ │ 知识库 │ │ 营销引擎 │ │ 多语言 │ │
|
||||
│ │ FileMgr │ │ RAG/KDB │ │ Discount │ │ i18n │ │
|
||||
│ └──────────┘ └──────────┘ └──────────┘ └────────────┘ │
|
||||
└──────────────┬───────────────────────────────────────────┘
|
||||
│
|
||||
┌──────────────▼───────────────────────────────────────────┐
|
||||
│ 基础设施层 │
|
||||
│ ahserver (异步HTTP) │ sqlor (数据库) │ Redis │ Nginx │
|
||||
│ Hermes Agent │ 浏览器测试 (CDP) │ SSH 远程调度 │
|
||||
└──────────────────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
## 三、核心模块
|
||||
|
||||
### 3.1 模型网关 (llmage)
|
||||
|
||||
**功能**:统一的 AI 模型接入层,支持 OpenAI 兼容 API。
|
||||
|
||||
| 特性 | 说明 |
|
||||
|------|------|
|
||||
| 多供应商 | 同时接入通义、MiniMax、火山方舟、Vidu、自建 GPU 等 |
|
||||
| 协议统一 | 标准 `/v1/chat/completions`、`/v1/models` 等 OpenAI 兼容接口 |
|
||||
| 异步任务 | 内置 asyncinference 引擎,支持 submit→poll→result 异步流水线 |
|
||||
| 数据模板 | Jinja2 模板引擎,灵活适配不同供应商的请求/响应格式 |
|
||||
| 参数映射 | `_file` 命名规范,自动处理文件 → URL 转换 |
|
||||
|
||||
**已接入模型**:146+ 模型,涵盖文本对话、文生图、文生视频、语音识别、人脸识别、音频分离、歌曲评分、声音转换、超分辨率等。
|
||||
|
||||
### 3.2 计费引擎 (Pricing)
|
||||
|
||||
**功能**:灵活的多维度计费系统,支持按量计费、套餐计费、渠道折扣。
|
||||
|
||||
| 特性 | 说明 |
|
||||
|------|------|
|
||||
| 按量计费 | 支持 audio_seconds、image_count、video_seconds 等多种计价因子 |
|
||||
| 独立定价 | 每个模型独立 ppid,不同服务不同单价 |
|
||||
| 自动记账 | backend_accounting 后台循环处理,实时结算 |
|
||||
| 余额管控 | checkCustomerBalance 前置检查,欠费自动阻拦 |
|
||||
| 定价模板 | YAML 格式定价数据,price_factors + unit_prices 灵活配置 |
|
||||
|
||||
**定价示例(KTV 产线)**:
|
||||
|
||||
| 服务 | 单价 | 计价因子 |
|
||||
|------|------|---------|
|
||||
| 语音识别 | 0.01元/秒 | audio_seconds |
|
||||
| 音频分离 | 0.02元/秒 | audio_seconds |
|
||||
| 人脸检测 | 0.10元/次 | detect_count |
|
||||
| 字幕渲染 | 0.01元/条 | subtitle_count |
|
||||
| 超分辨率 | 0.50元/张 | image_count |
|
||||
| 声音转换 | 0.15元/秒 | audio_seconds |
|
||||
|
||||
### 3.3 权限管理 (RBAC)
|
||||
|
||||
**功能**:基于角色的访问控制,支持 Session 管理、跨进程缓存同步。
|
||||
|
||||
| 特性 | 说明 |
|
||||
|------|------|
|
||||
| 角色体系 | 支持 admin/logined/anonymous/any 四级默认角色 + 自定义角色 |
|
||||
| 路径权限 | 每个 DSPY/UI 端点可独立配置访问权限 |
|
||||
| Session 管理 | Redis 存储,跨进程共享,自动过期 |
|
||||
| 缓存同步 | 权限变更自动广播所有工作进程 |
|
||||
| 审计日志 | 完整的访问日志和操作记录 |
|
||||
|
||||
### 3.4 产线编排 (Pipeline)
|
||||
|
||||
**功能**:将多个 AI 原子服务编排为完整的业务流程。
|
||||
|
||||
**KTV 产线示例**(14 个 GPU 服务 → llmage API 统一调度):
|
||||
|
||||
```
|
||||
音频准备 → Demucs 分离(人声/伴奏/MIDI) → ASR 语音识别(逐字时间戳)
|
||||
↓ ↓
|
||||
人声提取 精准字幕生成
|
||||
↓ ↓
|
||||
RVC 变声 卡拉OK渲染
|
||||
↓ ↓
|
||||
┌──────────────── 视频合并 ────────────────────┘
|
||||
↓
|
||||
输出:KTV 视频(双音轨) + MTV 视频 + ASS 字幕
|
||||
```
|
||||
|
||||
**核心特性**:
|
||||
- 全链路通过 llmage API 调度,不直连 GPU
|
||||
- 异步任务自动轮询
|
||||
- 自动记账(每个子任务独立计费)
|
||||
- 费用预估 + 模型选择(客户参与决策)
|
||||
|
||||
### 3.5 模型选择与费用预估
|
||||
|
||||
产线内置智能模型选择流程:
|
||||
|
||||
```
|
||||
故事板生成 → 模型选择(费用预估) → 视频生成
|
||||
↓
|
||||
客户看到:
|
||||
- 快乐马:0.03元/秒,快速经济
|
||||
- 通义万象 WAN 2.7:0.05元/秒,高质量 ⭐推荐
|
||||
- 豆包 Seedance 2.0:0.08元/秒,旗舰级
|
||||
↓
|
||||
客户选择 → 按选择生成
|
||||
```
|
||||
|
||||
**费用预估包含**:
|
||||
- 总视频时长 × 单价 = 基础费用
|
||||
- 20% 容错系数(重试/失败)
|
||||
- 其他服务费用明细(demucs + ASR + 字幕等)
|
||||
|
||||
## 四、技术特性
|
||||
|
||||
### 4.1 异步流水线
|
||||
|
||||
Sage 的 asyncinference 引擎提供完整的异步任务管理:
|
||||
|
||||
```
|
||||
POST /v1/pipeline/submit → {"taskid":"...","status":"PENDING"}
|
||||
→ 后台轮询 (每 5s)
|
||||
→ GET /status?task_id=xxx → {"status":"SUCCEEDED","usage":"..."}
|
||||
→ 自动更新 llmusage → 触发记账
|
||||
```
|
||||
|
||||
### 4.2 供应商抽象 (UAPI)
|
||||
|
||||
通过统一的 UAPI 层实现供应商无关的接口抽象:
|
||||
|
||||
```yaml
|
||||
供应商配置:
|
||||
ktv-gateway: https://ktv.opencomputing.net:10443
|
||||
tongyi-wan: https://dashscope.aliyuncs.com
|
||||
vidu: https://api.vidu.com
|
||||
|
||||
端点模板:
|
||||
demucs-separate: POST /demucs/api/demucs-separate
|
||||
asr-transcribe: POST /asr/api/asr-transcribe
|
||||
realesrgan-upscale: POST /realesrgan/api/realesrgan-upscale
|
||||
```
|
||||
|
||||
每个端点通过 Jinja2 模板处理请求/响应转换,实现供应商 API 差异的透明化。
|
||||
|
||||
### 4.3 数据库设计规范
|
||||
|
||||
- 统一使用 xls2ddl 建表工具
|
||||
- 字符集标准:`utf8mb4 COLLATE utf8mb4_unicode_ci`
|
||||
- 支持 emoji、多语言字符
|
||||
- 自增 ID + UUID 双标识体系
|
||||
|
||||
### 4.4 前端框架
|
||||
|
||||
- 基于 bricks-mp(自研 JSON 驱动 UI 框架)
|
||||
- 支持 Jinja2 服务端渲染
|
||||
- 暗色主题、响应式布局
|
||||
- 浏览器端到端测试(CDP 协议)
|
||||
|
||||
## 五、部署架构
|
||||
|
||||
```
|
||||
┌─────────────────┐ ┌──────────────────┐
|
||||
│ tokentest │ │ production │
|
||||
│ 测试环境 │ │ 生产环境 │
|
||||
├─────────────────┤ ├──────────────────┤
|
||||
│ Sage :9180 │ │ Sage :9180 │
|
||||
│ MariaDB │ │ MariaDB │
|
||||
│ Redis │ │ Redis │
|
||||
│ Nginx :443 │ │ Nginx :443 │
|
||||
└────────┬────────┘ └────────┬─────────┘
|
||||
│ │
|
||||
└───────────┬───────────┘
|
||||
│
|
||||
┌──────────▼──────────┐
|
||||
│ GPU 计算集群 │
|
||||
│ opencomputing.net │
|
||||
├─────────────────────┤
|
||||
│ Demucs :9083 │
|
||||
│ ASR :9925 │
|
||||
│ RealESRGAN :9082 │
|
||||
│ Face :9081 │
|
||||
│ ... │
|
||||
└─────────────────────┘
|
||||
```
|
||||
|
||||
## 六、总结
|
||||
|
||||
Sage 平台通过统一的模型网关、灵活的计费引擎、完善的权限管理和可编排的产线系统,为企业提供了一站式的 AI 服务商业化平台。无论是简单的 API 代理还是复杂的多步骤 AI 工作流,Sage 都能以一致的方式管理和计费。
|
||||
Loading…
x
Reference in New Issue
Block a user