diff --git a/docs/marketing-promo.md b/docs/marketing-promo.md new file mode 100644 index 00000000..47011583 --- /dev/null +++ b/docs/marketing-promo.md @@ -0,0 +1,135 @@ +# Sage 智能平台 — 市场宣传稿 + +## 一句话 + +**Sage：让 AI 服务成为可运营、可计费、可编排的商业产品。** + +--- + +## 我们解决了什么问题 + +AI 时代的企业面临三个核心难题： + +1. **模型太多，管理太难** — 通义、DeepSeek、MiniMax、火山方舟……每个供应商 API 不同，接入成本高 +2. **计费复杂，算不清账** — 按 token？按秒？按次？不同模型不同定价，客户账单一团乱 +3. **产线分散，效率低下** — 多个 AI 服务各自为政，无法编排成完整的业务流程 + +**Sage 用一套平台解决全部问题。** + +--- + +## 核心能力 + +### ① 统一模型网关 — 一个接口，接入所有 AI + +``` +OpenAI 兼容 API Sage llmage 网关 上游 AI 服务 +───────────────── ───────────────── ───────────── +/v1/chat → → 通义千问 +/v1/image → 模型路由 + → 通义万相 +/v1/video → 计费 + 权限 → MiniMax +/v1/models → → 火山方舟 +/pipeline/submit → → 自建 GPU 服务 +``` + +- **146+ 模型**已接入，文本/图像/视频/语音全覆盖 +- **OpenAI 兼容 API**，零代码迁移 +- **一行配置**新增模型，无需改代码 + +### ② 智能计费引擎 — 每一分钱都算得清清楚楚 + +| 计费方式 | 示例 | +|---------|------| +| 按量计费 | ASR 语音识别：0.01元/秒 | +| 按次计费 | 人脸检测：0.10元/次 | +| 按时长 | 视频生成：0.05元/秒 | +| 套餐/折扣 | 客户专属折扣、分销商差价 | + +- 实时余额检查，欠费自动拦截 +- 后台自动记账，零人工对账 +- 支持多级分销折扣体系 + +### ③ KTV 产线 — 从一首歌到一部 MV，全自动 + +``` +上传音频 → 自动分离人声/伴奏 → AI 生成 28 个场景视频 + → 逐字卡拉OK字幕 → 片头+水印 → 输出 KTV + MTV +``` + +**全部通过 API 自动化完成**，无需人工介入。 + +- 内置模型选择流程：客户看到费用预估，自主选择视频模型 +- 费用透明：每个子步骤独立计费，总费用一目了然 +- 容错机制：20% 容错预算，自动重试失败任务 + +### ④ 完整商业闭环 + +``` +客户注册 → API Key 管理 → 余额充值 → 调用服务 → 自动记账 → 账单导出 +``` + +- 多租户隔离，数据安全 +- 分销商/供应商多级管理体系 +- 优惠券、折扣、促销活动支持 + +--- + +## 谁在用 / 谁能用 + +| 用户类型 | 使用场景 | +|---------|---------| +| **AI 服务商** | 将自己的 GPU 服务包装为 API 产品，上架销售 | +| **内容创作者** | 一键制作 KTV/MV，AI 写词、AI 演唱、AI 视频 | +| **企业 IT** | 统一管理公司所有 AI 服务接入，控制成本 | +| **代理商** | 代理销售 AI 服务，赚取差价佣金 | +| **开发者** | 通过 OpenAI 兼容 API 快速开发 AI 应用 | + +--- + +## 技术亮点 + +- **异步任务引擎**：长耗时任务自动轮询，不阻塞用户 +- **供应商抽象层**：更换底层模型只需改配置，不换代码 +- **xls2ddl 建表**：Excel 设计数据库，自动生成 DDL + CRUD +- **浏览器测试**：CDP 协议自动化端到端测试 +- **热更新**：配置修改即时生效，无需重启 + +--- + +## 与竞品的差异 + +| 对比维度 | Sage | 传统 API 网关 | 单一模型平台 | +|---------|------|-------------|------------| +| 模型接入 | 146+ 任意供应商 | 有限 | 自有模型 | +| 计费能力 | 按量/按次/套餐/折扣 | 简单限额 | 固定定价 | +| 产线编排 | 多步骤自动化 | ❌ | ❌ | +| 客户管理 | 多租户+分销 | ❌ | 简单 | +| 部署方式 | 私有化部署 | 云服务 | SaaS | + +--- + +## 案例：KTV 产线实测数据 + +**《女儿国的秋》制作全过程：** + +| 步骤 | 服务 | 耗时 | 费用 | +|------|------|------|------| +| 音频分离 | Demucs (full) | 65秒 | 1.31元 | +| 场景生成 | HappyHorse T2V × 28 | ~10分钟 | ~14元 | +| 视频合成 | ffmpeg | 30秒 | — | +| **总计** | | | **~16元** | + +产出：213MB KTV 视频（双音轨+卡拉OK字幕）+ 210MB MTV 视频 + +--- + +## 立即开始 + +```bash +# 一行命令体验 KTV 产线 +curl -X POST https://your-sage.com/llmage/v1/pipeline/submit \ + -H "Authorization: Bearer YOUR_KEY" \ + -d '{"model":"ky-demucs-separate","audio_file":"song.mp3"}' +``` + +**联系元境团队，获取完整部署方案：元境出品 欢乐随行** diff --git a/docs/technical-whitepaper.md b/docs/technical-whitepaper.md new file mode 100644 index 00000000..fa5580db --- /dev/null +++ b/docs/technical-whitepaper.md @@ -0,0 +1,208 @@ +# Sage 智能平台技术白皮书 + +## 一、平台概述 + +Sage 是一个面向 AI 时代的智能服务管理平台，集模型网关、计费引擎、产线编排、权限管理于一体，为企业提供从 API 接入到业务结算的全链路基础设施。 + +**核心理念**：一套平台，统一管理所有 AI 服务的接入、调度、计费和客户关系。 + +## 二、系统架构 + +``` +┌──────────────────────────────────────────────────────────┐ +│ 客户端层 │ +│ Web 管理后台 │ API 调用 (OpenAI 兼容) │ CLI Agent │ +└──────────────┬───────────────────────────────────────────┘ + │ +┌──────────────▼───────────────────────────────────────────┐ +│ Sage 平台核心 │ +│ │ +│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌────────────┐ │ +│ │ 权限管理 │ │ 模型网关 │ │ 计费引擎 │ │ 产线编排 │ │ +│ │ RBAC + │ │ llmage │ │ Pricing │ │ Pipeline │ │ +│ │ Session │ │ UAPI │ │ Engine │ │ Orchestrator│ │ +│ └──────────┘ └──────────┘ └──────────┘ └────────────┘ │ +│ │ +│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌────────────┐ │ +│ │ 文件管理 │ │ 知识库 │ │ 营销引擎 │ │ 多语言 │ │ +│ │ FileMgr │ │ RAG/KDB │ │ Discount │ │ i18n │ │ +│ └──────────┘ └──────────┘ └──────────┘ └────────────┘ │ +└──────────────┬───────────────────────────────────────────┘ + │ +┌──────────────▼───────────────────────────────────────────┐ +│ 基础设施层 │ +│ ahserver (异步HTTP) │ sqlor (数据库) │ Redis │ Nginx │ +│ Hermes Agent │ 浏览器测试 (CDP) │ SSH 远程调度 │ +└──────────────────────────────────────────────────────────┘ +``` + +## 三、核心模块 + +### 3.1 模型网关 (llmage) + +**功能**：统一的 AI 模型接入层，支持 OpenAI 兼容 API。 + +| 特性 | 说明 | +|------|------| +| 多供应商 | 同时接入通义、MiniMax、火山方舟、Vidu、自建 GPU 等 | +| 协议统一 | 标准 `/v1/chat/completions`、`/v1/models` 等 OpenAI 兼容接口 | +| 异步任务 | 内置 asyncinference 引擎，支持 submit→poll→result 异步流水线 | +| 数据模板 | Jinja2 模板引擎，灵活适配不同供应商的请求/响应格式 | +| 参数映射 | `_file` 命名规范，自动处理文件 → URL 转换 | + +**已接入模型**：146+ 模型，涵盖文本对话、文生图、文生视频、语音识别、人脸识别、音频分离、歌曲评分、声音转换、超分辨率等。 + +### 3.2 计费引擎 (Pricing) + +**功能**：灵活的多维度计费系统，支持按量计费、套餐计费、渠道折扣。 + +| 特性 | 说明 | +|------|------| +| 按量计费 | 支持 audio_seconds、image_count、video_seconds 等多种计价因子 | +| 独立定价 | 每个模型独立 ppid，不同服务不同单价 | +| 自动记账 | backend_accounting 后台循环处理，实时结算 | +| 余额管控 | checkCustomerBalance 前置检查，欠费自动阻拦 | +| 定价模板 | YAML 格式定价数据，price_factors + unit_prices 灵活配置 | + +**定价示例（KTV 产线）**： + +| 服务 | 单价 | 计价因子 | +|------|------|---------| +| 语音识别 | 0.01元/秒 | audio_seconds | +| 音频分离 | 0.02元/秒 | audio_seconds | +| 人脸检测 | 0.10元/次 | detect_count | +| 字幕渲染 | 0.01元/条 | subtitle_count | +| 超分辨率 | 0.50元/张 | image_count | +| 声音转换 | 0.15元/秒 | audio_seconds | + +### 3.3 权限管理 (RBAC) + +**功能**：基于角色的访问控制，支持 Session 管理、跨进程缓存同步。 + +| 特性 | 说明 | +|------|------| +| 角色体系 | 支持 admin/logined/anonymous/any 四级默认角色 + 自定义角色 | +| 路径权限 | 每个 DSPY/UI 端点可独立配置访问权限 | +| Session 管理 | Redis 存储，跨进程共享，自动过期 | +| 缓存同步 | 权限变更自动广播所有工作进程 | +| 审计日志 | 完整的访问日志和操作记录 | + +### 3.4 产线编排 (Pipeline) + +**功能**：将多个 AI 原子服务编排为完整的业务流程。 + +**KTV 产线示例**（14 个 GPU 服务 → llmage API 统一调度）： + +``` +音频准备 → Demucs 分离(人声/伴奏/MIDI) → ASR 语音识别(逐字时间戳) + ↓ ↓ + 人声提取 精准字幕生成 + ↓ ↓ + RVC 变声 卡拉OK渲染 + ↓ ↓ + ┌──────────────── 视频合并 ────────────────────┘ + ↓ +输出：KTV 视频(双音轨) + MTV 视频 + ASS 字幕 +``` + +**核心特性**： +- 全链路通过 llmage API 调度，不直连 GPU +- 异步任务自动轮询 +- 自动记账（每个子任务独立计费） +- 费用预估 + 模型选择（客户参与决策） + +### 3.5 模型选择与费用预估 + +产线内置智能模型选择流程： + +``` +故事板生成 → 模型选择(费用预估) → 视频生成 + ↓ + 客户看到： + - 快乐马：0.03元/秒，快速经济 + - 通义万象 WAN 2.7：0.05元/秒，高质量 ⭐推荐 + - 豆包 Seedance 2.0：0.08元/秒，旗舰级 + ↓ + 客户选择 → 按选择生成 +``` + +**费用预估包含**： +- 总视频时长 × 单价 = 基础费用 +- 20% 容错系数（重试/失败） +- 其他服务费用明细（demucs + ASR + 字幕等） + +## 四、技术特性 + +### 4.1 异步流水线 + +Sage 的 asyncinference 引擎提供完整的异步任务管理： + +``` +POST /v1/pipeline/submit → {"taskid":"...","status":"PENDING"} + → 后台轮询 (每 5s) + → GET /status?task_id=xxx → {"status":"SUCCEEDED","usage":"..."} + → 自动更新 llmusage → 触发记账 +``` + +### 4.2 供应商抽象 (UAPI) + +通过统一的 UAPI 层实现供应商无关的接口抽象： + +```yaml +供应商配置: + ktv-gateway: https://ktv.opencomputing.net:10443 + tongyi-wan: https://dashscope.aliyuncs.com + vidu: https://api.vidu.com + +端点模板: + demucs-separate: POST /demucs/api/demucs-separate + asr-transcribe: POST /asr/api/asr-transcribe + realesrgan-upscale: POST /realesrgan/api/realesrgan-upscale +``` + +每个端点通过 Jinja2 模板处理请求/响应转换，实现供应商 API 差异的透明化。 + +### 4.3 数据库设计规范 + +- 统一使用 xls2ddl 建表工具 +- 字符集标准：`utf8mb4 COLLATE utf8mb4_unicode_ci` +- 支持 emoji、多语言字符 +- 自增 ID + UUID 双标识体系 + +### 4.4 前端框架 + +- 基于 bricks-mp（自研 JSON 驱动 UI 框架） +- 支持 Jinja2 服务端渲染 +- 暗色主题、响应式布局 +- 浏览器端到端测试（CDP 协议） + +## 五、部署架构 + +``` +┌─────────────────┐ ┌──────────────────┐ +│ tokentest │ │ production │ +│ 测试环境 │ │ 生产环境 │ +├─────────────────┤ ├──────────────────┤ +│ Sage :9180 │ │ Sage :9180 │ +│ MariaDB │ │ MariaDB │ +│ Redis │ │ Redis │ +│ Nginx :443 │ │ Nginx :443 │ +└────────┬────────┘ └────────┬─────────┘ + │ │ + └───────────┬───────────┘ + │ + ┌──────────▼──────────┐ + │ GPU 计算集群 │ + │ opencomputing.net │ + ├─────────────────────┤ + │ Demucs :9083 │ + │ ASR :9925 │ + │ RealESRGAN :9082 │ + │ Face :9081 │ + │ ... │ + └─────────────────────┘ +``` + +## 六、总结 + +Sage 平台通过统一的模型网关、灵活的计费引擎、完善的权限管理和可编排的产线系统，为企业提供了一站式的 AI 服务商业化平台。无论是简单的 API 代理还是复杂的多步骤 AI 工作流，Sage 都能以一致的方式管理和计费。