AI 服务概述

AI 服务是 OB Cloud 云数据库提供的统一大模型接入与调用能力。通过 AI 服务，您可以在一个控制台入口中完成模型配置、API Key 管理、模型调用和用量观测，并基于兼容 OpenAI、Anthropic 和 Vertex AI 的接口，快速将大模型能力接入应用系统或数据库内部处理流程。

AI 服务是什么

AI 服务面向需要接入大模型能力的开发者、数据工程师和应用团队，提供统一的模型接入层和调用入口。它帮助您屏蔽不同模型供应商之间的接口差异，将模型配置、调用凭证、数据库内调用和调用统计整合到同一套使用流程中。

借助 AI 服务，您既可以在应用侧通过 HTTP API 调用模型，也可以在 OceanBase 数据库中通过 SQL 和 AI Function 直接使用模型能力，从而更高效地构建问答、生成、向量检索、重排序和智能分析等能力。

AI 服务主要围绕以下几个方面提供能力：

• 模型配置：为不同 AI 任务配置默认模型，方便后续统一调用。

• API Key 管理：创建和管理 API Key，供应用程序、安全服务或集成任务访问 AI 服务。

• 多种调用方式：既支持通过 API 调用模型，也支持在数据库场景中通过 SQL 和 AI Function 使用模型能力。

• 数据库注册模型：支持生成数据库注册 AI 模型所需的 SQL，便于在数据库侧完成模型注册和启用。

• 兼容多种接口协议：提供兼容 OpenAI、Anthropic 和 Vertex AI 的 API 接口，方便复用现有应用接入方式和 SDK 使用习惯。

• 用量可观测：提供 Token 用量、模型维度统计和 API Key 维度统计，帮助您分析调用情况与资源消耗。

使用场景

AI 服务适用于以下场景：

• 应用接入大模型服务：应用通过 API Key 调用模型，快速实现文本生成、摘要、问答、分类等能力。

• 数据库内 AI 处理：结合 OceanBase 的 AI Function，在 SQL 中直接调用模型，实现数据分析、提取、总结、向量化和重排序等能力。

• 向量检索与混合搜索：结合向量能力和大模型能力，构建语义检索、RAG、智能推荐等应用。

• 统一管理多类模型调用：通过统一的模型配置和兼容接口，减少不同模型供应商之间的重复接入工作。

• 用量分析与成本管理：通过模型统计和 API Key 统计，持续优化模型选择、调用频率和资源投入。

优势

相比直接对接多个模型供应商，AI 服务具备以下优势：

• 统一入口，缩短接入周期：模型配置、调用凭证、调用方式和统计分析集中在同一入口，无需分别适配多个模型平台，可更快完成从测试到上线的接入工作。

• 协议兼容性好，降低开发成本：兼容 OpenAI、Anthropic 和 Vertex AI 风格接口，便于快速迁移和复用已有代码，减少接口适配、认证处理和调用流程上的重复开发工作。

• 应用与数据库双通路，提升业务落地效率：既适合应用层集成，也适合数据库内原地调用，能够让应用开发、数据库处理和向量检索围绕同一套服务能力快速组合。

• 模型选型更高效，便于持续扩展：支持设置默认模型，并查看供应商模型清单和调用示例，减少选型和试错成本；当后续需要接入更多模型、更多场景或更多调用方时，也可以沿用现有管理和调用方式平滑扩展。

• 运维和治理更清晰，增强资源可控性：通过 API Key 维度和模型维度统计，更容易识别调用来源、资源消耗和异常波动，也更方便进行权限隔离、成本分析和资源优化。