大模型集成

ODC 在 V4.4.1 版本开放支持 AI 大模型集成能力，实现 AI 数据研发能力。

背景信息

SQL 控制台集成了 AI 能力，可以帮助查询 OceanBase 数据库知识和 SQL 开发技巧，也可以进行 SQL 生成、改写、纠错、格式化等智能处理。

向量库配置

配置大模型集成前，需要使用 oceanbase 向量库存储元数据，支持两种实现方式：

• 使用 ODC 元数据库作为向量库
• 使用独立部署的 OceanBase 向量库

使用 ODC 源数据库作为向量库

ODC 默认使用元数据库作为向量库，无需额外修改元数据。但需要满足一下条件：

• 元数据库版本在 V4.3.3 及以上。
• 配置项 ob_vector_memory_limit_percentage 已开启。详细说明请参见 ob_vector_memory_limit_percentage。

使用独立部署的 OceanBase 向量库

使用独立部署的 OceanBase 向量库，需要打开 ob_vector_memory_limit_percentage 配置项，然后修改 ODC 的元数据库配置。

1. 登录独立部署的 OceanBase 数据库，按实际配置登录。

2. 开启配置项 ob_vector_memory_limit_percentage，详细说明请参见 ob_vector_memory_limit_percentage。

3. 登录 ODC 元数据库，按实际配置的访问信息进行登录。

4. 执行如下 SQL 命令，配置 OceanBase 向量库登录信息。

   insert into config_system_configuration (`key`,value) values ('odc.datasource.vectordb.url','jdbc:oceanbase://{数据库ip}:{数据库端口}/{数据库名称}?allowMultiQueries=true&zeroDateTimeBehavior=convertToNull&useCompatibleMetadata=true');
   	insert into config_system_configuration (`key`,value) values ('odc.datasource.vectordb.username','{数据库用户名}');
   	insert into config_system_configuration (`key`,value) values ('odc.datasource.vectordb.password','{数据库密码}');
   	insert into config_system_configuration (`key`,value) values ('odc.datasource.vectordb.driver-class-name', 'com.oceanbase.jdbc.Driver');
   

5. 重启 ODC。

模型配置

1. 登录 Web 版 ODC 后，在左侧导航栏，单击 外部集成 > 大模型集成。

2. 在大模型集成界面，启用 AI 服务区域中，打开 AI 服务右侧的开关，并选择需要使用的功能 嵌入式对话/代码补全。

   

3. 选择系统默认模型。跟多的模型选择，请参见 添加模型。

   

   • SQL 生成模型：设置 SQL 生成、改写和补全使用的默认模型。

   • Embedding 模型：设置文本嵌入处理的默认模型，切换后可能导致检索失败，请谨慎操作。

添加模型

ODC 支持自定义添加模型，包括 CHAT 类型和 EMBEDDING 类型，当前支持的供应商有 DeepSeek/豆包/OpenAl-API-compatible/通义千问。

下文以添加豆包模型为例。

1. 单击豆包区块右下角的 添加模型。

   

2. 在添加模型界面中，选择模型类型并填写相关配置项。

   

3. 单击 确定。

4. 在模型右侧区域查看添加完成的模型，支持进行编辑和删除。