OB Cloud Vector 与 Dify 集成

OceanBase 从 V4.3.3 开始支持向量类型存储、向量索引、embedding 向量检索的能力。可以将向量化后的数据存储在 OceanBase，供下一步的检索使用。

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。

Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上。

本文介绍如何将 OceanBase Cloud 中的向量检索功能与 Dify 集成。

前提条件

• 您的环境中有可用的事务型（MySQL）集群实例。

请参考 创建租户完成租户创建后，再参考下述步骤操作。

• 您的环境中已存在可以使用的 MySQL 租户和 MySQL 数据库和账号，并已对数据库账号授予读写权限。如需创建，详情参见 创建账号和 创建数据库（仅 MySQL）。

• 您拥有项目管理员或实例管理员角色可对项目中的实例进行读写操作，如无权限，可联系组织管理员添加权限。

• 本集成教程在 Docker 容器平台中进行，确保您已搭建好 Docker 容器平台。

部署 Dify

部署 Dify 请参考 Docker Compose 部署。做出以下改动：

• 修改 .env 中的 VECTOR_STORE 变量值为 oceanbase。
• 使用 docker compose --profile oceanbase up -d 启动服务。

使用 Dify

步骤一：获取数据库连接信息

1. 在下拉框中，根据 ID 选择您的集群实例。

2. 进入实例工作台页面。

3. 单击连接，选择 获取连接串。

4. 在弹出框中选择 使用公共网络。

5. 获取访问地址，选择 添加当前浏览器 IP 地址。

6. 填写数据库相关信息，复制连接串。

步骤二：接入大模型

使用 Dify 接入大模型请参考 接入大模型。