ラベル Dify の投稿を表示しています。 すべての投稿を表示
ラベル Dify の投稿を表示しています。 すべての投稿を表示

2025年7月16日水曜日

DifyがOracle Databaseに作成したナレッジベースをAPEXアプリケーションで検索する

Difyのナレッジベースの格納先として、比較的簡単にOracle Databaseを利用できます。Difyはナレッジの検索に、Oracle Databaseが提供する全文検索とベクトル検索を活用します。

DifyはAI向けの開発ツールなだけあって、ナレッジベースへのドキュメントの投入、チャンクの分割およびエンべディングの生成など、一通りの作業を開発ツールのUIで実行できます。Dify自体は「Difyプラットフォームに組み込まれたナレッジベース機能とテキスト検索・取得メカニズムには制約があり、検索結果を簡単に変更することができません。」(ドキュメントのここ)と言っていて、高い要求には外部ナレッジベースの連携機能を提供しています。

そのため、Oracle Databaseとの連携という意味では、Oracle Databaseをナレッジベースとして呼び出せる外部連携APIを実装するという手段もあるかとは思います。今回は、手早くテキスト検索とベクトル検索を実装するために、DifyのナレッジベースをAPEXアプリケーションで検索してみます。

Difyの環境は記事「Oracle Database 23ai Freeをベクトル・ストアとしたDifyのローカル環境を作成する」にて紹介している手順で作成しています。DifyおよびOracle Databaseのコンテナは、macOSのpodmanで実行しています。

テキスト・エンべディングのモデルとして、Ollamaのbge-m3:latestを使用するように設定済みとします。


以下よりDifyでナレッジベースを作成して、APEXアプリケーションから検索するまでの作業を紹介します。

最初にDifyでナレッジベースを作成します。

ナレッジタブを開き、ナレッジベースを作成を実行します。


今回はテキストファイルからインポートしてナレッジベースを作成します。

参照をクリックして、アップロードするテキストファイルを選択します。


ファイルを選択したのち、次へ進みます。


APEXアプリケーションから検索できるように、インデックス方法に高品質、検索設定にハイブリッド検索を設定します。エンべディングの生成に使用される埋め込みモデルは、APEXアプリケーションでも使用するモデルになるため、確認しておきます。

検索にハイブリッド検索を設定することにより、エンべディングの生成とOracle Text索引の作成の両方が行われます(実際にはベクトル検索を選んだ時もOracle Text索引が生成されるように見受けられますが、ハイブリッド検索を選んだ方が確実です)。

その他のパラメータは必要に応じて調整します。

保存して処理をクリックします。


チャンクやエンべディングの生成が行われ、ナレッジベースの保管先であるOracle Databaseに保存されます。

ドキュメントに移動します。


アップロードされたドキュメントが利用可能になっていることを確認します。

検索テストを開きます。


ソーステキストに適当な文章を入力し、テスト中をクリックします。

チャンクが検索できたら、とりあえずナレッジベースの作成は完了です。


ナレッジベースの保存先になっているOracle Databaseのスキーマで、SQLを実行します。

今回はOracle APEXのワークスペース・スキーマにナレッジベースを保存しているので、SQLの実行にSQLワークショップのSQLコマンドを使用します。

最初に作成されたナレッジベースの表を探します。以下のSELECT文を実行します。
select object_type, object_name, to_char(created,'RR-MM-DD HH24:MI:SS') created from user_objects
where object_type = 'TABLE' and object_name like 'EMBEDDING_VECTOR_INDEX%NODE' order by created desc

ナレッジベースの表の名前は、EMBEDDING_VECTOR_INDEXで始まりNODEで終わるようです。これは現状がこうだった、ということで今後変わる可能性はあります。

この表名を参照してAPEXアプリケーションを作ると、表名が変わった時に面倒なので、ビューとしてDIFY_KB_TESTを作成します。元表の名前は上記のSELECT文で見つけたOBJECT_NAMEで置き換えます。主キー列はID、チャンクが保存されている列はTEXT(この列にOracle Text索引が作成されています)、エンべディングが保存されている列はEMBEDDINGです。
create or replace view dify_kb_test
as
select id, json_value(meta, '$.source') source, text, embedding from 
EMBEDDING_VECTOR_INDEX_A6C2A40F_41B4_4D1C_B543_3EF634CC408A_NODE;

エンべディングが保存されている列のVECTOR_INFOを確認します。
select column_name, vector_info from user_tab_cols where table_name = 'DIFY_KB_TEST' and data_type = 'VECTOR'
VECTOR(*,*,DENSE)となっているため、エンべディングの次元数や精度を確認するには、表に保存されているエンべディングを参照する必要があります。


ビューDIFY_KB_TESTより1つだけエンべディングを取り出し、次元数と精度を確認します。
select vector_dimension_count(embedding) count, vector_dimension_format(embedding) format 
from dify_kb_test where embedding is not null fetch first 1 rows only;

countが1024、formatがFLOAT64と返されました。APEXアプリケーションで検索文章からエンべディングを生成するときに、この次元数と精度を指定する必要があります。

以上で、Difyのナレッジベースとして作成された表について確認ができました。

これからAPEXでアプリケーションを作成します。

最初にエンべディングを生成するために、Ollamaのbge-m3:latestを呼び出すベクトル・プロバイダを作成します。

データベースに以下のファンクションgenerate_embeddingを作成します。

OllamaのようなローカルLLMをベクトル・プロバイダとする場合はPL/SQLによるカスタム・ファンクションが必要です。ONNXモデル、Oracleの生成AIサービス、OpenAIやCohereであれば、設定だけでベクトル・プロバイダを作成することができます。しかし、Difyがエンべディングを生成する際に選んだ精度とOracle側が選んだ精度が異なる場合は、これらの組み込みのプロバイダでもPL/SQLによるカスタム・ファンクションの作成が必要になるでしょう。

Difyと同じモデルを呼び出せないため、ONNXモデルは対象外になります。

作成したファンクションgenerate_embeddingを呼び出すベクトル・プロバイダを作成します。

共有コンポーネントのベクトル・プロバイダを開きます。


作成済みのベクトル・プロバイダの一覧画面で、作成をクリックします。

プロバイダ・タイプにカスタムPL/SQLを選択します。名前はOllama bge-m3:latest、静的IDはollama_bge_m3_latestとします。

ローカル埋込みのカスタム・ファンクション名に先ほどPL/SQLで作成したファンクションgenerate_embeddingを指定します。

以上で、ベクトル・プロバイダを作成します。


ベクトル・プロバイダとしてOllama bge-m3:latestが作成されました。


空のAPEXアプリケーションを作成します。名前はDifyナレッジベース検索とします。


アプリケーションが作成されたら、共有コンポーネントの構成の検索(検索構成)を開きます。


作成済みの検索構成が一覧されます。作成をクリックし、新規に検索構成の作成を始めます。


最初にベクトル検索の検索構成を作成します。

名前はベクトル検索とします。検索タイプにOracleベクトル検索を選択します。

次へ進みます。


ベクトル・プロバイダに先ほど作成したOllama bge-m3:latestを選択します。ソース・タイプは表、表/ビューの名前としてDIFY_KB_TESTを選択します。

次へ進みます。


主キー列にID、ベクトル列にEMBEDDING、タイトル列にSOURCE、説明列にTEXTを選択します。アイコン・ソースにアイコン・クラスを選択し、アイコンCSSクラスにfa-chatbotを指定します。

以上で検索構成の作成をクリックします。


検索構成としてベクトル検索が作成されます。編集画面が開きます。

必須ではありませんが、後から参照しやすいように静的IDをVECTOR_SEARCHに変更します。

変更の適用をクリックします。


検索構成の一覧画面に戻ります。続けてテキスト検索の検索構成を作成します。


名前はテキスト検索とします。検索タイプにOracle Textを選択します。

次へ進みます。


ソース・タイプは表、表/ビューの名前としてDIFY_KB_TESTを選択します。

次へ進みます。


主キー列にID、Oracle Text索引列にTEXT、タイトル列にSOURCE、説明列にTEXTを選択します。アイコン・ソースにアイコン・クラスを選択し、アイコンCSSクラスにfa-fontを指定します。

以上で検索構成の作成をクリックします。


検索構成としてテキスト検索が作成されます。編集画面が開きます。

必須ではありませんが、後から参照しやすいように静的IDをTEXT_SEARCHに変更します。

変更の適用をクリックします。


以上で検索構成としてベクトル検索とテキスト検索が作成されました。


検索ページを作成します。

ページの作成をクリックします。


コンポーネントとして検索ページを選択します。


作成するページの名前はナレッジベース検索とします。ページ・モードは標準です。構成の検索のテキスト検索とベクトル検索の双方をチェックします。

以上でページの作成をクリックします。


検索ページが作成されます。

今回は検索ができることが確認できるだけで良いので、検索結果のテキスト検索とベクトル検索の双方を選択し、外観の最大結果数を5に制限します。

以上で、ページの保存と実行をクリックします。


検索ページが開かれます。

適当な文章や文字を入力して、ベクトル検索とテキスト検索の双方で検索結果が返されることを確認します。



Difyで全文検索を行った際に以下のエラーが発生しました。

** Resource punkt_tab not found. Please use the NLTK Downloader to obtain the resource: >>> import nltk >>> nltk.download('punkt_tab')  For more information see: https://www.nltk.org/data.html Attempted to load tokenizers/punkt_tab/english/ Searched in: - '/root/nltk_data' - '/app/api/.venv/nltk_data' - '/app/api/.venv/share/nltk_data' - '/app/api/.venv/lib/nltk_data' - '/usr/share/nltk_data' - '/usr/local/share/nltk_data' - '/usr/lib/nltk_data' - '/usr/local/lib/nltk_data' **

原因をClaudeに聞いたところ、以下の回答が得られました。

「このエラーは、Difyのナレッジベースでテキスト処理を行う際に、NLTK(Natural Language Toolkit)のpunkt_tabリソースが見つからないために発生しています。」

対処としてコンテナdocker-api-1にpunktにpunkt_tabをインストールしました。

% podman exec -it docker-api-1 bash

root@4d7fbfca0440:/app/api# python

Python 3.12.11 (main, Jul  1 2025, 10:08:28) [GCC 12.2.0] on linux

Type "help", "copyright", "credits" or "license" for more information.

>>> import nltk; nltk.download('punkt_tab')

[nltk_data] Downloading package punkt_tab to /root/nltk_data...

[nltk_data]   Unzipping tokenizers/punkt_tab.zip.

True

>>> exit

Use exit() or Ctrl-D (i.e. EOF) to exit

>>> 

root@4d7fbfca0440:/app/api# 


punkt_tabをインストールすると、エラーの発生は解消しました。

今回の記事は以上になります。

単純にこのまま使えるというものではありませんが、少なくても検索はできることが確認できました。

今回作成したAPEXアプリケーションのエクスポートを以下に置きました。
https://github.com/ujnak/apexapps/blob/master/exports/dify-knowlegebase-search.zip

Oracle APEXのアプリケーション作成の参考になれば幸いです。

完

2025年3月13日木曜日

APEXアプリケーションに入力したメッセージをDifyのアプリケーションに送信する

先日、Oracle APEXのアプリケーションにiframeで埋め込んだOpen WebUIに、APEXアプリケーションからメッセージを送信できるようにしました。今回はOpen WebUIの代わりにDifyのアプリケーションにメッセージを送ってみます。

APEXアプリケーションは以下のように動作します。


リーバス・プロキシの構成はOpen WebUIの記事と同じです。Difyは以下の記事に従って、ローカルのコンテナ環境で実行します。ただし、EXPOSE_NGINX_PORTに3000を設定し、Open WebUIと同じリバース・プロキシの設定で動作するようにします。

# ------------------------------ 

# Docker Compose Service Expose Host Port Configurations

# ------------------------------

EXPOSE_NGINX_PORT=3000

EXPOSE_NGINX_SSL_PORT=3443


参照する記事:Oracle Database 23ai Freeをベクトル・ストアとしたDifyのローカル環境を作成する

Difyで簡単なチャットボットのアプリケーションを作成し、公開します。


サイトに埋め込むを開きます。

埋め込み方法としてiframeを選択し、埋め込むコードをコピーします。


APEXアプリケーションの構成はOpen WebUIの記事で作成したものと同じです。

以下に違いを説明します。

Difyでは埋め込むiframeのHTMLを生成してくれているので、それを使うようにします。URLのリージョンの代わりに静的コンテンツのリージョンを作成し、ソースのHTMLコードに、DifyからコピーしたHTMLを記述します。外観のテンプレートは装飾の少ないBlank with Attributesを選択します。


ページ・プロパティのJavaScriptのファンクションおよびグローバル変数の宣言に、以下を記述します。Difyのテキスト入力領域はReactコンポーネントのようで、テキストの更新に特別な処理が必要になっています。

Claude 3.7 Sonnetに教えてもらいました。
const channel = new BroadcastChannel('submit-message');

/*
* Reactコンポーネント内のtextareaへの入力シミュレーション
*
* Claude 3.7 Sonnetが以下のプロンプトで教えてくれたコード。
*
* 「textarea要素へのキーボード入力をJavaScriptでシミュレートするには?」
* 「Reactのコンポーネントのキーボード入力をシミュレートするには、どのような内部的な処理が必要ですか?」
*/
function simulateReactTextAreaInput(textareaElement, text) {
    // 1. 値の変更
    // Reactのstate更新をトリガーするためには、changeイベントが必要
    const nativeInputValueSetter = Object.getOwnPropertyDescriptor(
        window.HTMLTextAreaElement.prototype, 'value'
    ).set;
    nativeInputValueSetter.call(textareaElement, text);
  
    // 2. Reactの合成イベントをディスパッチ
    const reactChangeEvent = new Event('input', { bubbles: true });
    textareaElement.dispatchEvent(reactChangeEvent);
  
    // Reactのonchangeハンドラをトリガーするためのイベント
    const reactInputEvent = new Event('change', { bubbles: true });
    textareaElement.dispatchEvent(reactInputEvent);
}
ページ・ロード時に実行に以下を記述します。
channel.addEventListener("message", (event) => {
    const text = event.data.message;
    // iframe内のtextareaを取得する。
    const iframe = document.querySelector('iframe');
    const doc = iframe.contentWindow.document;
    const textarea = doc.querySelector("textarea");
    console.log(textarea);
    // Reactコンポーネントへのテキスト入力。
    simulateReactTextAreaInput(textarea, text);
    // 送信ボタンのクリック。
    setTimeout(() => {
        const parent = textarea.parentElement.parentElement;
        const button = parent.querySelector('button');
        console.log(button);
        button.click();
    }, 1000);
});
以上で、Dify向けのメッセージの受信側の実装は完了です。アプリケーションを実行すると、記事の先頭のGIF動画のように操作できます。

今回の記事は以上になります。

Oracle APEXのアプリケーション作成の参考になれば幸いです。

完

2024年12月13日金曜日

Oracle Database 23ai Freeをベクトル・ストアとしたDifyのローカル環境を作成する

オープンソースのLLMアプリ開発プラットフォームのDifyをApple MシリーズのMacbook Proにインストールします。インストールにあたって、ベクトル・ストアとしてOracle Database 23ai Freeを使用します。ベクトル検索の確認にはエンべディングの生成が必要ですが、それにはローカルで実行しているOllamaを呼び出します。

2025年7月14日追記 - Dify 1.6.0を使用した手順に更新しました。

ベクトル・ストアとして、すでにAPEX向けに作成したワークスペース・スキーマを使用します。DifyのDocker Composeはデフォルトで、Oracle Database 23ai Freeのコンテナを新規作成します。docker-compose.yamlのoracleのprofilesの設定をoracleからoracle-skipへ変更することにより、すでに作成済みのスキーマへの接続に切り替えることができます。

謝辞:oracle-skipの設定については、以下の記事を参考にしています。
DifyでOracle Base Database Service(23ai)を利用する設定手順

以下より、Difyを動かすまでに行った作業を紹介します。作業を行ったマシンは、M4を積んだApple Macbook Pro、OSはmacOS Sequoia 15.5です。

概ね以下のDifyのドキュメントの記載に従って作業を行います。ただし、作業にはdockerの変わりにpodmanを使用します。podman composeを実行する際に外部のcompose providerとしてdocker-composeが呼び出されるように、docker-composeもインストールしておきます。

brewにてpodman、podman-composeおよびdocker-composeをインストールします。

brew install podman podman-compose docker-compose

私の環境ではすでにインストール済みだったので、そのように報告されました。

% brew install podman podman-compose docker-compose

==> Downloading https://formulae.brew.sh/api/formula.jws.json

==> Downloading https://formulae.brew.sh/api/cask.jws.json

Warning: podman 5.5.2 is already installed and up-to-date.

To reinstall 5.5.2, run:

  brew reinstall podman

Warning: podman-compose 1.5.0 is already installed and up-to-date.

To reinstall 1.5.0, run:

  brew reinstall podman-compose

Warning: docker-compose 2.38.2 is already installed and up-to-date.

To reinstall 2.38.2, run:

  brew reinstall docker-compose

% 


podmanの構成コマンドは以下になります。CPU数やメモリ量(ディスクサイズはデフォルトで100GB)は、環境に合わせて調整します。

podman machine init
podman machine set --cpus 8 --memory 16384
podman machine ls
podman machine start

Difyをクローンします。

git clone https://github.com/langgenius/dify.git

% git clone https://github.com/langgenius/dify.git


Cloning into 'dify'...

remote: Enumerating objects: 184984, done.

remote: Counting objects: 100% (1208/1208), done.

remote: Compressing objects: 100% (539/539), done.

remote: Total 184984 (delta 966), reused 683 (delta 669), pack-reused 183776 (from 4)

Receiving objects: 100% (184984/184984), 101.73 MiB | 7.09 MiB/s, done.

Resolving deltas: 100% (135319/135319), done.

% 


Difyのリポジトリに含まれるdockerのディレクトリへ移動します。

cd dify/docker

% cd dify/docker

docker % ls

certbot elasticsearch ssrf_proxy

couchbase-server generate_docker_compose startupscripts

docker-compose-template.yaml middleware.env.example tidb

docker-compose.middleware.yaml nginx volumes

docker-compose.png pgvector

docker-compose.yaml README.md

docker % 


構成ファイルとして.envを作成します。雛形の.env.exampleをコピーします。

cp .env.example .env

docker % cp .env.example .env

docker % 


.envの設定を変更します。

私の環境ではpodmanをルートレス・モードで起動しているため、DifyのHTTPポートに80番を使用できません。以下のEXPOSE_NGINX_PORT、EXPORT_NGINX_SSL_PORTの番号を変更します。以下ではそれぞれ8084、8484に変更しています。

# ------------------------------

# Docker Compose Service Expose Host Port Configurations

# ------------------------------

EXPOSE_NGINX_PORT=8084

EXPOSE_NGINX_SSL_PORT=8484


謝辞:EXPOSE_NGINX_PORTについては、Aran NakayamaさんのQiitaの記事を参考にしています。
podmanを使ってDifyをローカルで動かしてみる(Macユーザー向け)

VECTOR_STOREの設定をoracleに変更します。

# ------------------------------

# Vector Database Configuration

# ------------------------------ 


# The type of vector store to use.

# Supported values are `weaviate`, `qdrant`, `milvus`, `myscale`, `relyt`, `pgvector`, `pgvecto-rs`, `chroma`, `opensearch`, `oracle`, `tencent`, `elasticsearch`, `elasticsearch-ja`, `analyticdb`, `couchbase`, `vikingdb`, `oceanbase`, `opengauss`, `tablestore`,`vastbase`,`tidb`,`tidb_on_qdrant`,`baidu`,`lindorm`,`huawei_cloud`,`upstash`, `matrixone`.

VECTOR_STORE=oracle


Oracle Databaseへの接続先を設定します。

ORACLE_USERに接続先となるデータベース・ユーザー名、ORACLE_PASSWORDに、その接続先ユーザーのパスワードを設定します。接続先となるOracle Databaseはホスト・ポートの1521で接続の待ち受けを行なっているので、ORACLE_DSNの設定はhost.containers.internal:1521/FREEPDB1になります。

ORACLE_IS_AUTONOMOUSはデフォルトでfalseになっています。ORACLE_CONFIG_DIR、ORACLE_WALLET_LOCATION、ORACLE_WALLET_PASSWORDは接続先データベースとしてAutonomous Databaseを選択したときに意味を持つ設定と思われるため、そのままの設定にしています。

# Oracle configuration, only available when VECTOR_STORE is `oracle`

ORACLE_USER=<接続するデータベース・ユーザー>

ORACLE_PASSWORD=<ORACLE_USERのパスワード>

ORACLE_DSN=host.containers.internal:1521/FREEPDB1

ORACLE_CONFIG_DIR=/app/api/storage/wallet

ORACLE_WALLET_LOCATION=/app/api/storage/wallet

ORACLE_WALLET_PASSWORD=dify

ORACLE_IS_AUTONOMOUS=false 


docker-compose.yamlを開き、profilesの設定でoracleとなっている箇所をoracle-skipに変更します。

  # Oracle vector database

  oracle:

    image: container-registry.oracle.com/database/free:latest

    profiles:

      - oracle-skip

    restart: always

    volumes:

      - source: oradata

        type: volume

        target: /opt/oracle/oradata

      - ./startupscripts:/opt/oracle/scripts/startup

    environment:

      ORACLE_PWD: ${ORACLE_PWD:-Dify123456}

      ORACLE_CHARACTERSET: ${ORACLE_CHARACTERSET:-AL32UTF8}


接続先となるデータベース・ユーザーに、最低限必要な権限を与えます。

grant db_developer_role to <接続先データベース・ユーザー>;
grant execute on ctx_ddl to <接続先データベース・ユーザー>;

以下の例では、接続先データベース・ユーザーはWKSP_APEXDEVになっています。

docker % sql sys/*********@localhost/freepdb1 as sysdba



SQLcl: 月 7月 14 12:36:11 2025のリリース25.2 Production


Copyright (c) 1982, 2025, Oracle.  All rights reserved.


接続先:

Oracle Database 23ai Free Release 23.0.0.0.0 - Develop, Learn, and Run for Free

Version 23.8.0.25.04


SQL> grant db_developer_role to wksp_apexdev;


Grantが正常に実行されました。


SQL> grant execute on ctx_ddl to wksp_apexdev;


Grantが正常に実行されました。


SQL> exit

Oracle Database 23ai Free Release 23.0.0.0.0 - Develop, Learn, and Run for Free

Version 23.8.0.25.04から切断されました

docker % 


接続先データベース・ユーザーで接続し、Oracle Textのレクサーをworld_lexerという名前で作成します。実際のレクサーは言語に応じて選択します。以下ではJAPANESE_LEXERを選択しています。
begin
    ctx_ddl.create_preference(
        preference_name => 'world_lexer',
        object_name => 'JAPANESE_LEXER'
    );
end;
/

docker % sql wksp_apexdev/********@localhost/freepdb1



SQLcl: 月 7月 14 12:46:02 2025のリリース25.2 Production


Copyright (c) 1982, 2025, Oracle.  All rights reserved.


接続先:

Oracle Database 23ai Free Release 23.0.0.0.0 - Develop, Learn, and Run for Free

Version 23.8.0.25.04


SQL> begin

  2      ctx_ddl.create_preference(

  3          preference_name => 'world_lexer',

  4          object_name => 'JAPANESE_LEXER'

  5      );

  6  end;

  7* /


PL/SQLプロシージャが正常に完了しました。


SQL> exit

Oracle Database 23ai Free Release 23.0.0.0.0 - Develop, Learn, and Run for Free

Version 23.8.0.25.04から切断されました

docker % 


以上で必要最小限の設定ができました。

Difyの環境の作成と起動を行います。

podman compose up -d

docker % podman compose up -d

>>>> Executing external compose provider "/opt/homebrew/bin/docker-compose". Please see podman-compose(1) for how to disable this message. <<<<


[+] Running 11/11

 ✔ Network docker_default             Created                                                                  0.0s 

 ✔ Network docker_ssrf_proxy_network  Created                                                                  0.0s 

 ✔ Container docker-web-1             Started                                                                  0.2s 

 ✔ Container docker-redis-1           Started                                                                  0.2s 

 ✔ Container docker-sandbox-1         Started                                                                  0.2s 

 ✔ Container docker-db-1              Healthy                                                                  4.7s 

 ✔ Container docker-ssrf_proxy-1      Started                                                                  0.1s 

 ✔ Container docker-api-1             Started                                                                  4.7s 

 ✔ Container docker-plugin_daemon-1   Started                                                                  4.7s 

 ✔ Container docker-worker-1          Started                                                                  4.8s 

 ✔ Container docker-nginx-1           Started                                                                  4.8s 

docker % 


以上でDifyが起動しました。手元のブラウザから接続します。


初回接続時は、管理者アカウントの作成を求められます。

メールアドレス、ユーザー名、パスワードを入力して、セットアップをクリックします。


直前に入力したメールアドレスとパスワードを入力し、サインインします。


サインインできました。


これからベクトル検索ができることを確認します。

今回の作業ではチャット・モデルとしてqwen3:8b、エンべディング・モデルとしてbge-m3:latestを使用します。

Ollamaでこれらのモデルをpullしておきます。

ollama pull bge-m3:latest
ollama pull qwen3:8b


 % ollama pull bge-m3:latest

pulling manifest 

pulling daec91ffb5dd: 100% ▕██████████████████▏ 1.2 GB                         

pulling a406579cd136: 100% ▕██████████████████▏ 1.1 KB                         

pulling 0c4c9c2a325f: 100% ▕██████████████████▏  337 B                         

verifying sha256 digest 

writing manifest 

success 

% ollama pull qwen3:8b

pulling manifest 

pulling a3de86cd1c13: 100% ▕██████████████████▏ 5.2 GB                         

pulling ae370d884f10: 100% ▕██████████████████▏ 1.7 KB                         

pulling d18a5cc71b84: 100% ▕██████████████████▏  11 KB                         

pulling cff3f395ef37: 100% ▕██████████████████▏  120 B                         

pulling 05a61d37b084: 100% ▕██████████████████▏  487 B                         

verifying sha256 digest 

writing manifest 

success 

% 


ユーザー名のプルダウン・メニューに含まれる設定を開きます。


モデルプロバイダーを開き、Ollamaのインストールをクリックします。


Ollamaのプラグインをインストールします。


プラグインとしてOllamaが追加されます。Ollamaにモデルを追加します。


Model TypeとしてText Embeddingを選択します。Model Nameはbge-m3:latest、Base URLは(DifyからみるとOllamaはコンテナ外のホストで動作しているため)、http://host.containers.internal:11434を指定します。

以上で保存します。


続けて、チャット・モデルを追加します。先ほどと同様にモデルを追加をクリックします。

Model TypeにLLMを選択し、Model Nameとしてqwen3:8bを設定します。Base URLはhttp://host.containers.internal:11434です。

Completion ModeにChatを選択します。

今回はベクトル検索の確認だけを行うので、このモデルは使用しません。

以上で保存します。


システムモデル設定をクリックします。


システム推論モデルとしてqwen3:8b、埋め込みモデルとしてbge-m3:latestを設定します。

以上を設定し、保存します。


モデルの設定は、以上で完了です。

ナレッジを開き、ナレッジベースを作成します。


データソースの選択としてテキストファイルからのインポートを選択し、とりあえず空のナレッジベースを作成します。


ナレッジベースの名称はtestとします。作成をクリックします。


ナレッジベースtestが作成されます。

ファイルを追加します。


ナレッジベースに登録するファイルを選択します。

次へ進みます。


Oracle Database 23ai Freeがベクトル・ストアとして使用されることを確認することが目的なので、パラメータの調整などは省きます。

チャンク設定は汎用にします。インデックス・モードは高品質を選択します。検索設定にベクトル検索を選択します。ベクトル・ストアやシステムモデルが設定されているため、これらはデフォルトで選択されています。

以上で保存して処理をクリックします。


ナレッジベースにドキュメントがアップロードされたことを確認し、ドキュメントに移動します。


検索テストを開きます。


ソーステキストにベクトル検索と表示されていることを確認します。

ソーステキストとして適当な文章を入力し、テスト中をクリックします。

取得したチャンクが表示されることを確認します。


精度の確認はさておき、検索結果パラグラフが表示されていれば、ベクトル検索自体は成功しています。ベクトル・ストアとしてOracle Database 23ai Freeは正しく構成されています。

Difyでの確認作業は以上になります。

Oracle Database 23ai Freeに接続し、 接続先スキーマに作成されたオブジェクトを確認します。SQLclを使います。

sql <接続先データベース・ユーザー>/<パスワード>@localhost/freepdb1

docker % sql wksp_apexdev/*******@localhost/freepdb1



SQLcl: 月 7月 14 13:33:03 2025のリリース25.2 Production


Copyright (c) 1982, 2025, Oracle.  All rights reserved.


接続先:

Oracle Database 23ai Free Release 23.0.0.0.0 - Develop, Learn, and Run for Free

Version 23.8.0.25.04


SQL> 


作成されている表を確認します。

select table_name from user_tables where table_name like '%EMBEDDING_VECTOR_INDEX%';

SQL> select table_name from user_tables where table_name like '%EMBEDDING_VECTOR_INDEX%';


TABLE_NAME                                                                        

_________________________________________________________________________________ 

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$I    

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$K    

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$U    

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$Q    

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$C    

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$B    

EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE                  

DR$IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE$N    


8行が選択されました。 


SQL> 


DR$で始まる表はOracle Textの全文索引を構成する表です。おそらくDifyではベクトル・ストアにオラクルを選択すると、ハイブリッド検索にOracle Text検索を使うように構成されているようです。

全文検索索引の構成を確認してみます。

select index_name, parameters from user_indexes where index_type = 'DOMAIN';

Oracle Text索引のレクサーとしてworld lexerが使用されていることが確認できます。

SQL> select index_name, parameters from user_indexes where index_type = 'DOMAIN';


INDEX_NAME                                                                   PARAMETERS                                                                             

____________________________________________________________________________ ______________________________________________________________________________________ 

IDX_DOCS_EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE    FILTER CTXSYS.NULL_FILTER SECTION GROUP CTXSYS.HTML_SECTION_GROUP LEXER world_lexer    


SQL> 


それ以外の表は列TEXTにチャンク分割された文字列、列METAにJSON形式のメタデータ、列EMBEDDINGにベクトルが保存されています。

SQL> desc EMBEDDING_VECTOR_INDEX_95FE2D6B_BFCB_460F_8269_41FD2588CBA3_NODE


名前           Nullかどうか    タイプ                  

____________ ___________ ____________________ 

ID                       VARCHAR2(100)        

TEXT         NOT NULL    CLOB                 

META                     JSON                 

EMBEDDING    NOT NULL    VECTOR(*,*,DENSE)    

SQL> 


今回の記事は以上になります。

完