各製品の資料を入手。
詳細はこちら →Denodo Platform でDatabricks のデータソースを作成
CData JDBC ドライバを使ってDenodo Virtual DataPort Administrator でDatabricks のデータ の仮想データソースを作成します。
最終更新日:2022-02-28
この記事で実現できるDatabricks 連携のシナリオ
こんにちは!テクニカルディレクターの桑島です。
Denodo Platform は、エンタープライズデータベースのデータを一元管理するデータ仮想化製品です。CData JDBC Driver for Databricks と組み合わせると、Denodo ユーザーはリアルタイムDatabricks のデータと他のエンタープライズデータソースを連携できるようになります。この記事では、Denodo Virtual DataPort Administrator でDatabricks の仮想データソースを作成する手順を紹介します。
最適化されたデータ処理が組み込まれたCData JDBC Driver は、リアルタイムDatabricks のデータを扱う上で比類のないパフォーマンスを提供します。Databricks にSQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされているSQL 操作をDatabricks に直接渡し、サポートされていない操作(主にSQL 関数とJOIN 操作)は組み込みSQL エンジンを利用してクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使ってDatabricks のデータを操作および分析できます。
Databricks Virtual Port を作成
Denodo からリアルタイムDatabricks のデータに接続するには、JDBC Driver のJAR ファイルをDenodo の外部ライブラリディレクトリにコピーし、Virtual DataPort Administration Tool から新しいJDBC データソースを作成する必要があります。
- CData JDBC Driver for Databricks インストーラーをダウンロードしてパッケージを展開し、JAR ファイルを実行してドライバーをインストールします。
- JAR ファイル(およびライセンスファイルがある場合はそれも)をインストール先(通常はC:\Program Files\CData\CData JDBC Driver for Databricks\lib\)からDenodo 外部ライブラリディレクトリ(C:\Denodo\Denodo Platform\lib-external\jdbc-drivers\cdata-databricks-19)にコピーします。
- Denodo Virtual DataPort Administration Tool を開き、Server Explorer タブに移動します。
- 「admin」を右クリックし、「New」->「Data source」->「JDBC」を選択します。
- JCBC Connection を設定します。
- Name:任意の名前(例:databricks)
- Database adapter:Generic
- Driver class path:C:\Denodo\Denodo Platform\lib-external\jdbc-drivers\cdata-databricks-19
- Driver class:cdata.jdbc.databricks.DatabricksDriver
Database URI:必要な接続プロパティを使用してJDBC のURL に設定。例えば次のようになります。
jdbc:databricks:Server=127.0.0.1;Port=443;TransportMode=HTTP;HTTPPath=MyHTTPPath;UseSSL=True;User=MyUser;Password=MyPassword;
Database URI の作成については以下を参照してください。
組み込みの接続文字列デザイナー
JDBC URL の作成の補助として、Databricks JDBC Driver に組み込まれている接続文字列デザイナーが使用できます。JAR ファイルをダブルクリックするか、コマンドラインからjar ファイルを実行します。
java -jar cdata.jdbc.databricks.jar
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
Databricks 接続プロパティの取得・設定方法
Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database:Databricks データベース名。
- Server:Databricks クラスターのサーバーのホスト名。
- HTTPPath:Databricks クラスターのHTTP パス。
- Token:個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks への認証
CData は、次の認証スキームをサポートしています。
- Basic
- 個人用アクセストークン
- Azure Active Directory(AD)
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
Basic
Basic 認証には、ユーザー名とパスワードが必要です。以下を設定します。
- AuthScheme:Basic。
- User:ユーザーネーム。これはデフォルト値("Token")をオーバーライドします。
- Token:パスワード。
その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。
- 「接続テスト」をクリックして設定を確認し、「保存」をクリックします。
Virtual DataPort Administration Tool でDatabricks のデータを表示
データソースを作成したら、Denodo Platform で使用するDatabricks のデータの基本ビューを作成できます。
- 新しく作成したVirtualPort(admin.Databricks)で「Create base view」をクリックします。
- オブジェクトツリーを展開し、インポートしたいオブジェクト(テーブル)を選択します。
- 「Create selected」をクリックしてDatabricks のデータのビューを作成します。
オプション:「Create associations from foreign keys」をクリックして、オブジェクト間の関係を定義します。 - ビューを作成した状態で、Server Explorer のテーブル(cdata_databricks_customers)に移動し、選択したテーブルをダブルクリックします。
- 新しいタブで「Execution panel」をクリックしてクエリパネルを開きます。
- 「Execute」タブでクエリをカスタマイズするか、デフォルトを使用します。
SELECT * FROM cdata_databricks_customers CONTEXT ('i18n'='us_est', 'cache_wait_for_load'='true')
- 「Execute」をクリックすると、データが表示されます。
基本ビューを作成すると、Denodo Platform の他のデータソースと同様にリアルタイムDatabricks のデータを操作できるようになります。例えば、Denodo Data Catalog でDatabricks にクエリを実行できます。
CData JDBC Driver for Databricks の30日の無償評価版をダウンロードして、Denodo Platform でリアルタイムDatabricks のデータの操作をはじめましょう!ご不明な点があれば、サポートチームにお問い合わせください。