クラウドRPA BizteX Connect でSpark のデータにアクセス

CData Connect Server を使ってSpark のデータのOData API エンドポイントを作成し、BizteX Connect からSpark のデータにアクセスする方法。

杉本和也
リードエンジニア
最終更新日：2021-12-23

こんにちは！リードエンジニアの杉本です。

BizteX Connect は BizteX 社が提供する国産iPaaS です。ノーコードでkintone やChatwork などさまざまなクラウドサービスと連携したフローを作成し、業務の自動化・効率化を実現することができます。この記事では、CData Connect Server を経由して BizteX Connect からSpark のデータを取得し活用する方法を説明します。

CData Connect Server は、Spark のデータのクラウド to クラウドの仮想OData インターフェースを提供し、BizteX Connect からリアルタイムにSpark のデータへ連携することができます。
BizteX Connect からSpark にデータ連携。

Spark の仮想OData API エンドポイントを作成

まずCData Connect Server でデータソースへの接続およびOData API エンドポイント作成を行います。

CData Connect Server にログインして、Databases をクリックします。
利用できるデータソースアイコンから"Spark" を選択します。
Spark に接続するために必要なプロパティを入力します。
SparkSQL への接続

SparkSQL への接続を確立するには以下を指定します。
- Server：SparkSQL をホストするサーバーのホスト名またはIP アドレスに設定。
- Port：SparkSQL インスタンスへの接続用のポートに設定。
- TransportMode：SparkSQL サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
- AuthScheme：使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。
Databricks への接続

Databricks クラスターに接続するには、以下の説明に従ってプロパティを設定します。Note：必要な値は、「クラスター」に移動して目的のクラスターを選択し、「Advanced Options」の下にある「JDBC/ODBC」タブを選択することで、Databricks インスタンスで見つけることができます。
- Server：Databricks クラスターのサーバーのホスト名に設定。
- Port：443
- TransportMode：HTTP
- HTTPPath：Databricks クラスターのHTTP パスに設定。
- UseSSL：True
- AuthScheme：PLAIN
- User：'token' に設定。
- Password：パーソナルアクセストークンに設定（値は、Databricks インスタンスの「ユーザー設定」ページに移動して「アクセストークン」タブを選択することで取得できます）。
Test Database をクリックします。
Permission -> Add をクリックして、新しいユーザーを追加し、適切な権限を指定します。
API タブをクリックして OData API エンドポイントが生成されていることを確認します。

プロジェクト・シナリオの作成

CData Connect Server 側の準備が完了したら、早速BizteX Connect 側でプロジェクト・シナリオの作成を開始します。

まずはプロジェクトとシナリオ（フロー）を作成します。シナリオ（フロー）はプロジェクト単位でまとめて管理できるようです。

「新規プロジェクト作成」をクリック

任意の名称でプロジェクトを作成します。

その後「＋新規シナリオ作成」をクリックして、Spark のデータ連携シナリオの作成を進めていきます。

起動イベントの設定

シナリオの作成で一番最初に設定することが、起動イベントの構成です。BizteX Connect ではさまざまな起動イベントが存在しますが、今回は検証用途として「手動」実行にしてみました。

「アプリ選択」の一覧から「一般」を選択し

「ボタンを押して実行」を選択します。

それぞれのイベントでは出力データが変数として格納されます。内容を確認して「完了して次へ」をクリックしましょう。

HTTP コネクタの構成

今回のシナリオでは、Spark のデータを取得して BizteX Connect で扱えるようにします。

CData Connect Server へのアクセスには「HTTPコネクタ」が利用できるので、アプリの一覧から選択します。

アクションは「HTTPリクエスト」を指定します。

続いて、データを取得するためのAPI リクエストを指定します。今回はデータを取得するのでGET リクエストです。対象のURL はCData Connect Server のAPI ドキュメントから取得してきて指定しましょう。

基本設定が完了したら、オプションを指定します。ここで最低限必要になるオプションはCData Connect Server への認証情報の指定です。以下のようなJSON 形式でx-cdata-authtoken のプロパティにCData Connect Server で構成したユーザーのトークンを指定すれば接続が行えます。