各製品の資料を入手。
詳細はこちら →
製品をチェック
PowerShell からRedshift のデータに接続してデータの取得・更新・挿入・削除・CSV エクスポートを実行する方法
CData PowerShell Cmdlets を使って、Redshift のデータに接続、データの取得・更新・挿入・削除・CSV エクスポートを実行する方法を紹介します。
最終更新日：2023-09-26
この記事で実現できるRedshift 連携のシナリオ
こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。
CData Cmdlets for Redshift を使えば、PowerShell からRedshift に手軽に連携して、データのCRUD やエクスポートを実行できます。
本記事では、Redshift への接続方法からCSV エクスポート、データの操作までサンプルコード付きで解説していきます。
Redshift への接続を設定
それでは、まずはRedshift への接続設定からはじめていきましょう。接続設定にはCData Redshift Cmdlets が必要となります。右側のサイドバーから製品の全機能が使える30日間の無償トライアルがダウンロードできるので、ぜひご利用ください。
インストールが完了したら、プロファイルに以下の行を追加してください。次のPowerShell セッションでモジュールがロードされます。
Import-Module RedshiftCmdlets;
Connect-Redshift コマンドを使ってRedshift との接続を設定します。各接続プロパティの取得方法は次に説明します。
$conn = Connect-Redshift -User "$User" -Password "$Password" -Database "$Database" -Server "$Server" -Port "$Port"
Redshift への接続には次を設定します：
- Server: 接続するデータベースをホストしているクラスタのホスト名およびIP アドレス。
- Port: クラスタのポート。
- Database: データベース名、ブランクの場合ユーザーのデフォルトデータベースになります。
- User: ユーザー名。
- Password: ユーザーのパスワード。
Server およびPort の値はAWS の管理コンソールで取得可能です：
- Amazon Redshift console (http://console.aws.amazon.com/redshift) を開く。
- Clusters ページで、クラスタ名をクリック。
- クラスタのConfiguration タブで、表示された接続文字列からクラスタのURL をコピーします。
これで接続設定は完了です。
Redshift のデータを取得してCSV にパイプライン
接続が完了したので、Orders テーブルデータを取得して結果をCSV ファイルにエクスポートします。
Select-Redshift -Connection $conn -Table Orders | Select -Property * -ExcludeProperty Connection,Table,Columns | Export-Csv -Path c:\myOrdersData.csv -NoTypeInformation
このコードでは、Select-Redshift から取得した結果をSelect-Object に流して、Export-Csv に渡す前にいくつかのプロパティを除外しています。これは、CData Cmdlets が接続情報、テーブル、およびカラム情報を結果セットのそれぞれの行に挿入するためです。それらの情報を表示したくない場合に、Export-Csv コマンドに渡す前に除外を先に行い、そのあとでCSV ファイルにエクスポートします。
それでは、続いてデータの削除や挿入・更新を実行してみます。
データの削除
以下のように、フィルタリングで合致するレコードを削除することができます。
Select-Redshift -Connection $conn -Table Orders -Where "ShipCountry = USA" | Remove-Redshift
データの挿入と更新
データの挿入や更新を使って、加工やクレンジングも行えます。以下の手順では、CSV ファイルのデータを読み込んで挿入対象のオブジェクトに同じレコードが存在するかを確認した上で、存在する場合にはデータを更新、存在しない場合にはデータの挿入を行います。
Import-Csv -Path C:\MyOrdersUpdates.csv | %{ $record = Select-Redshift -Connection $Redshift -Table Orders -Where ("Id = `'"+$_.Id+"`'") if($record){ Update-Redshift -Connection $redshift -Table Orders -Columns ("ShipName","ShipCity") -Values ($_.ShipName, $_.ShipCity) -Where ("Id = `'"+$_.Id+"`'") }else{ Add-Redshift -Connection $redshift -Table Orders -Columns ("ShipName","ShipCity") -Values ($_.ShipName, $_.ShipCity) } }
おわりに
このように、CData Cmdlets を使えばPowerShell でのRedshift のデータへの連携をシンプルに実現できます。ぜひCData PowerShell Cmdlets の30日間無償トライアルをダウンロードして、シンプルかつパワフルなデータ連携をお試しください。
関連コンテンツ
