MySQL でフェデレーテッド クエリを実行する
プレビュー
この機能はパブリックプレビュー段階です。
この記事では、Databricks によって管理されていない MySQL データに対してフェデレーション クエリを実行するためにレイクハウスフェデレーションをセットアップする方法について説明します。 レイクハウスフェデレーションの詳細については、「 レイクハウスフェデレーションとは」を参照してください。
レイクハウスフェデレーションを使用して MySQL データベースに接続するには、Databricks Unity Catalog メタストアに以下を作成する必要があります。
MySQL データベース への接続 。
Unity Catalog で MySQL データベースをミラーリングする 外部カタログ で、クエリー 構文 Unity Catalog データガバナンス ツールを使用してデータベースへの Databricks ユーザー アクセスを管理できます。
始める前に
ワークスペースの要件:
ワークスペースで Unity Catalogが有効になっています。
コンピュート 要件:
Databricks Runtime クラスターまたは SQLウェアハウスからターゲット データベース システムへのネットワーク接続。レイクハウスフェデレーションのネットワークに関する推奨事項を参照してください。
Databricks クラスターでは、Databricks Runtime 13.3 LTS 以上と共有またはシングルユーザー アクセス モードを使用する必要があります。
SQLウェアハウスは Pro またはサーバレスである必要があります。
必要な権限:
接続を作成するには、メタストア管理者であるか、ワークスペースにアタッチされている Unity Catalog メタストアに対する
CREATE CONNECTION
権限を持つユーザーである必要があります。外部カタログを作成するには、メタストアに対する
CREATE CATALOG
権限を持ち、接続の所有者であるか、接続に対するCREATE FOREIGN CATALOG
権限を持っている必要があります。
追加のアクセス許可要件は、以降の各タスクベースのセクションで指定されています。
接続 を作成する
接続では、外部データベース システムにアクセスするためのパスと資格情報を指定します。 接続を作成するには、カタログ エクスプローラーを使用するか、Databricks ノートブックまたは Databricks SQL クエリー エディターで CREATE CONNECTION
SQL コマンドを使用できます。
必要な権限: メタストア管理者または CREATE CONNECTION
権限を持つユーザー。
Databricks ワークスペースで、[ カタログ] をクリックします 。
左側のウィンドウで、[ 外部データ ] メニューを展開し、[ 接続] を選択します。
[ 接続の作成] をクリックします。
わかりやすい 接続名を入力します。
[ 接続の種類 ] として [MySQL] を選択します。
MySQL インスタンスの次の接続プロパティを入力します。
ホスト: たとえば、
mysql-demo.lb123.us-west-2.rds.amazonaws.com
ポート: たとえば、
3306
ユーザー: たとえば、
mysql_user
パスワード: たとえば、
password123
(オプション)[ 接続のテスト ] をクリックして、動作することを確認します。
(オプション)コメントを追加します。
[作成]をクリックします。
ノートブックまたは Databricks SQL クエリー エディターで次のコマンドを実行します。
CREATE CONNECTION <connection-name> TYPE mysql
OPTIONS (
host '<hostname>',
port '<port>',
user '<user>',
password '<password>'
);
資格情報などの機密性の高い値には、プレーンテキスト文字列の代わりに Databricks シークレット を使用することをお勧めします。 例えば:
CREATE CONNECTION <connection-name> TYPE mysql
OPTIONS (
host '<hostname>',
port '<port>',
user secret ('<secret-scope>','<secret-key-user>'),
password secret ('<secret-scope>','<secret-key-password>')
)
ノートブックの SQL コマンドでプレーンテキスト文字列を使用する必要がある場合は、 $
などの特殊文字を\
でエスケープして、文字列が切り捨てられるのを避けてください。 たとえば、 \$
です。
シークレットの設定に関する情報については、「 シークレット管理」を参照してください。
外部カタログ の作成
外部カタログは、外部データ システム内のデータベースをミラーリングするため、Databricks と Unity カタログを使用して、そのデータベース内のデータへのアクセスを管理できます。 外部カタログを作成するには、すでに定義されている DATA への接続を使用します。
外部カタログを作成するには、カタログ エクスプローラーを使用するか、Databricks ノートブックまたは Databricks SQL クエリー エディターで CREATE FOREIGN CATALOG
SQL コマンドを使用できます。
必要なアクセス許可: メタストアに対する CREATE CATALOG
アクセス許可と、接続の所有権または接続に対する CREATE FOREIGN CATALOG
特権。
Databricks ワークスペースで、[ カタログ] をクリックします 。
[ カタログの作成] ボタンをクリックします。
[新しいカタログの作成] ダイアログで、カタログの名前を入力し、[種類] の [外部 ] を選択します。
Unity Catalog カタログとしてミラーリングするデータベースへのアクセスを提供する 接続 を選択します。
[作成]をクリックします。
ノートブックまたは Databricks SQL エディターで次の SQL コマンドを実行します。 括弧内の項目はオプションです。 プレースホルダー値を置き換えます。
<catalog-name>
: Databricksのカタログの名前。<connection-name>
: データソース、パス、およびアクセス資格情報を指定する 接続オブジェクト 。
CREATE FOREIGN CATALOG [IF NOT EXISTS] <catalog-name> USING CONNECTION <connection-name>;
サポートされているプッシュダウン
次のプッシュダウンは、すべてのコンピュートでサポートされています。
フィルター
予測
極限
関数: 部分的、フィルター式のみ。 (文字列関数、数学関数、データ、時刻、タイムスタンプ関数、およびエイリアス、キャスト、並べ替え順序などの他の関数)
次のプッシュダウンは、Databricks Runtime 13.3 LTS 以降および SQL ウェアハウスでサポートされています。
集計
Boolean演算子
次の数学関数 (ANSI が無効になっている場合はサポートされません): +、-、*、%、/
制限付きで使用する場合の並べ替え
次のプッシュダウンはサポートされていません。
結合
Windows の機能
データ型マッピング
MySQL から Spark に読み込む場合、データ型は次のようにマップされます。
MySQL タイプ |
Spark タイプ |
---|---|
bigint (signedでない場合)、10 進数 |
DecimalType |
tinyint*, int, integer, mediumint, smallint |
IntegerType |
bigint(signed) |
LongType |
float |
FloatType |
double |
DoubleType |
char, enum, set |
CharType |
varchar |
VarcharType |
json, longtext, mediumtext, text, tinytext |
StringType |
binary, blob, varbinary, varchar binary |
BinaryType |
bit, boolean |
BooleanType |
date, year |
DateType |
datetime, time, timestamp** |
TimestampType/TimestampNTZType |
tinyint(1) signed
はBooleanとして扱われ、BooleanType
に変換されます。 Connector/J リファレンスを参照してください。 * MySQLから読み取ると、 MySQL Timestamp
は preferTimestampNTZ = false
の場合 (無事) Spark TimestampType
にマッピングされます。 preferTimestampNTZ = true
の場合、MySQL Timestamp
TimestampNTZType
にマップされます。