Apache Drillの不自然な挙動

この記事はApache Drill Advent Calendar 201521日目のエントリです

最初は備忘録がてら普段使うMySQL、BigQuery、SQLite、Apache DrillのSQLシンタックスの違いでも書こうかと思ったのですが調査が思ったより大変だったのでやめました。ANSI SQLも色々変わってるということは理解出来ました。

ということでApache Drillを使ってて「ん?」と思った挙動をいくつか出してみようかと。1.4時点での情報です。

SELECT 1

シェルで手持ち無沙汰にlspwdを打つようにSQLプロンプトでSELECT 1;を打つ訳ですが、Apache Drillはこれを受け付けてくれません。

まあ、これは不自然というかそういう仕様なのですが正しくは

SELECT 1 FROM (VALUES(1));

です。手持ち無沙汰に打つには少し面倒ですね。そうでなくても日付関数の挙動を確かめたい時にも

SELECT NOW();

などとやりたい訳ですがそれにもFROM (VALUES(1));とダミーのFROM句を付けてあげる必要があります。面倒ですね。

UNIONUNION ALL

UNIONはテーブル同士のレコード間で重複を取り除いた集合を、UNION ALLは重複を取り除かない集合を返します。Apache Drillでも試してみましょう。

SELECT * FROM (VALUES (1, 2, 3) UNION VALUES(4, 5, 6) UNION VALUES(7, 8, 9) UNION VALUES(1, 2, 3));
SELECT * FROM (VALUES (1, 2, 3) UNION ALL VALUES(4, 5, 6) UNION ALL VALUES(7, 8, 9) UNION ALL VALUES(1, 2, 3));

これらのクエリはどういう結果になるでしょうか。答えはこうです。

0: jdbc:drill:zk=local> SELECT * FROM (VALUES (1, 2, 3) UNION VALUES(4, 5, 6) UNION VALUES(7, 8, 9) UNION VALUES(1, 2, 3));
+---------+---------+---------+
| EXPR$0  | EXPR$1  | EXPR$2  |
+---------+---------+---------+
| 1       | 2       | 3       |
+---------+---------+---------+
1 row selected (0.416 seconds)
0: jdbc:drill:zk=local> SELECT * FROM (VALUES (1, 2, 3) UNION ALL VALUES(4, 5, 6) UNION ALL VALUES(7, 8, 9) UNION ALL VALUES(1, 2, 3));
+---------+---------+---------+
| EXPR$0  | EXPR$1  | EXPR$2  |
+---------+---------+---------+
| 7       | 8       | 9       |
| 7       | 8       | 9       |
| 7       | 8       | 9       |
| 7       | 8       | 9       |
+---------+---------+---------+
4 rows selected (0.115 seconds)

うーん。これはバグだと思うんですよね。定数テーブルをキャッシュするようにしてたら全てのレコードで同じ値を参照しちゃって値を書き換えてしまったとか。 UNIONUNION ALLの結果からDISTINCT相当の処理をするなら2番目の結果を見れば最初の結果が従うのもうなずけますし。

ヘッダ付きCSV

Drill 1.4からヘッダ付きCSVの扱いが楽になりましたね。拡張子がcsvのままヘッダ付きCSVにクエリを投げられます。ちょっと試しましょう。

次のようなCSVファイルを用意します。

$ cat ~/Csv/test.csv
foo,bar,baz
1,1.0,"a"
2,2.0,"b"
3,3.0,"c"
4,4.0,"d"
5,5.0,"e"

クエリを投げてみましょう。

0: jdbc:drill:zk=local> SELECT * FROM TABLE(dfs.`/home/kim/Csv/test.csv`(type => 'text', fieldDelimiter => ',', extractHeader => true));
+------+------+------+
| foo  | bar  | baz  |
+------+------+------+
| 1    | 1.0  | a    |
| 2    | 2.0  | b    |
| 3    | 3.0  | c    |
| 4    | 4.0  | d    |
| 5    | 5.0  | e    |
+------+------+------+
5 rows selected (0.12 seconds)

よしよし。じゃあ今度はbazカラムだけ取り出してみましょう。ここで、会社のMacだと

0: jdbc:drill:zk=local> SELECT baz FROM TABLE(dfs.`/home/kim/Csv/test.csv`(type => 'text', fieldDelimiter => ',', extractHeader => true));
+------+------+------+
| foo  | bar  | baz  |
+------+------+------+
| 1    | 1.0  | a    |
| 2    | 2.0  | b    |
| 3    | 3.0  | c    |
| 4    | 4.0  | d    |
| 5    | 5.0  | e    |
+------+------+------+
5 rows selected (0.12 seconds)

のようにカラムを指定しているのにも関らず全てのデータが返ってきていました。その旨を書こうと思ったのですが手元のLinuxマシンだと正しい結果が返ってくるようです。

0: jdbc:drill:zk=local> SELECT `bar` FROM TABLE(dfs.`/home/kim/Csv/test.csv`(type => 'text', fieldDelimiter => ',', extractHeader => true));
+------+
| bar  |
+------+
| 1.0  |
| 2.0  |
| 3.0  |
| 4.0  |
| 5.0  |
+------+
5 rows selected (0.088 seconds)

ちょっと会社で見たのが幻覚だったかもしれないので要調査ですね。

MySQLへの接続

以下のようなSQLを投げた所、ひどく時間が掛かりました。投げた対象はプロダクションのデータが入ってる分析用のDBで、結構な量のデータが入ってます。

SELECT * FROM mysql.mydb.`test` LIMIT 20;

Apache Drill自体レスポンスが悪いのでクエリによってはそんなものかな、と思って最初はそのままにしたのですがふと気になってEXPLAINしてみました。

0: jdbc:drill:zk=localhost:2181> EXPLAIN PLAN FOR SELECT * FROM mysql.mydb.`test` LIMIT 20;
+------+------+
| text | json |
+------+------+
| 00-00    Screen
00-01      Project(columns....)
00-02        SelectionVectorRemover
00-03          Limit(fetch=[20])
00-04            Limit(fetch=[20])
00-05              Jdbc(sql=[SELECT * FROM `mydb`.`test`])
| {
....

Jdbc(sql=[SELECT * FROM mydb.test]) とあるのでなんとMySQLにLIMITをつけずにクエリを投げてます。そしてさらに何故かLimit(fetch=[20])を2回やっています。

まあ、内部でLimitを2回やってるのは良いとしてもMySQLにLimit無しで投げるのはいただけないですね。 分散モデルのDrillからしたら「分散してる俺らの方が処理が速いから全部俺らでやってやるよ」という気概なのかもしれませんがこちらとしてはDBへの負荷も考えて欲しいものです。 まあ、かといってWHERE句にインデックスが付く/付かないだとかその他の句によってMySQLのへの負荷も変わるのでなんとも言えないといえばそうなんですが簡単な場合にpush downしてくれるか あるいは手動でpush down出来る仕組みが欲しいですね。FORCE INDEXみたいに。

さて、色々気になる点はありましたがApache Drillは面白いプロダクトです。 主にビッグデータ分析に使われるようですが私は大きなテーブルからアドホックに抽出したCSVとMySQLにあるマスターデータをJOINするなどの目的で使っていきたいなと思っています。

皆様良いデータ分析ライフを!

Written by κeen