/var/log/laughingman7743.log

I thought what I'd do was, I'd pretend I was one of those deaf-mutes or should I?

BigQueryのデータセット管理ツール作った

BigQuery のデータセットも Terraform で管理*1ができるのですが、権限の管理に対応していない。。。 ぶっちゃけ Terraform じゃなくて、もっとシンプルな形 (ステートファイルを持たず、設定ファイルのみ管理する形) で管理したいなと思い作ってみました。 …

PyAthenaでRedashのクエリランナー書いた

プルリクマージされました。ありがとうございます。 これでカジュアルにAthenaにクエリ投げまくりですね。 Enjoy!

AWS請求レポートをPyArrowでParquet+Snappyに変換する

AWSコストの可視化として、請求レポート*1をAthena*2でクエリを投げられる形式に変換して、Redash*3でダッシュボードを作成していたりします。 元データがCSV+ZIPと非常に扱いにくい形式なのでCSV+GZIPに変換していたのですが、カラムナー形式に変換すると良…

Amazon AthenaのPythonクライアント書いた

AthenaがAPI/CLIに対応した*1ので boto3*2で少し使ってみたのですが、クエリ実行結果のパースが非常にめんどくさい。 もっとカジュアルにクエリを投げたいなってことで、PEP249*3に準拠したクライアント書きました。 使い方はJDBC版*4と変わらないです。コー…

PyAthenaJDBCでRedashのクエリランナー書いてみた

redash-athena-proxy*1を使ってRedashからAthenaにクエリを投げれる環境を作っていたのですが、どうもtimestamp型やdate型の戻り値が日付として上手く認識しない。。。 おそらくproxy側のGSONの日付型のシリアライズ設定の問題かと思われるのですが、調べる…

S3DistCpをリモート実行したい

S3DistCp*1をよく使うのですが、 複数のS3DistCpを実行する場合、クラスタにステップを追加する形だと1ステップづつシーケンシャルに実行され、かなり待たされることになります。 ステップを追加する形ではなく、SSHでリモート実行できると任意のタイミング…

PythonからAmazon AthenaにJDBC接続するラッパー

暇を持て余していたので作ってみました。 バージョン番号は諸事情により1.0.1となってしまいました。(心温かみのある手作業でのリリースはまずい。。。) 既知の問題点 Decimal型をフェッチすると落る ドライバのバグのようです。フォーラムにも上がってまし…

PythonでAmazon Athenaにつなぐ

Amazon Athena*1への接続は現状JDBCしかサポートされていない。。。やっぱりPythonからつなぎたいですよね! PythonからJDBCでつなぐには、Py4J*2やJPype*3あたりを使うと良さそうですが、Py4JはJavaでGatewayServerを作成し、別プロセスで起動しなければな…

Hiveでカレンダーテーブルを簡単に作る

集計処理でカレンダーテーブルがあると何かと便利なのでカレンダーテーブルを作りたいなと思ったのですが、HiveにはPostgreSQLのgenerate_seriesのような関数がない。。。 UDFなら作っている人がいそうな気がしたので調べてみると、Hivemall*1のUDFにgenerat…

Feedlyではてなブックマーク数が表示されなくなったので雑に直した

オリジナルは以下です。 Feedly 移行記念、Feedly をはてブ対応させるユーザースクリプト – OTCHY.NET Enjoy!

EMRでADD JARしたくない場合の対処法

Hive ブートストラップアクションでJARを適当なディレクトリに配置し、hive-envの設定をしてやればADD JARしなくて良くなります。 (以下は /usr/lib/hive/plugin ディレクトリにJARを配置しています) Presto PrestoにはそもそもADD JARはないので、JSONデー…

HiveでネストしたJSONデータのテーブルマッピング

HiveでJSONデータを処理する場合には、json_tuple*1や get_json_object*2を使えば処理できますが、複雑なJSONだとクエリがカオスに。。。json_tupleやget_json_objectでがんばるよりも、struct型やarray型*3を使ったテーブル定義を作ってマッピングしてやる…

Hive便利UDF

元ネタがJSONだったりするとリストやマップの処理でいろいろとつらいってことで、かゆいところに手が届くUDF詰め合わせ。かなり便利です。ありがたい。 今日もETLバッチ処理でHive大活躍ですわ! Enjoy!

ELBのログをLambda、Norikra、Mackerelを使っていい感じに処理する

ELBが結構504を返したりしていたりするので、Lambda、Norikra、Mackerelを使ってモニタリングできるように処理してみました。 S3 -> Norikra ELBは適当に5分ぐらいの間隔でS3にログを出力するようにしておき、 S3のオブジェクト作成イベントをトリガに起動、…

Docker-in-DockerできるJNLP用Jenkinsスレーブ

Docker内でSSHのデーモンは上げたくないし、Supervisorもインストールしたくないなということで、dindできるJNLP用Jenkinsスレーブのイメージつくてみました。 JenkinsオフィシャルのJNLP用スレーブ*1とdind*2を組み合わせただけですが。。。 Alpine版 Ubunt…

Docker環境でのre:dashのDBマイグレーション

re:dash*1のDBマイグレーションはfabricスクリプト*2が提供されていますが、fabricだとSSHする形になるのでDocker環境では都合が悪いです。 なんとかならないかなと適当にシェルスク書いてみました。 envfile、現在のバージョン、マイグレーション先のバージ…

EMR 4.4.0でJSON SerDe

HiveでJSON SerDeであれば rcongiu/Hive-JSON-Serde*1 を使うのが一般的かと思われますが、 EMR 4.4.0からHCatalogが使えるようになっているので*2、 HCatalogのJSON SerDe*3を使うこともできます。 /usr/lib/hive-hcatalog/share/hcatalog/ 以下にJarがある…

AlpineLinuxでNorikraのDockerイメージ作ってみた

Norikra*1を手軽に使いたいってことでAlpineLinux*2でイメージ作ってみました。 https://hub.docker.com/r/laughingman7743/docker-alpine-norikra/ AlpineLinuxを使うとかなりイメージを小さくできて良いですね。それでも200MBぐらいありますが。。。 Enjoy…

AmazonECSデプロイスクリプトをPythonで再実装してみた

シェルスクリプト*1つらいってことでPythonで再実装してみました。基本的な使い方は変わらないです。(古いタスクが終了するまで待つとかなり時間がかかる場合があるので、forceフラグで新しいタスクのlastStatusがRUNNINGになったら古いタスクを強制的に止め…

PythonでRequestsを使ったSlackのAttachments通知でハマった

以下のようにattachmentsの中身をjosn.dumpsしてやればOK。 POST(application/x-www-form-urlencoded)で送っているので、ネストしたオブジェクトはJSON形式の文字列にする必要があります。 POSTでもContentTypeをapplication/jsonで、BodyをJSON形式で送るよ…

Kinesis + Lambdaの組み合わせが便利

fluentd*1で出力先をいろいろと追加するよりは、一旦Kinesisに突っ込んでLambdaで処理した方がいろいろと捗る感じがします。 特に部署やチーム毎に欲しいログの形式、バケット、パスの切り方(時間単位 or 日単位 or サーバ単位 etc...)、出力先(S3、Kibana e…

Redshift便利スクリプト

AWSLabsのGithubリポジトリにいろいろと便利なスクリプトがあります。 日次でVacuum処理やAnalyze処理を夜間に走らせたいということで、 Analyze & Vacuum Schema Utility*1をAirflow*2で使いたいなと思いましたが、 クラス化されていなかったり、ログがファ…

Boto3でEMR

最近HiveでETL処理とかするためにEMRをよくさわっています。Boto3からクラスタ起動したりステップ追加したりしています。 Boto2だとクラスタ作成時にセキュリティグループの設定等をapi_paramsに追加する形になり非常にわかりにくいです。 Boto3だとJSONライ…

Elasticsearchに空間データを突っ込む

例のごとく国土交通省のデータをダウンロードしてきてElasticsearchに突っ込んで検索してみます。 国土数値情報ダウンロードサービス GDALのドキュメント*1を参照するとogr2ogrコマンドでシェープファイルを直接Elasticsearchに投入できそうですが、 マッピ…

Playframework2.4 + Slick3.0で複数のデータベースに接続する

@NamedDatabaseアノテーションをつければ対応するDB名のDatabaseConfigProviderをDIしてくれます*1が、 なんとなくDatabaseConfigProviderをDIしたくないなってことで、別の方法で実装してみた。 どちらにしてもPlay.currentに依存してるのであまり意味ない…

Playframework2.4でActionBuilderから利用するサービスクラスをDIする方法

laughingman7743/play24-action-composition-di-example 以下のようにActionBuilderをtraitとしてコンポーネント化し、利用するコントローラ側でコンポーネントをミックスイン、 コントローラのコンストラクタでサービスクラスをDIしてやれば良さそう。 これ…

Playframework2.4で独自に追加したディレクトをdistやstageタスクに含めるたった1つの方法

以下の様なプロジェクト構成で、独自に追加したfooやhogeディレクトリをアプリ配布時に含めたい場合。 build.sbtでUniversalのマッピング定義にパスとストア先を追加すれば、独自に追加したディレクトリも含めることができます。(22〜27行目) アプリ配布時の…

Playframework2.4でActorをスケジューリングする

Play2.4でActorをスケジューリングするサンプルです。 オフィシャルドキュメント*1に少しスケジューリングの記載がありますが、 実際どうやってスケジューリング設定をするのか分かりにくかったので、簡単なサンプルを実装してみました。 基本的にPlay2.4か…

PythonでJinja2を使ったメール送信

Pythonでメール送信時に、CCやBCCを指定したい、さらに複数指定したい、差出人名を指定したい、返信先を指定したい、ファイルを添付したい、タイトルやメッセージを動的にしたい...etcといった場合に結構コードがとっ散らかってしまうので、かなり前に書いた…

Playframework2.4でSlick3.0とplay2-authを使ったログイン認証サンプル

Play2.4でSlick3.0*1とplay2-auth*2を使ったログイン認証を実装してみた。 テンプレートはSBAdmin2*3をベースに、BootswatchのSlate*4を適用しています。(チャートはHighcharts*5が使いたいので除いています) laughingman7743/play24-slick3-auth-example 認…