最近流行りのワンイシューってやつに見せかけてちょっと寄り道します。タイトルの通りですが、Data Studio の知名度や、GASについて色々気づいた点も触れます。実は応用の効く内容です。 Google Data Studio ってなによ？ Googleが提供しているBIツールです…

Google Data Studio から AWS athena につなぐ

全部httpsじゃないとだめな時代になりました。http通信の中身を見るだけならproxyで抜けばよかったですが、httpsの場合はそうも行きません。mitm(man-in-the-middle)をやって、httpsの暗号をproxyでほどかないといけません。 この手の情報がほしい人は限られ…

CLI向けhttpsキャプチャーを使う

非常にググりにくい事柄なんですが、なるべく浮世離れしないタイトルとして書きます。 EC2(正確にはENI)からの名前解決、つまりリゾルバとしてのOutboundには、全て制限がかかっています。1024パケット/秒です。 VPC での DNS の使用 - Amazon Virtual Priva…

EC2 DNS名前解決制限をECSでも回避する方法

日次でも月次でも、まず殆どのシステムで何かしらのバッチジョブというものを動かしていると思いますが、 そのバッチが確かに実行された ことを保証・監視することは結構難しいです。ジョブが起動しましたのタイミングでログを書き、終わってもログを書くと…

Healthchecksで定期実行ジョブの着火もれを検出する

GCPで Google Cloud Storage (GCS) & 独自ドメインで httpサーバを立てるというのを以前やりました。もはや2015年の古いエントリですが今も結構な閲覧数があるので、2019年版のリファインとして、もっといいやり方を紹介します。 iga-ninja.hatenablog.com …

最新版 Google Cloud Storage + L7LB で独自ドメインで静的サイトホスティング SSLもイケます

以前に書いたエントリ、結構な更新が入っているので新規エントリとしました。 iga-ninja.hatenablog.com 導入時期は不明ですが、2つ更新項目を書きます Bucket policy として Legacy な権限を指定可能 前回のエントリで、Default ACLを使わないと危険と書き…

2019年版 Google Cloud Storage (gcs) のアクセスコントロールがより簡単に

GCEでインスタンスを起動するときに、先にホスト名を決める必要があります。AutoScaling等の場合は、勝手にプリフィックスがついて名前被りを避けます。これによりAWSのようなIPアドレスベースの使いにくいFQDN(Internal)ではなく、直感的な名前で名前解決が…

AWSでGCEぽく、Lambdaでインスタンス起動時にDNS自動登録する

ecsへのアプリケーションデプロイはecs-cliが最も優れていると思いつつも、結構わかりにくいツールであるのは間違いないです。その解説をするのですが、この投稿ははっきり言って上級者向けで docker-compose かなり使いこなせる AWS ECS の基礎がわかってい…

運用ベースのecs-cli利用手引き

もう4年前の話ですが、CloudWatch Logsへのログ送信をWindowsで行う場合の記事を書きました。 CloudWatch Logs on Windows 2012 Server - 続 カッコの付け方 もうこの内容は古くなって久しいですが、なるべく昔ながらのやり方で ファイルを書いてサービス起…

SSM Agentとか無視して Windowsで CloudWatch Agentを使う

2017年にもうコンテナの未来・一つのカタチはもう確定したと言え、今更感があるものの、改めてDockerとコンテナについて。 今更こんなことを書くのは、情報が溢れてくる今こそ、正しく理解し、正しい順序で学習することが重要だと切に思うから。 内容につい…

2018年なぜ私達はコンテナ/Dockerを使うのか

CloudWatchのプリセット(ビルトイン)メトリックスに関する記事です。カスタムメトリックスには殆ど触れません。 世の中には2つのタイプの製品があると思います。 説明書を読まなくても使える 説明書を読まないとハナから使えない AWS CloudWatchは 明らかに…

わかったつもりのCloudWatch

Google版 S3である Google Cloud Storage (gcs) ですが、もう随分前になるもののIAM対応となり、アクセス・ユーザー管理が非常に楽になりました。 ここでのIAMは勿論 GCPのIAMです。名前は同じですが、AWS の IAMとは、全く異なるものです。 今のところgcsの…

Google Cloud Storage (gcs) IAM対応でACL設定がより簡単に

続々とELBに機能が追加されていますが、今更ですがNLBについて書きます。 今更NLBの記事を書くことに意味があるのか？と自問しましたが、一応 (初心者向け) と (HealthCheck) という切り口で、なるべく優しく書こうと思います。 NLBについて 先に言っておき…

AWS NLB 初心者向け説明 (特にHealthCheck)

リリースから随分日が経っていますが、改めてCloudWatchLogsの良さを書きます。今回はLogs Agentや取り込みの話しは触れません。Logsに取り込んだは良いけど、どうしよう にフォーカスします。 その前にCWLogsの概要 長いのでCWLogsと略記。 CWLogsは文字通…

CloudWatchLogs データを入れてからのおたのしみ(概要編)

「EBS (gp2) のクレジットの回復レートってどんなの？」の質問に即答できなかったので、書いておきます。 結論、数式としては クレジット 0 -> Fullまでの時間 = 5,400,000(IO) ÷ ベースラインIOPS となります。 概要と用語 簡潔に EBSは 3000 IOPSまでのバ…

AWS EBS SSD (gp2 general purpose) バーストクレジット計算式

もうオワコンである upstart で結構苦戦しました。やりたい事は単純に root以外のユーザーで実行したいということだけ upstart ? sysVと systemd の間にあったデーモン管理Tool(というか機構?)です。こいつは sysV とは違って systemdと共存出来ないので、オ…

AmazonLinux や CentOS6 で upstart root以外で実行

今まで、Cloud Monitoring のカスタムメトリックスを打つために、サンプルを改造する程度の理解しか無かったのですが、ある程度自分の頭で整理出来たので残します。GCP(Google)におけるAPIクライアントライブラリについて、入門からAWSとの違いについて。 Go…

Google API Client Library 入門

8月下旬、 Google Cloud SQL 2nd Generation がGAとなりました。すでに検証はしていますが、今回は Cloud SQL Proxy を中心に書きます。 iga-ninja.hatenablog.com Cloud SQL Proxy とは？ 前回の記事でも記載しましたが、Cloud SQL への接続は全てグローバ…

Google Cloud SQL 2nd Generation Proxy接続する

「パイセン、JSONで帰ってくる複雑な構造のオブジェクトをいい感じにするやつしらないっすか？」 「ああ、複雑な構造ね。しらん、専用の関数用意するとか？」 「やっぱ、そっすよねー」 全国津々浦々でこんな会話が繰り広げられてると思います。私も2回ぐら…

jsonの戻り値とか、複雑なオブジェクトからスマートにデータを抽出[JMESPath 最強説]

Google Cloud Platform Japan 公式ブログ: GCE ユーザーに高可用性を提供する Regional Managed Instance Groups がベータに 最近 Regional Managed Instance Groups という機能がβになりました。Regional とはなんぞや？ということですが、 この機能のもと…

GCE Autoscaling in 2016夏

ngix + php-fpm の組み合わせで特に Errorログについて整理しときます。 初心者向け補足 プール向け設定ファイル = /etc/php-fpm.d/www.conf 全体の設定ファイル = /etc/php-fpm.conf php-fpmのログまとめ error.log php-fpm 全体で出す Errorログです。これ…

nginx + php-fpm の組み合わせのErrorログ出力を理解する

最近なんでもかんでもJSONですが、MongoDB/ElasticsearchにJSONを突っ込もうとして問題にぶつかりました。具体的には表題の通りで、 キーにDot(.)を含むものが上手く動かない という点です。現状は キーにDotを使うな、もしもデータファイルに入っていたらコ…

JSON中にDot(.)が含まれたキー名を変換する

すでに何度が触れていますが、GCE HTTP(S) ロードバランサー が更にアップデートされました。同じく、 HTTP(S) ロードバランサー限定で Cloud CDN というサービスも有効となりました。 GCEでHTTPS負荷分散 SSL Termination - 続 カッコの付け方 GCP リージョ…

GCE HTTP(S) 負荷分散と Cloud CDNを使う

昨年の12月頃らしいですが、GCEでもSubnetがサポートされました。最初、これを知った時 なんて無駄な機能をつけたんだ！Googleのパワーをこんなしょうもないことに使うな と思いましたが、調べてみるとGoogle流の考慮は入っていました。 ひとまず、このエン…

GCEのSubNetwork対応による、変更点とAWSとの違い

CloudFront(以下CFと略)を始め、CDNを利用するにあたり、まず注意することは、キャッシュを削除する手段を確立することです。CFはinvalidationをURL毎に発行することにより、このキャッシュクリアを実現していましたが、昨年、ワイルドカード (e.g /image/*)…

CloudFront ワイルドカードキャッシュクリアの不具合(修正済)

GAEのために出来た、という歴史的な背景からもあまりGCEから使うこともなかった Cloud SQL (1st generation)ですが、昨年 2nd generation がベータとなりました。パフォーマンスの高さについてはアナウンスされていますが、この記事はFailOverを中心に、2nd …

Google Cloud SQL 2nd GenerationのFailOverなど

Crate.IOという新しいDBエンジンが 2014 TCのアワードをとっていたらしい。それからもう1年近く立っていますが、正直なところ、流行っているのか定かではないです。が、誰もやらないことのほうが面白いのでやります。 Crate.IOとは? Crate でググると、木の…

Crate.IO クラウドネイティブな新しいデータベースエンジン

GCPあるある 久しぶりにDevelopers Consoleにログインして新機能実装に気づく。 一応RSSとか購読してるんですが、ほんとにこのパターン多い。今回はCloud Logging (& Cloud Monitoring)です。以前にLog監視できたらいいなーとか、Pub/Sub + GAE でログ監視が…

知らん間にGoogle Cloud loggingでログ監視ができるようになっている件

AWSを始め、ほとんどのパブリッククラウドはmulticastが出来なくて不便。と言われてきましたが、だったらunicastでやってしまえば良い！という考え方が 2013年頃すでにありました。なぜmulticastをやりたいの？と言うと そうだね！、LVS + keepalived だね！…

unicast対応でよみがえる keepalived on VPC-EC2

VPC flowlogという機能が最近リリースされました。SGを通過した・蹴られたのログが取れるというものです。これ自体はとてもありがたいのですが、ログの閲覧はCloudWathLogsからとなり、コレがイケてない。だから何とかしたという話 どんなふうにイケてないの…

VPC Flowlogが見づらいので、htmlでViewer作ってみた