EC2 DNS名前解決制限をECSでも回避する方法

非常にググりにくい事柄なんですが、なるべく浮世離れしないタイトルとして書きます。 EC2(正確にはENI)からの名前解決、つまりリゾルバとしてのOutboundには、全て制限がかかっています。1024パケット/秒です。 VPC での DNS の使用 - Amazon Virtual Priva…

2019-03-23

Healthchecksで定期実行ジョブの着火もれを検出する

cron linux バッチ python docker

日次でも月次でも、まず殆どのシステムで何かしらのバッチジョブというものを動かしていると思いますが、そのバッチが確かに実行されたことを保証・監視することは結構難しいです。ジョブが起動しましたのタイミングでログを書き、終わってもログを書くと…

2019-02-16

2019年版 Google Cloud Storage (gcs) のアクセスコントロールがより簡単に

GCP GCS

以前に書いたエントリ、結構な更新が入っているので新規エントリとしました。 iga-ninja.hatenablog.com 導入時期は不明ですが、2つ更新項目を書きます Bucket policy として Legacy な権限を指定可能前回のエントリで、Default ACLを使わないと危険と書き…

2018-12-16

AWSでGCEぽく、Lambdaでインスタンス起動時にDNS自動登録する

aws lambda serverless

GCEでインスタンスを起動するときに、先にホスト名を決める必要があります。AutoScaling等の場合は、勝手にプリフィックスがついて名前被りを避けます。これによりAWSのようなIPアドレスベースの使いにくいFQDN(Internal)ではなく、直感的な名前で名前解決が…

2018-11-04

運用ベースのecs-cli利用手引き

aws ecs ecs-cli docker

ecsへのアプリケーションデプロイはecs-cliが最も優れていると思いつつも、結構わかりにくいツールであるのは間違いないです。その解説をするのですが、この投稿ははっきり言って上級者向けで docker-compose かなり使いこなせる AWS ECS の基礎がわかってい…

2018-09-20

SSM Agentとか無視して Windowsで CloudWatch Agentを使う

AWS CloudWatchLogs CloudWat Windows

もう4年前の話ですが、CloudWatch Logsへのログ送信をWindowsで行う場合の記事を書きました。 CloudWatch Logs on Windows 2012 Server - 続カッコの付け方もうこの内容は古くなって久しいですが、なるべく昔ながらのやり方でファイルを書いてサービス起…

2018-06-28

2018年なぜ私達はコンテナ/Dockerを使うのか

Docker ECS K8s ITインフラ

2017年にもうコンテナの未来・一つのカタチはもう確定したと言え、今更感があるものの、改めてDockerとコンテナについて。今更こんなことを書くのは、情報が溢れてくる今こそ、正しく理解し、正しい順序で学習することが重要だと切に思うから。内容につい…

2017-11-04

わかったつもりのCloudWatch

AWS CloudWatch

CloudWatchのプリセット(ビルトイン)メトリックスに関する記事です。カスタムメトリックスには殆ど触れません。世の中には2つのタイプの製品があると思います。説明書を読まなくても使える説明書を読まないとハナから使えない AWS CloudWatchは明らかに…

2017-10-23

Google Cloud Storage (gcs) IAM対応でACL設定がより簡単に

gcs gcp IAM

Google版 S3である Google Cloud Storage (gcs) ですが、もう随分前になるもののIAM対応となり、アクセス・ユーザー管理が非常に楽になりました。ここでのIAMは勿論 GCPのIAMです。名前は同じですが、AWS の IAMとは、全く異なるものです。今のところgcsの…

2017-10-15

AWS NLB 初心者向け説明 (特にHealthCheck)

AWS ELB NLB

続々とELBに機能が追加されていますが、今更ですがNLBについて書きます。今更NLBの記事を書くことに意味があるのか？と自問しましたが、一応 (初心者向け) と (HealthCheck) という切り口で、なるべく優しく書こうと思います。 NLBについて先に言っておき…

2017-02-16

CloudWatchLogs データを入れてからのおたのしみ(概要編)

aws CloudWatchLogs Log

リリースから随分日が経っていますが、改めてCloudWatchLogsの良さを書きます。今回はLogs Agentや取り込みの話しは触れません。Logsに取り込んだは良いけど、どうしようにフォーカスします。その前にCWLogsの概要長いのでCWLogsと略記。 CWLogsは文字通…

2017-01-14

AWS EBS SSD (gp2 general purpose) バーストクレジット計算式

AWS EC2 EBS

「EBS (gp2) のクレジットの回復レートってどんなの？」の質問に即答できなかったので、書いておきます。結論、数式としてはクレジット 0 -> Fullまでの時間 = 5,400,000(IO) ÷ ベースラインIOPS となります。概要と用語簡潔に EBSは 3000 IOPSまでのバ…

2016-12-14

AmazonLinux や CentOS6 で upstart root以外で実行

AWS Amazon Linux upstart

もうオワコンである upstart で結構苦戦しました。やりたい事は単純に root以外のユーザーで実行したいということだけ upstart ? sysVと systemd の間にあったデーモン管理Tool(というか機構?)です。こいつは sysV とは違って systemdと共存出来ないので、オ…

2016-12-04

Google API Client Library 入門

今まで、Cloud Monitoring のカスタムメトリックスを打つために、サンプルを改造する程度の理解しか無かったのですが、ある程度自分の頭で整理出来たので残します。GCP(Google)におけるAPIクライアントライブラリについて、入門からAWSとの違いについて。 Go…

2016-09-03

Google Cloud SQL 2nd Generation Proxy接続する

GA記念 GCE Cloud SQL

8月下旬、 Google Cloud SQL 2nd Generation がGAとなりました。すでに検証はしていますが、今回は Cloud SQL Proxy を中心に書きます。 iga-ninja.hatenablog.com Cloud SQL Proxy とは？前回の記事でも記載しましたが、Cloud SQL への接続は全てグローバ…

2016-08-21

jsonの戻り値とか、複雑なオブジェクトからスマートにデータを抽出[JMESPath 最強説]

JMESPath python JSON AWS

「パイセン、JSONで帰ってくる複雑な構造のオブジェクトをいい感じにするやつしらないっすか？」「ああ、複雑な構造ね。しらん、専用の関数用意するとか？」「やっぱ、そっすよねー」全国津々浦々でこんな会話が繰り広げられてると思います。私も2回ぐら…

2016-08-07

GCE Autoscaling in 2016夏

GCE AutoScaling Instance Groups

Google Cloud Platform Japan 公式ブログ: GCE ユーザーに高可用性を提供する Regional Managed Instance Groups がベータに最近 Regional Managed Instance Groups という機能がβになりました。Regional とはなんぞや？ということですが、この機能のもと…

2016-07-28

nginx + php-fpm の組み合わせのErrorログ出力を理解する

php php-fpm nginx

ngix + php-fpm の組み合わせで特に Errorログについて整理しときます。初心者向け補足プール向け設定ファイル = /etc/php-fpm.d/www.conf 全体の設定ファイル = /etc/php-fpm.conf php-fpmのログまとめ error.log php-fpm 全体で出す Errorログです。これ…

2016-07-10

JSON中にDot(.)が含まれたキー名を変換する

python json mongodb elasticsearch

最近なんでもかんでもJSONですが、MongoDB/ElasticsearchにJSONを突っ込もうとして問題にぶつかりました。具体的には表題の通りで、キーにDot(.)を含むものが上手く動かないという点です。現状はキーにDotを使うな、もしもデータファイルに入っていたらコ…

2016-06-26

GCE HTTP(S) 負荷分散と Cloud CDNを使う

GCE HTTP負荷分散 Cloud CDN

すでに何度が触れていますが、GCE HTTP(S) ロードバランサーが更にアップデートされました。同じく、 HTTP(S) ロードバランサー限定で Cloud CDN というサービスも有効となりました。 GCEでHTTPS負荷分散 SSL Termination - 続カッコの付け方 GCP リージョ…

2016-06-25

GCEのSubNetwork対応による、変更点とAWSとの違い

AWS GCE Network

昨年の12月頃らしいですが、GCEでもSubnetがサポートされました。最初、これを知った時なんて無駄な機能をつけたんだ！Googleのパワーをこんなしょうもないことに使うなと思いましたが、調べてみるとGoogle流の考慮は入っていました。ひとまず、このエン…

2016-02-28

CloudFront ワイルドカードキャッシュクリアの不具合(修正済)

AWS CloudFront キャッシュ CORS

CloudFront(以下CFと略)を始め、CDNを利用するにあたり、まず注意することは、キャッシュを削除する手段を確立することです。CFはinvalidationをURL毎に発行することにより、このキャッシュクリアを実現していましたが、昨年、ワイルドカード (e.g /image/*)…

2016-02-07

Google Cloud SQL 2nd GenerationのFailOverなど

GCP Cloud SQL MySQL

GAEのために出来た、という歴史的な背景からもあまりGCEから使うこともなかった Cloud SQL (1st generation)ですが、昨年 2nd generation がベータとなりました。パフォーマンスの高さについてはアナウンスされていますが、この記事はFailOverを中心に、2nd …

2015-12-20

Crate.IO クラウドネイティブな新しいデータベースエンジン

DataBase AWS GCP Crate.IO Crate

Crate.IOという新しいDBエンジンが 2014 TCのアワードをとっていたらしい。それからもう1年近く立っていますが、正直なところ、流行っているのか定かではないです。が、誰もやらないことのほうが面白いのでやります。 Crate.IOとは? Crate でググると、木の…

2015-10-25

知らん間にGoogle Cloud loggingでログ監視ができるようになっている件

GCP Cloud Logging ログ監視

GCPあるある久しぶりにDevelopers Consoleにログインして新機能実装に気づく。一応RSSとか購読してるんですが、ほんとにこのパターン多い。今回はCloud Logging (& Cloud Monitoring)です。以前にLog監視できたらいいなーとか、Pub/Sub + GAE でログ監視が…