Atsushi2022の日記

データエンジニアリングに関連する記事を投稿してます

2022-01-01から1年間の記事一覧

Pythonのログ出力の仕組み

hackers-high.com python.civic-apps.com

GCP PDE模擬試験のメモ

概要 AutoML Vision Apache Hadoop BigTable 何百万台ものコンピュータのCPUとメモリの使用量を時系列で保存したい BigTableのクラスタサイズを増やすタイミングが知りたい パフォーマンスのボトルネックがある場合 Bigtable インスタンスを作成した後にスト…

読書メモ〜Google Cloudではじめるデータエンジニアリング入門

概要 「Google Cloudではじめるデータエンジニアリング入門」を読んだので、忘備としてメモしておく。 8章~11章のBigQueryへのデータ集約、BI、リアルタイム分析、発展的な分析はスキップする。 メモの順番は章立てと一致してない。なるべくサービス毎にメモ…

読書メモ~エンジニアのためのデータ分析基盤入門

概要 エンジニアのためのデータ分析基盤入門を読んで、重要そうなところをメモする。 データ分析基盤とは何か データ分析のために作られたシステム つまり、データ基盤とは異なるシステムである。 以下の書籍によると、データ基盤はデータ分析だけを目的にし…

メモ 〜 Azureの基本をマスターする:データの基礎

概要 コアデータの概念を探る コアデータの概念を調べる データ形式 ファイル形式 Avro ORC (Optimized Row Columnar) Parquet データベースの詳細 リレーショナル データベース 非リレーショナル データベース トランザクション データ処理 原子性 (Atomici…

読書メモ 〜 実践Terraform

概要 バージョン コマンド 記号 ファイル variable 変数の型 local output data provider リスト [] 組み込み関数 モジュール 三項演算子 count randomプロバイダ dynamicとfor_each ベストプラクティス 構造化、リソース参照パターン(22〜23章) 概要 …

読書メモ ~ 達人に学ぶDB設計徹底指南書 (第1章~第3章)

概要 達人に学ぶDB設計徹底指南書を読んで、重要そうなところを忘備のため、メモする。 第9章まであるが、まずは第3章までメモ 1章 POA v.s DOA POAはProcess Oritented Approachのこと。従来のシステム開発ではプロセス主流だった。現在ではDOA(Data Orie…

CKAに合格しました【22年4月】

結論 Udemyだけではダメ、ぜったいにKiller.shの模擬試験もやる! 道のり 21年12月、仕事でKubernetesに触れる。まったく知識がなく、さっぱりわからない 22年1月、Kubernetes完全ガイドを買う。インターネットで調べつつ、チラチラと本を読む。なんとなく…

【学習】Kubernetes Udemy CKA講座

目次 概要 講座の構成 1. Introduction 2. Core Concepts Master Node Woker Node ETCD Kube-API Server Kube Controller Manager Kube Scheduler Kube-Proxy 3. Scheduling Taints & Tolerations Node Selectors Node Affinity Resource Requirements & Res…