Tagged in

Data Warehouse

A multi hyphen life
A multi hyphen life
Data Engineer/ Coach/ Coffee Engineer/Life hacker
More information
Followers
879
Elsewhere
More, on Medium

孟母三遷 — Data Warehouse 搬遷實錄(三)

西瓜偎大邊 AWS -> GCP

前情提要

搬遷實錄(一):搬遷檔案格式
搬遷實錄(二):IDC 到 AWS

雖然 Bigquery 在前年就有聽到有在使用的前輩大力推薦,但是當時公司剛上 AWS,也沒啥機會用.中間一年我去其他公司晃一晃都用超猛的實體機,只有在閒暇之餘玩一下 GCP (感恩 300 鎂).沒想到去年回來現公司,又有搬移到…


孟母三遷 — Data Warehouse 搬遷實錄(二)

走走上雲端

前期提要

在上一集 孟母三遷 — Data Warehouse 搬遷實錄(一)提到:資料一直來,有一天還是爆炸了.但就算是壓縮成 Parquet 還是有爆炸的一天,剛好公司有搬上雲端的計畫,所以就得規劃一下看怎麼搬比較好.那時候有幾個考量:

  1. 成本控制
    和實體機租好放著不一樣,雲端的東西就是用多少算多少,而且這是公司第一次導入雲端資源,其中一個目的也是希望能節省成本.