機械学習システムの本番運用方法を調べるために、Production ML Systems (Google / Coursera) を受けました。なかなか良いコースで、おすすめです!
・システムへのデータ注入パイプライン設計・データへの依存性、コストパフォマンス、ロールバック・ハイパフォーマンスなシステムアーキテクチャ
Kubeflow とは Kubernetes ベースの本格的な機械学習基盤です。Google に強力に推進されており、GCPにはワンプッシュでデプロイできます。AWSやAzureにも当然設置可能です。