Kubecon North America 2023–2편 글로벌 ISV 트렌드 파악(1)

Category

1. Cost Optimization, Resource Management
2. Traffic, API management
3. CI/CD, Platform Engineering
4. Observability
5. Security
6. 그외 솔루션들

Google Cloud, AWS, MS Azure, IBM과 같은 큰 기업 부터 Datadog, Canonical, Grafana와 같은 midsize 기업들, 그리고 이제 막 데뷔하고 있는 스타트업들까지, cloud native 업계에서 인기있는 주제들을 가지고 다양한 크기의 회사들이 어떻게 문제를 바라보며, 어떻게 그걸 해결하려고 하는지 한 눈에 볼 수 있는 좋은 기회였습니다. 작년 행사 기사들에 의하면(https://siliconangle.com/2022/10/28/industrializing-kubernetes-platform-kubecon-2022/) 2022년은 platform engineering과 developer experience에 큰 이야기가 있었다면, 2023년은 cost optimization, specialized observability, platform engineering, security, portability, AI/ML 과 같은 각 분야에 더 깊은 기술들이 등장하는 자리였던것 같습니다.

만약 STCLab이 NetFunnel, WA, Balancer를 가지고, 이 많은 기업들 가운데 부스가 존재한다면, 어떤 문제와 메시지를 던져야 많은 사람들이 공감하고 찾아올것인가? 라는 질문의 답을 찾는 과정이였습니다.

1. Cost Optimization, Resource Management

Kubecost — Monitor & reduce Kubernetes spend

• 심플하고, 군더더기 없는 메시지를 가지고 있습니다.
• AWS, Google Cloud, New Relic 등 이미 큰 회사들에 기능이 내장되있거나, 비용 관리 툴로 추천하고 있습니다. (예:Cost monitoring — Amazon EKS )
• 뭔가 기능이 뛰어나다기 보다는, 쿠버네티스에서 비용 모니터링 시장을 2019년부터 키워왔고, 오픈소스로 계속 리드하고 있기 때문에 많은 회사들이 입문용으로 사용해 보입니다.
• 포인트 1
  kubernetes에서 cost에 대한 솔루션들중 일부는 OpenCost 라는 오픈소스 프로젝트를 기반으로 하고 있는데, Kubecost에서 자기들 엔진의 일부를 오픈소스화 시킨 프로젝트입니다. Kubecost 회사가 Adobe, Armory, AWS, D2iQ, Google, Mindcurv, New Relic and SUSE와 같은 회사들과 함께 cost 측정의 표준을 만들기 위해 오픈했다고 보면 될것 같습니다. (Hello OpenCost — an industry-supported, open source cost monitoring standard for Kubernetes ) OpenCost는 다른 솔루션 회사들도 적극 활용하는것으로 보입니다.

큰 기업들과 함께 비용 모니터링을 오픈소스 프로젝트화 하여, 시장에 두드러진 플레이어가 된 전략을 눈여겨 볼 필요가 있을것 같습니다.

ScaleOps — K8s Automatic Resource Management Platform (“Stop Manually Adjusting Resources Like it’s 2005”)

• https://scaleops.com/
• kubernetes의 rightsizing을 위한 솔루션입니다.
• 자동화와 비용 모니터링을 강조합니다.

Vantage — Cloud Cost Visibility and Optimization (“Cost and efficiency metrics for in and out-of-cluster spend)

• Vantage: Understand your cloud costs
• Kubecost와 비슷한 포지션닝을 취하고 있습니다. (cost visibility)
• 포인트 1
  public cloud 뿐만 아니라 여러 SaaS 기반의 cloud 서비스들을 통합해서 관리합니다.
• 포인트 2
  AWS의 Reserved Instances를 이용한 비용 자동화 기능이 차별점입니다.
• 포인트 3
  FinOps as Code(Terraform 연동 플러그인) 제공

FinOps as Code 처럼 Traffic Management as Code, Autoscaling as Code 와 같이, IaC 트렌드를 고민해볼만 합니다.

Pepperdata — Real-Time, Automated Cost Optimization for K8s (“Save 30% or More Automatically”)

• Pepperdata | The Cloud Cost Optimization Company
• rightsizing과 automation을 강조합니다.
• 포인트 1
  Spot instnaces, Reserved instances, Savings plans, Rightsizing, autoscalers 등등 public cloud에 있는 모든 기능을 활용하여 비용 최적화를 진행합니다.
• 포인트 2
  결과론 적으로 FinOps에 초점을 맞추고 있습니다.

PerfectScale — Automated Kubernetes Optimization and Governance

• PerfectScale | Govern, right-size and scale Kubernetes the easy way
• rightsizing, automation 기능에 초점
• 내부적으로 opencost를 사용한다고 함

StormForge — STOP Setting Kubernetes Requests and Limits

• Automated Kubernetes Resource Management | StormForge
• rightsizing, automation — kubernetes의 오토스케일링 자동화

env0 — Manage IaC at Scale, With Confidence

• Terraform 같은 IaC를 자동으로 배포하는 플랫폼. SDLC(Software Development Life Cycle) 강조
• Terraform, OpenTofu, Pulumi, Cloudformation 여러가지 IaC 를 지원 (IaC에서 가장 큰 회사인 Terraform Cloud는 Terraform 1개만 지원)
• 클라우드 인프라 관리팀의 인원이 많을 경우, 승인 프로세스, 권한 설정, 인프라 히스토리 관리등에 value proposition이 있음

Komodor — kubernetes for humans (“Dev-First K8s Reliability & Troubleshoting Platform”)

• Kubernetes for Humans | Komodor
• kubernetes을 관리하는 향상된 control plane. SDLC(Software Development Life Cycle) 강조
• Datadog 같은 observability 툴 처럼, kubernetes를 쉽게 관리할 수 있다 라는 포인트

Firefly — Automatically Turn Cloud into Iac (“Alien technology, available on earth”)

• Firefly | Manage Your Cloud with Infrastructure-as-Code
• AWS와 같은 계정을 한번 연결하면 => 한번에 IaC(Terraform과 같은 코드) 로 변환해줌
• 그 외에 IaC 기반으로 관리 기능들이 있음

2. Traffic, API management

SpeedScale — Still Scripting? (“Simulate production conditions using actual traffic”)

• Stress test your APIs with real world scenarios
• 트래픽 시뮬레이션 기능
• 포인트 1
  단순 트래픽 생성 보다는, 다양한 시스템 지표들을 같이 활용하여 테스트할 수 있는 장점이 있음
• 포인트 2
  트래픽 테스트로 인해서 어느 시스템들까지 영향을 미치는지 더 큰 그림으로 볼 수 있음

테스팅을 진행하기 전에, 목표로 SLO를 설정하는 기능이 차용할만함

Tetrate — Bringing Istio and Envoy to the Enterprise

• Tetrate: Application-aware networking for all Workloads, in all Environments
• 포인트 1
  k8s에서 서비스매쉬를 위한 로드밸러서인 Istio(Envoy)를 enterprise들이 더 활용하기 쉽게 만들어줌
• 포인트 2
  오픈소스 솔루션을 zero trust(security), traffic monitoring(visibility), compliance 관점에서 볼 수 있도록 쉽게 풀어냄
• 포인트 3
  오픈소스 솔루션 활용한 아키텍처가 미연방 기준(FIPS)에 맞출수 있도록 함

Traefiklabs — GitOps-Driven API Management

• 오픈소스 로드밸런서로 유명한 회사
• 포인트 1 — API management를 GitOps로 풀어냄. IaC와 같이 코드 기반의 APIM을 풀어낸것이 인상적

stigg — You’re launching new pricing plans this quarter and still made it here??

• SaaS에서 pricing을 만들고 관리하는 서비스
• 포인트 1 — 대부분 SaaS에서 필요로 하는 pricing과 관리를, 직접 구현할 필요없이 headless management로 풀어낸것이 인상적

FluxNinja — Observability-driven Load Management

• https://www.fluxninja.com/
• 오픈소스로 만들어진 agent에서 metrics들을 측정하고, 그에 기반하여 rate-limiting(inflow) 또는 quota-limiting(outflow) 을 함
• 사실상 STCLab의 밸런서가 바라보는 방향성과 거의 비슷함

Written by Hwansoo Kim / Director of Engineering / STCLab Inc.
Edited by Peter Kim

Unified Traffic & Autoscaling Management for Clouds and Kubernetes | Wave Autoscale