AWS Re:Invent 소감

뭘 좋아할지 몰라서 다 준비해봤어

4일간 2700여개의 세션이 진행되기 때문에 정말 모든 테마가 다 있다고 봐도 무방합니다.

전세계 개발자들이 와서 함께 즐깁니다.

물론 영미권 개발자들이 대다수이고, 특히 비용문제도 있고 해서 미국이 절대 다수를 차지하지 않을까 생각합니다.

진짜 기술부채를 이야기 할 수 있는곳.

이전 글에서도 몇번 언급 했지만 Re:Invent는 꽤나 다양한 타입의 발표 세션이 있고, 한국형 발표 세션은 Breakout Session입니다.

여기서 말하는 한국형 발표 세션이란

이런걸 했다~ 짝짝짝~ 적당히 질문 걸러서 받고 곤란한 답변은 임기응변으로 메꾸는 우리가 경험해온 그런 발표.

하지만 AWS Re:Invent에서는 그런 발표보다는 진짜 기술부채도 서로 떠들고 하는 Chalk Talk이 있습니다.

세계 각지의 개발자들이 AWS개발자들과 함께 서로 경험을 공유하고, 물고 뜯는 토론의 장.

세계의 IT 업계가 어떻게 돌아가는지 흐름을 읽을수 있는곳.

Walk-in seat 줄 기다리는동안 이야기를 할 수 있는게 저는 너무 좋았어요.

그리고 실습 진행중에도 주변 개발자들하고 이런저런 이야기를 하거든요

Off the record로 하는 그 대화들이 가장 값진 경험중 하나가 아닐까 생각해봅니다.

그래서… 이번 Re:Invent 가서 느낀 트렌드는 뭔가요?

준비된 사람에게 아키텍쳐 선택지는 더 많아질것

개인적으로 AWS 없을때 50명이 할 일을 AWS사용하면 5명이 할수 있다고 생각하는데요, 근래 들어서 느낀것은 5년전 AWS사용할때 10명이 할 일을 이제 3명이 할 수 있다는겁니다.

지식 수준에 따라서 양극화가 점점 커지는거죠.

2023년 기준 AWS서비스는 200여개가 넘어가고있고, Opensource Managed Service들도 속속들이 등장하고 있습니다.

알기만 하면 손쉽게 적용 할 수 있는 인프라들이 속속들이 등장하고 있기 때문에

아는사람과 모르는 사람의 갭은 더 크게 벌어질 것으로 생각이 들었습니다.

AI 진영 성장에 따른 MLOps 진영의 수요도 증가할것으로 예상

AI, 그리고 그 기반이되는 ML은 이제 우리 삶의 일부가 되었죠.

AI시장이 커지는것은 시대적 흐름이 되어버린지금

구글이 썼던 논문을 인용해 보겠습니다.

가운데의 작은 블랙박스에서 볼 수 있듯이 실제 ML 시스템 중 극히 일부만이 ML 코드로 구성되어 있습니다. 필요한 주변 인프라는 방대하고 복잡합니다.

Only a small fraction of real-world ML systems is composed of the ML code, as shown by the small black box in the middle. The required surrounding infrastructure is vast and complex. — Google Paper — Hidden Technical Debt in Machine Learning Systems

Page 3 in Google Paper — Hidden Technical Debt in Machine Learning Systems

아래는 구글에서 텐서플로우 개발하시는 Rovert Crowe님이 하신말씀입니다.

우리는 모델은 일반적으로 ML 애플리케이션을 프로덕션에 적용하는 데 필요한 코드의 약 5%를 차지한다는것을 발견했습니다.

we found that the model is typically about 5 percent of code required to put an ML application into production
- Robert Crowe, Instructor TensorFlow Developer Engineer, Google

- at ‘Machine Learning Data Lifecycle In Production — OverView’

업계에서 실제 AI 프로덕션을 운용 하려다 보니 Ops영역이 엄청 크다는걸 알게된거죠.

개인적으로는 DevOps의 경우 개발자들중에서 시스템 아키텍쳐에 뛰어난 사람들이 할때 그 진가가 발휘 된다고 생각하는데요, 여기에 ML + Data Engineering 지식까지 겸비한것이 MLOps입니다.

출처 — Wikipedia — ML Ops
NVIDIA Tech Blog : What Is MLOps?

시스템 아키텍쳐 잘 생각하는사람 개발자를 찾아서 Ops 업무 할당 하는것도 쉽지 않은데 거기에 ML 지식까지 학습한 사람이요?

예… 생각만해도 공부할게 너무 많아보이죠?

그 틈새 시장을 파고든게 AWS Sage Maker인데 이게 AWS Light Sail 같은 느낌이더라구요. 하지만 직접 운영하는것보다 20%가량 비싸지는데 문제는 GPU 인스턴스일때 기준으로 20% 비싸지고 Inferentia 같은거 적용했을때는 갭이 더 커지거든요.

위에서 말했던대로 MLOps또한 준비된 사람에게 아키텍쳐 선택지는 더 많아질것으로 생각됩니다.
물론… MLOps 공급은 수요를 따라가긴 어려울것으로 보이고요.

당장 개발자도 공급이 수요를 못따라가니까 놀라울 일도 아니죠.

그렇기 때문에 중소기업에서 잘하는 시니어 개발자 채용도 벅찬데 잘하는 DevOps채용은 더 어렵죠. 그런 상황 속에서 ML 엔지니어 채용도 하기 어려운데 MLOps를 채용한다?

너무 어려운거죠.

그래서 AWS가 가격 비싸게 올려도 살수밖에 없는 상황이 되는거고요.
저랑 같이 ML관련된 세션 듣던 사람들은 대부분 ML엔지니어였던거 같고
사람이 너무 없으니까 울며 겨자먹기로 Ops쪽을 하는 모양새였어요.

AWS의 FPGA기반 칩이 Nvidia GPU와 경쟁중

NVidia가 GPU시장 꽉 잡고있는 상황에서 AWS가 자체적으로 Inferentia칩을 설계했는데 기존 Inferentia — 1의 경우는 의구심을 갖는 사람들이 있었거든요.

이번 Re:Invent에서는 Inferentia — 2와 Trainium을 선보이며 다시한번 새로운 경쟁력을 보여줬습니다.

다만 AWS Neuron SDK를 사용해야 하는 진입장벽이 있는것은 아쉬움으로 남긴 합니다.

출처 — AWS Blog

AWS Tip 요약

세션 플래닝

  • 적어도 한두달전에 미리 세션 스크리닝 싹해야함.
    문제는 계속 추가, 변경되기 때문에 이걸 기반으로 확정 plan을 세울수 없음.
  • 호텔간 이동시간은 적어도 1시간은 잡을것
  • ‘Only happens here‘ 즉 여기서만 들을수 있는것들 위주로 듣기.
    대표적으로 4개정도가 있음.
    -Builders’ Session
    -Bootcamp
    -Chalk Talk
    -Workshop

세션 예약

  • AWS Event 앱으로 남은 자리 있는것만 필터링 해서 볼수있음.
  • Walk-in seat비율이 20~40%정도 되는거 같으니 예약 못해도 속상해하지말고 2시간 전에 뛰어가기.
    *(남들도 다 비슷합니다. 다들 자기가 듣고싶은거 말고 보험 예약해논게 있기 때문에 walk-in 으로 들어가는 비율 많아요)

네트워킹

  • 줄서서 네트워킹 하고 개발자들끼리 off the record로 서로 정보 공유가 핵심임.
    특히 chalk talk같은거는 필참하기.
    구글링으로 절대 찾을수 없는 정보나 사례가 왔다갔다함.
    (당연한 얘기지만 AWS Re:invent는 영어로 진행이 되기 때문에 매우 여유로운 회사가 아닌이상 당연스레 영어를 어느정도 하는 직원을 보냈을거라 생각합니다.)

생활

  • 유심 꼭 미리 2개 다른 회사꺼 준비해서 가기
    전에 해외출장 다닐때 경험상 분산시켜야 혹시 모를 상황 대비할수 있으니
    저는 출발할때 같이 가는 동료하고 일부러 다른곳에서 유심 사서 갔어요.
  • 그런데 말입니다, 실제로 제 동료 유심이 안되는거 아니겠어요?
    저의 경우는 일부러 백업용까지 유심 두개 들고 갔는데 하나 동료 줬어요.
    휴대폰 통신 안되면 우버도 못타고 진짜 Re:Invent완전 망치는거니까 돈 아끼지 말고 유심 백업까지 준비해서 가세요~~
  • 우버타기
    우버는 정해진 자리에만 탈수 있으니까 호텔 직원한테 장소 물어보기.
    저는 미국 휴대폰 번호 받을수 있는 앱을 이용해서 미리 번호를 돈주고 사서 갔어요.
    그걸로 우버에 등록해서 전화 받았습니다.
  • CVS, walgreens에서 간식, 비상약, 생수 사기
    시차로 인해 잠이 안오신다면~
    약국 가서 melatonine이나 sleep equalizer? 사서 드세요

식사

  • 스타벅스나 햄버거 식당에서는 이름을 물어봅니다.
    번호표로 주기도 하지만 보통은 이름을 묻고 나오면 이름을 불러줘요.
    한국이름 말하면 알아듣기 힘들어하니까 미리 적당히 간단한 이름을 생각해두세요~
  • David, john, michael이런거 하면 여러명 뛰어나갈수 있으니까
    이름이 이영수라면 그냥 ‘soo’, 이런식으로
  • 팁관련
    -
    모든 식당에서 팁은 점심 최소 15%, 저녁 20% 주기.
    미국 웨이트리스는 그게 수입이기 때문에 안주면 울수도 있음.
    만약에 내가 음식을 직접 가져가는 곳이라면 팁 안줘도 되고, 줘도 5%이하로
    단, 예외는 샌드위치 포장할때 팁 넣는곳이 있음. 이때는 샌드위치 가격과 무관하게 손에 2달러 자리를 보여주면서 주문하고 샌드위치 싸주고 나면 2달러 넣어주기.
    그러면 가장 맛난재료들로만 싸줄것임.
  • 치즈케이크 추천
    (한국 치즈케이크와는 좀 다른편, 재료가 달라서 그런듯)
  • Panda express는 한국 중화요리 좋아하는 사람이라면 호불호 없이 잘 먹을만한 만만한곳.
  • 햄버거는 한번쯤 먹어볼만함
    (한국에서는 제돈주고 햄버거 잘 안먹어요)
  • 샌드위치는 정말로 추천
    미국 샌드위치는 그… 한국샌드위치하고 좀 다른 범주라서 추천합니다
  • 길가에 파는 슬러시는 슬러시가 아니고 알콜음료임.
    (색깔별로 도수가 다른데 저의경우는 잘 모르고 먹었다가 거의 보드카 원액수준 슬러시 1L 받아서 의도치 않게 기분이 많이 좋아졌음;.)
  • 미국식 피자 한번 먹어보길 추천
    한국 피자는 찜통에 넣고 찐 느낌이라면 미국 피자는 진짜 화끈하게 구워버린 느낌.
    한국에서 라면은 계란에 파정도 넣는게 보통인것처럼 미국에서 피자 토핑은 간소한게 특징.
    한국식 피자는 라면에 송로버섯, 차돌박이, 오골계 여기서 끝난게 아니다! 하면서 계속 때려박는 느낌.
  • 카페에서 아메리카노는 없어요!
    Just coffee” = 아메리카노 에요.
  • 카페에서 커피 받고나서 크림을 넣어보세요!
    유지방 16~30%에 달하는 크림이라 불리는 우유 있어요.
    그리고 설탕도 있지만 zero칼로리 감미료도 많이 구비해 놓으니까 같이 드셔보세요.
    ‘cream’이라고 적혀있고, ‘half’적혀있는게 있을건데 cream이 30%정도고 half가 16%정도 유지방으로 보시면 돼요.
  • Takeout이란말은 없어요!
    포장은 = “To go”

호텔

  • 빨리 도착했다면 벨데스크에 문의해서 가방 맡아줄수 있겠냐 물어보고
    가방 맡기면 개당 $10 은 주기. (그사람들은 그걸로 먹고 사는 사람임)
  • 복귀 비행기가 여유가 있다면
    “아 캐리어 이거 어떡하냐 이거 없으면 놀러갈텐데”
    생각하지말고 벨데스크에 문의해서 가방 맡기고 놀러갈것.
  • 호텔에서 먹을거 아니면 호기심에 건들지 말기.
    무게저울 달린 호텔에서는 “이 생수는 얼마일까?”하고 드는순간 요금청구됨.

여행

  • 시간이 허락한다면 그랜드 캐니언 가보기.
    헬기타면 4시간 코스도 가능함.
    단체 관광이면 버스로 가는것도 매우 좋음.
  • 후버댐은 한번쯤? 볼만한거 같은데 영어 못하면 비추.
    애초에 모든설명이 영어라서 멍때리기만 할것.

라스베가스 코스튬 입은사람들과 기념촬영 관련

Photo by Karo Kujanpaa on Unsplash
  • 길가다보면 이렇게 입고다니거나, 경찰 코스튬 입거나, 하여간 온갖 종류의 코스튬을 입은 사람들이 매우매우매우 많은데 성별로 보면 여성 90% 남성 10%정도가 있는듯 합니다.
    코스튬입은 사람과 사진 찍었을때 팁 주는거는 미국 고유의 문화니까 팁 줄거 아니면 사진 찍지 마세요

서방견문록 — 남는시간 알차게 보내보자!

출발전부터 5일차 짜투리 시간을 제대로 활용하기 위해 현질 계획을 세웠었습니다.

https://www.viator.com/ 라는 사이트에서 검색을 했었고,
헬기를 타면 4시간 이내에 그랜드 캐니언 투어가 가능하다는것도 확인 했었습니다.

가격은 인당 약 70만원정도 생각하시면 됩니다.

그런데 귀국행 비행기가 6일차로 변경 + 5일차 그랜드캐니언 버스 단체관광을 하게 되면서 헬기를 이용하지 않았습니다.

서방견문록 — 5일차 — 그랜드 캐니언 출발!

제가 상상한 그랜드 캐니언,
그러니까 인터넷을 통해 휴대폰이나 모니터로 봤던 그랜드 캐니언은, 그랜드 캐니언이 아니었습니다.

저는 진짜 그랜드 캐니언이 이렇게 수백키로미터에 걸친거라고 생각을 못했거든요.

그랜드 캐니언 안으로 가기전에 인디언들이 운영하는 식당에서 밥을 먹었습니다.

참고로 그랜드 캐니언 주변으로 가면 국경같은곳이 나오고,
그 지점부터는 인디언 자치구역으로써 인디언들이 관리합니다.
정확히는 모르겠습니다만, 이 구역 안에서는 인디언들의 법을 따르게 되고,
모종의 룰로 인디언 위주로? 비즈니스를 유지 하는것 같더라고요.

식당의 이름은 ‘식당' 입니다. 하나밖에 없거든요.

이렇게 생긴 식당 이었는데요, 같은 버스에 타고있던 약 40여명의 사람들은 모두 저 안에서 먹더라고요

저는 바깥에 테이블 보이길래 냅다 나왔습니다;

사진 멀리 툭 튀어 나와있는 산들 보이시나요?

저게 그랜드 캐니언입니다.

너무 멀리 있어서 높은거 같지 않겠지만… 실제로는 엄청 큰 협곡?절벽? 입니다;

밥먹고나서 버스타고 이동해서 자유시간 짧게 주더라고요.
조그마한 가게에서 아이스크림, 커피, 간단한 식사를 파는데
저는 한국 가게 생각하고 아 뭐 관광지니까 비싸도 사먹어야지 했었는데
커피 한잔 $2였나 $3였나 그랬습니다;
관광지라고 비쌀거라는 생각은 꼬레안의 생각이었습니다…

커피한잔 홀짝이면서 그랜드캐니언 구경하다가 그렇게 하루가 끝났습니다.

서방견문록 — 5일차 저녁은 파스트라미 샌드위치, 뉴욕치즈케이크

라스베가스 호텔은 각 호텔마다 컨셉을 잡거든요 아예 호텔 이름이 New-York New-York Hotel & Casino 인곳이 있어요.

거기 내부를 진짜 뉴욕처럼 해놨어요

층고를 엄청 높게 지어서 뉴욕처럼 쫙 꾸며놓고 그안에 뉴욕에 유명한 음식들 카피캣을 다 떳더라구요

출처 — 구글맵

뉴욕에 유명한 샌드위치중 하나가 파스트라미 샌드위치인데요 저는 Greenbers deli에서 파스트라미를 먹으러 갔는데 사진은… 나오자 마자 흡입해서 없고요

전에 뉴욕에서 먹었던 사진 첨부합니다

서방견문록 — 6일차 — 아침먹자

6일차 아침은 현지 네이티브식당 Denny’s로 갔고요 혈관 박살나기 좋은 음식으로 먹었습니다

네이티브 식당 답게 다 미국인들만 있는거 같았고 가족단위로 혈관 박살내고 있더라고요

서방견문록 — 6일차 — 후버댐으로 출-발!

체크아웃부터 복귀 비행기까지 시간이 좀 있길래 진짜 시간 알차게 후버댐까지 다녀왔습니다;

현질해서 호텔앞에서 픽업 해주는걸로 했고요,
캐리어 같은 짐은 bell desk에 맡기고 팁 낭낭하게 넣어드렸습니다.

후버댐 원래 이름은 boulder dam이었다고 하고,
사막 한가운데 공사였기 때문에 Boulder dam을 짓기위한 인프라,
그러니까 숙소나 이런거를 지었다고 해요.

위 호텔이 유명한 이유는 호텔 객실안에 화장실이 같이 생긴 최초? 혹은 최초에 가까운 호텔이라고 합니다.

아래 사진은 후버댐 수력발전 터빈 교체하고나서 올드모델 전시 해 놓은거라고 하네요

다리 위에서 한번보고

내려가서 한번 봤습니다.

복귀하고나서 늦은 점심으로 얼 샌드위치 하나 먹었구요

귀국전 공항에서 비욘드 미트라고 대체육 햄버거 먹어봤는데

아직 멀었구나 싶었습니다;…

출근하러 갑시다.

토요일 저녁 비행기 타서 월요일 아침 6시쯤 인천공항에 도착했습니다.

헉헉대며 집까지 온다음에 샤워하고 바로 출근…

“나는 지금 아직 비행기고 꿈을 꾸고 있는거야”

를 되뇌이다가 현실로 돌아왔습니다 ㅠ…

글을 마치며…

별거 아닌거 같은 글인데 오래도 걸렸네요.

1~4일차는 초코바 먹고 뛰어다니면서 듣기 바빴는데 그래도 거기서 만난 개발자들하고 이야기 꽃 피우면서 세상 돌아가는거 아는게 너무 좋더라고요…

2023 Re:Invent를 또 가게 된다면 이번에는 8주내로 쓰는걸 목표로 해보겠습니다…

혹시 리인벤트 가실 계획이 있으시다면 하루 16,000보를 걸을수 있는 체력,
아침 6시부터 밤 8시까지 내리 공부할수있는 집중력을 길러두세요 여러분…

혹시압니까? 이 글을 읽는 당신과 제가 2023 Re:Invent에서 만나서 맥주한잔 하게될지.

Re:Invent 에서 절 알아보신다면 하이파이브 한번 하고 지나가시죠~ㅎㅎㅎ

긴 글 읽어주셔서 감사합니다.. 가 아니지
글은 제가 썼는데 왜 제가 감사해야합니까?

긴 글 읽어주셨으니 저에게 감사하십시오.

--

--