เที่ยวงาน AWS re:Invent 2022 ที่ Las Vegas ตอนที่ 2
ถ้าใครยังไม่ได้อ่านตอนแรก ไปตามอ่านกันได้ ที่นี่ นะครับ
Session สาม Mobileye: Smarter, safer autonomous solutions with Habana & Granulate
ก่อนจะไป session ที่เป็น workshop ลืมไปว่ามีไปฟังอีก session นึงก่อนครับ session นี้อยู่ชั้นสามซึ่งเป็นคนละชั้นกับ session ก่อนหน้า ละผมดันเดินผิด เดินออกจากงานไปแล้วค่อยขึ้นไปอีกชั้นเลยต้องผ่านจุดตรวจใหม่ แล้วจุดตรวจชั้นนี้มีหมา K9 ด้วย ไอ้เราก็ไม่รู้ดูมีพิรุธหรือยังไงโดนเรียกตรวจซะงั้น (สงสัยเพราะมีกระเป๋าหลายใบ) เค้าเลยให้เอากระเป๋าไปให้ K9 ดม
หลังจากรอดพ้นจาก K9 มาได้ก็ได้เข้ามาฟังสักที session นี้เป็นคนจากบริษัท Mobileye ซึ่งทำตั้งแต่เทคโนโลยี ADAS ไปจนถึง autonomous driving มาพูดถึงการใช้ technology จากบริษัท Habana และ Granulate ซึ่งเป็นบริษัทลูกๆของ Intel มาช่วย support การทำงานของเค้า
ครึ่งแรกเค้าพูดถึงการที่ chip บนรถต้อง run ML model หลายอย่างมากๆ เช่น object detection, image segmentation, object tracking ซึ่งเค้าก็ต้อง train model หนักมาก เค้าเลือกใช้ DL1 instance ซึ่งเป็นเครื่องที่บริษัท Habana สร้างมาใช้สำหรับ train deep learning model โดยเฉพาะ โดยจากการ compare กับ GPU instance type อื่นบน AWS นั้นลด cost ได้กว่าถึง 15%-40% (จริงๆ เค้ามีพูดเรื่องการใช้ knowledge distillation optimize ให้ model ที่รันอยู่ใน chip เร็วขึ้นด้วยแต่ผมไม่ค่อยมีความรู้ deep learning เลยไม่เข้าใจ ขอข้ามไปนะครับ เหอๆ)
ส่วนครึ่งหลังเค้าพูดถึงการสร้าง high definition map ที่ระบุได้ละเอียดถึงระดับตำแหน่งของ เลน รั้ว ป้ายหยุด หรือ ไฟจราจร (รวมถึงแม้กระทั่งไฟดวงไหนสำหรับเลนไหน) ซึ่งเป็นสิ่งจำเป็นสำหรับทั้ง ADAS และ autonomous driving ซึ่งการจะสร้าง map แบบนี้ทั้งโลกโดยเอารถของบริษัทไปวิ่งเก็บข้อมูลมันไม่ scale เค้าเลยใช้การ collect ข้อมูลจากรถที่ใช้ ADAS ของ mobileye อยู่แล้วเรียกว่าเป็น crowd source
จากข้อมูลทั้งหมดที่ถูกส่งจากรถมาเก็บไว้ใน S3 เค้าก็สร้าง map 3D ขึ้นมาซึ่งการสร้าง map เค้าใช้ Spark โดยมี EC2 on-demand instance run Spark driver และ EC2 spot-instance run Spark executor ซึ่ง cost หลักสุดก็แน่นอนมาจาก cpu (เค้าว่าเค้าใช้ 100K+ CPU core 😱 OMG) เค้าก็เลยเลือกใช้ Granulate ซึ่งเป็น software ในการ auto tune OS + runtime ตาม pattern การใช้งานของเรา (เดี๋ยวนี้ได้ยินอะไรยังงี้เยอะมาก ก่อนหน้านี้ก็เคยได้ยิน OtterTune ซึ่งก็ auto tune DB ให้เราตาม pattern การใช้งานเหมือนกัน) แล้วเค้าก็บอกว่าหลังจากใช้ Granulate เค้า save cost ได้ถึง 24% โดยใช้เวลาทำแค่ 3 สัปดาห์เท่านั้นเองนะเออ
ใครสนใจฟังตัวเต็มก็ไปฟังกันได้ที่ https://www.youtube.com/watch?v=tnpzM9di6dA แต่สรุป session นี้รู้สึกเหมือนมาฟังโฆษณาขายของครับ 555
หลังจากนั้นผมมีเวลาเดินดูรอบๆในชั้นนี้อยู่พักนึงก็จะมีเครื่องดื่มและของกินเล่นให้กินฟรีด้วยนะ แต่วางโล่งโจ้งเลย น่ากลัวโควิดมากกก
นอกจากนี้ก็มีส่วนที่มีผู้เชี่ยวชาญ AWS (เข้าใจว่าเป็น AWS Community Heroes) ให้เราเดินเข้าไปสอบถามได้ทุกเรื่องเลย ตรงนี้มี sticker แจกด้วยสำหรับคนที่ชอบสะสม
Workshop Blackberry IVY
พอได้เวลาผมก็เดินมาที่ห้อง workshop ที่จองไว้ workshop นี่เราต้องเอา laptop มาเองด้วยนาเค้าไม่มีให้ แต่ wifi เค้ามีให้ การจัดโต๊ะในห้องคราวนี้เป็นคล้ายๆ โต๊ะกินข้าวหลายๆ โต๊ะให้นั่งแยกเป็นกลุ่มๆ
เริ่มแรกเค้าก็เล่าให้ฟังว่า Blackberry IVY เป็น platform ในการ develop software สำหรับรถยนต์อันใหม่ที่ยังไม่ได้เปิดตัวให้ใช้จริงเลย เค้าว่าสิ่งที่เป็น game changer ของเค้าคือเราสามารถเขียนโปรแกรมแล้วลอง run บนเครื่อง EC2 Graviton ที่ลง QNX AMI (QNX เป็น real-time OS) ซึ่งมี environment เหมือนจริงทำให้เราไม่ต้อง build ไป run บน hardware การพัฒนาก็จะทำได้เร็วและง่ายขึ้นมาก
หลังจากอธิบายสักพักเค้าก็มี instruction ให้เราลองลง SDK และ tool ต่างๆเพื่อ ทดลอง develop software บน Blackberry IVY platform โดยใช้ AWS ซึ่งคร่าวๆสิ่งที่เค้าให้ทำก็คือลอง deploy code 3 microservice (นี่ก็ยังสงสัยอยู่ว่า software ในรถเดี๋ยวนี้มันใหญ่ขนาดต้องทำเป็น microservice เลยหรอ)โดย 2 service แรกจะอ่านข้อมูลและวิเคราะห์จาก sensor ต่างๆกัน เช่น การเหยียบคันเร่งและเบรค หรือ ภาพจากกล้อง ก่อนจะส่งต่อมารวมที่ service ที่ 3 ซึ่งจะทำ scene detection จับหาจังหวะที่รถเบรคกระทันหัน แล้ว log ออกมา หลังจาก deploy เสร็จ เราก็ใช้ tool อีกตัวในการ simulate ข้อมูล sensor รถเพื่อทดสอบว่าทุกอย่างทำงานได้ถูกต้อง
จริงๆ workshop 2 ชม แต่ทำตาม instruction 1 ชม นิดๆก็เสร็จแล้ว แอบผิดหวังไม่ค่อยมีอะไร ทำตาม instruction แล้วถ้าติดอะไรเค้าก็มาช่วยๆ แต่ไม่ได้มีการอธิบายรายละเอียด เช่น Cloudformation มันสร้างอะไรบ้าง, environment variable นี้ทำไมต้อง set (มีบางค่าลองถามเค้าว่า set ทำไมเค้าบอกเออจริงๆ ไม่ต้อง อ้าวเห้ยยย) คุยกับคนไต้หวันที่นั่งโต๊ะเดียวกันเค้าก็บอกว่าผิดหวังเหมือนกัน
จบ session นี้ก็ 6 โมงเย็นแล้ว เป็นอันจบวัน มื้อเย็นก็แวะไปกิน Fish and Chips ของ Gordan Ramsay ที่อยู่ใกล้ รร ที่พักด้วย เนื่องจากเป็น fan club ทั้ง Masterchef, Hell’s Kitchen, Kitchen’s Nightmare เนื้อแน่นมากไม่ผิดหวังเหมือน workshop ปลาอะไรไม่รู้ อร่อยจริงๆ แต่ร้านที่นั่งน้อยเหลือเกิน คนเต็มก็เลยต้องหิ้วกลับมากินเหงาๆ ที่ห้อง
Keynote CEO AWS
วันที่สองตื่นมาผมก็กะไปฟัง Keynote ของ CEO AWS เต็มที่ อารมณ์อยากซึมซับบรรยากาศจริง โดย Keynote นั้นเริ่ม 9 โมงเช้า ผมก็เดินออกจากที่พัก 8 โมง ถึงที่ทางเข้างานประมาณ 8:15 พอจะเดินไปทาง hall ที่จัด Keynote ก็มีเจ้าหน้าที่มาบอกว่าเต็มแล้วๆ ให้ไปห้อง VDO แทน ฝันสลายยย (มารู้ทีหลังว่าโดนหลอก บ้าเอ้ยยย มีคนมาช้ากว่าผมก็ยังเข้า hall ได้ 😭) สรุปก็เลยได้ไปนั่งดูห้อง VDO (นึกถึงสมัยเรียนเคมี อ. อุ๊ ยังงี้ดูอยู่ที่ รร ก็ได้มั้ยเนี่ย)
ก่อนเริ่มมีการเปิดด้วย concert วง rock เล่นเพลงอย่าง highway to hell และ sweet child o’ mine เร้าอารมณ์จริงๆ (แต่วงที่เล่นคือวงอะไรไม่รู้นะ)
ส่วนเนื้อหาของ Keynote น่าจะมีคนสรุปกันไปเยอะแล้ว ผมคงไม่พูดถึง แต่ส่วนที่คิดว่าน่าสนใจที่สุดสำหรับผมคือ Zero ETL ซึ่งสามารถทำให้ข้อมูลใน Aurora แวบวาบเข้าไปอยู่ใน Redshift ได้เลยโดยไม่ต้องทำ ETL ถ้าทำงี้ได้กับทุก service นี่ชีวิตคงง่ายขึ้นเยอะจริงๆ ช่วงหลังๆ รู้สึกว่ามีคนเดินออกจากห้องก่อนจะจบเยอะเหมือนกัน ผมว่าเค้าประกาศ service นู่นนั่นที่บางทีก็ niche มาก คนที่ใช้นับเป็น % น่าจะน้อย บางทีก็ไม่น่าเอามาพูดใน keynote มั้ยนะ ใครสนใจดู Keynote เต็มๆก็ตามไปดูกันได้ที่ https://www.youtube.com/watch?v=Xus8C2s5K9A
หลังจากจบ Keynote ผมก็เดินมากินข้าวกลางวันตาม concept ย้อนรอยสมัยอยู่เมกาเหมือนเดิม คราวนี้มากิน Panda Express ร้านอาหารจีนสไตล์เมกัน อิ่มอร่อยมากๆ
ตอนนี้ขอจบแค่นี้ก่อน เดี๋ยวตอนต่อไปผมจะไปเดินดูเต็นท์ automative industry และฟัง session เกี่ยวกับรถต่ออีก รอติดตามนะครับ
อ่านต่อได้ที่ เที่ยวงาน AWS re:Invent 2022 ที่ Las Vegas ตอนที่ 3
