AWS re:Invent 2023 Keynote — Dr. Werner Vogels

เปิดงาน

• ในส่วนของ Hardware Contraint ไม่ต้องมีแล้วสำหรับในส่วนของ Cloud หากยังต้องติดอยู่กับเรื่องของ Hardware Contraint ก็ทำให้ Business ติดเหมือนกัน เช่น Campaign Black Friday เป็นต้นที่ Business ต้องไม่มีข้อจำกัด ในส่วนของ Cloud ยกส่วนของข้อจำกัดนั้นออกไปให้หมด
• ในส่วนของการทำงานจะต้อง Architect ด้วยค่าใช้จ่ายเป็นหัวใจเสมอ ซึ่งได้พูดตั้งแต่ในงาน re:Invent 2012
• ตัวอย่างลูกค้า PBS ซึ่งไม่สามารถที่จะ Scale ได้เลยจะย้ายขึ้นมาบน AWS แต่ว่า Lift and Shift ก็ไม่สามารถ Scale ได้เหมือนกัน และเรื่อง Cost นั่นเองว่าหากสามารถที่ลดค่าใช้จ่ายได้ก็สามารถที่จะเพิ่มค่าใช้จ่ายได้ โดยหลักๆ แล้วนั่นคือ Rearchitect สำหรับ Cost ค่าใช้จ่าย
• ค่าใช้จ่าย Cost จริงๆ Conceptใกล้เคียงกับในส่วนของ Sustainability นั่นเอง เพราะว่ามันคือต้นทุนที่เกิดขึ้นจากการใช้งาน
• ตัวอย่างลูกค้า WeTransfer ที่สามารถลด Emissions ได้มากกว่า 78% นั่นคือ Rearchitect ให้สามารถที่จะลด Cost ค่าใช้จ่ายได้

The Frugal Architect

• The Frugal Architect เป็นประสบการณ์ของ Dr. Werner ที่ผ่านมาสร้างเป็นหลักการออกแบบโดยแบ่งออกเป็นหัวข้อต่างๆ

Design

• Cost is a Non-Functional Requirement จะต้องเพิ่มในส่วนของ Non-Functional Requirement นั่นคือ Cost และ Sustainability ในแต่ก่อนมีการเปลี่ยนการใช้จ่ายจาก Fix Cost เป็น Pay-per-use ตัวอย่างเช่น S3 มี Cost หลักๆ คือ Transfer / Storage แต่ว่าก็จะมีค่าใช้จ่ายในส่วนของ Request เหมือนกัน อีกตัวอย่างนึงคือในส่วนของ DynamoDB นั่นคือจะมี Eventurally Consistent ที่เสียเงิน 1 Read แต่ว่ามี Strong Consistent Read นั่นคือควรจะคิดค่าใช้จ่ายในทุกๆ การ Design ในส่วนของ Application
• Systems that Last Align Cost to Business ระบบจะต้อง Align กับ Business นั่นคือจะต้อง Align Cost กับ Revenue นั่นเอง หากเราสร้าง Cost กับ Revenue ไม่ไปในทางเดียวกันก็จะทำให้เกิดในส่วนของ Loss นั่นเอง นั่นคือจะต้องคิดถึง Flywheel นั่นเอง ทำให้การตัดสินใจของ Business และ Technology จะต้องไปในทางเดียวกัน
• Lambda มีประกาศปี 2014 ตั้งแต่ Lambda มีการตัดสินใจด้านสามส่วนในการออกแบบตั้งแต่ Cost / Security / Insight นั่นจะต้องรู้ว่า Cost เกิดขึ้นทางไหน โดยในตอนแรกจริงๆ แล้วใช้เป็น t2 ซึ่งด้านล่างจริงๆ แล้วซึ่งสร้างเป็น Lambda Compute Pool ซึ่งจะต้องใช้ Resource Management ให้ได้เพราะว่าการรัน Lambda บางทีไม่คุ้ม เพราะว่าเครื่อง t2 ใหญ่ไปทำให้ไม่คุ้มค่ากับค่าใช้จ่าย AWS เลยประกาศ Firecracker ที่เป็น MicroVM ที่อยู่ใน Lambda อีกทีนึงเพื่อ Isolate ในการรันแต่ละรอบ โดยในส่วนการสร้าง Architect จะต้อง Evolvable Architecture นั่นคือจะต้องเปลี่ยนได้ทันที
• Architecting is a Series of Trade-Offs ในส่วนของการทำ Architect จะต้องเป็นเรื่องของการ Trade-off นั่นเองในหลายๆ ด้าน
• ตัวอย่างลูกค้าคือ Nubank นั่นคือใช้สร้างในส่วนของ Transfer ที่ไม่มีค่าใช้จ่ายและสามารถที่จะ Transfer ได้ในทันทีนั่นเอง ซึ่งได้มีจำนวน Transaction ที่มากกว่า Credit/Debit Card นั่นคือจะต้อง Trade-off ระหว่าง Cost / Stability นั่นเอง ซึ่งใน Objective คือจะต้องได้ Stability และ Cost หนึ่งในนั้นคือในส่วนของ Garbage Collector นั่นคือใช้เวลาเก็บ Garbage Collector นานไป อันที่ 2 คือในส่วนของ Cache นั่นเอง โดยแทนที่จะเพิ่มในส่วนของ In-memory Cache มาใช้ในส่วนของ NVMe ที่เป็น Disk นั่นคือสามารถ Cache ได้จำนวนที่มากได้เลย ซึ่งทำให้ลดจำนวนค่าใช้จ่ายได้มากขึ้น $8B ในปี 2022 ทุกๆ Business Unit ที่ Nubank มี AWS Cost Champion โดยสรุปแล้วเราจะต้อง “Align your priorities”

Measure

• Unobserved Systems Lead to Unknown Costs อย่างแรกจะต้องวัดในส่วนของค่าใช้จ่ายในแต่ละส่วนได้ ตัวอย่างคือมีบ้านที่เหมือนกันแต่ทำไมถึงใช้ไฟไม่เหมือนกัน นั่นคือสิ่งที่แตกต่างคือที่ที่ไว้ Heater ระหว่างใต้ดินกับบนดิน ที่ AWS เองก็มีการวัดผลนั่นคือตัวอย่างคือ Cost / request ในส่วนของ Microservice นั่นคือเราสามารถนำ Metric ที่ได้และเราสามารถที่จะลด Cost / request ได้เรือยๆ แต่ในระดับที่เป็น System Level ในหนึ่งหน้าของ Amazon.com จริงๆ แล้วมีหลายหน้าที่เกี่ยวข้องกับหลาย Microservice นั่นคือเราจะต้องหาให้ได้ว่าเราสามารถที่จะไปหาที่บ้าง และสุดท้ายคือ Conversion Rate คือจำนวนที่ขายได้ ซึ่งทั้งหมดจะทำให้เราสามารถเข้าใจ Cost Dimension
• ประกาศ Amazon Management Console myApplication ทำให้เป็นภาพเดียวของ Cost ทั้งหมดในภาพเดียวในส่วนของ Application
• ประกาศ Amazon CloudWatch Application Signals เป็น Dashboard ที่ดูในส่วน Workload ของ EKS ภาพเดียวจบในตัว
• Cost-Aware Architecture Implement Cost Control นั่นคือเราจะต้องมีวิธีในการที่จะทำให้รู้ว่า Cost เราจะต้องสร้าง Switch ขึ้นมา เพื่อให้เราสามารถควบคุมได้ โดยมีการแยกในส่วนของ Component ออกมาเป็น Tier นั่นคือ Tier 1 / 2 / 3 เป็นต้น ว่าอันไหนที่ต้อง Effect กับตัว Business ซึ่งก็เกี่ยวข้องกับ Trade off นั่นเอง นั่นคือเราสามารถปิดไปได้และสร้าง Panel สำหรับ Control เหมือนสร้าง Control Panel ขึ้นมา โดยสรุปแล้วเราต้อง “Define your meter”

Optimization

• Cost Optimization is Incremental เราจะต้องตัดในส่วนของ Waste นั่นเอง โดยที่ผ่านมามีค่าใช้จ่ายในส่วนของ Stop / Rightsize และ Shift คือการเปลี่ยนไปใช้ Graviron ซึ่งในส่วนของ Reduce เราใช้ในส่วนของ Profiler นั่นคือในส่วนของ CodeGuru Profiler ตัวอย่างเข่นเราใช้ แล้วแล้วเจอว่า Network Communication 40% หรือว่าในส่วนของ Code ส่วนใหญ่ไปที่ Exception ที่ทำให้ Cost สูง ซึ่งหากมีการแก้ Code นี้ทำให้ส่วนของ Network Communication ลดลงเหลือแค่ 20% โดยสรุปแล้วเราจะต้อง “Continuously Optimize”
• Unchallenged Success Leads to Assumption นั่นคือเราจะต้องไม่คิดว่าเราเคยทำแบบนี้มาก่อนแล้ว ซึ่งหากดูในค่าใช้จ่ายแล้วข้างในจริงๆ แล้วค่าใช้จ่ายที่เกิดขึ้นของการ Dev น้อยกว่าค่าใช้จ่ายของการ Operate นั่นคือการเลือกภาษามีส่วนสำคัญเหมือนกันในส่วนของ Energy Efficiency โดยสรุปแล้วเราจะต้อง “Disconfirm your beliefs”

Contraints จะทำให้เกิด Creativity สามารถเข้าไปดูได้ที่ the frugal achitect.com

AI for Now / AI for Good

• ในการทำนายอนาคต คือต้อง Observe ปัจจุบันนั่นเอง จริงๆ แล้วถ้ากลับไปที่Aristotle และ Plato จริงๆ ก็คือจริงๆ แล้วคือการสร้าง Machine Workforce ซึ่งหลังจากนั้นเป็นการใช้ Machine ในการคำนวณเลขเป็นหลัก หลังจากนั้นก็คำถามสงสัยเกี่ยวกับว่า Machine สามารถคิดได้หรือไม่ เราสร้างระบบเช่น Expert System ที่เป็นวิธีจาก Top-Down แต่ว่าจริงๆ แล้วมีวิธีอีกอย่างคือ Emodied AI ที่เป็นวิธีจาก Bottom-up ขึ้นมา ซึ่ง Deep Learning ซึ่งเป็นส่วนเล็กๆ สร้างขึ้นมาเช่นกัน เหมือน LLM
• AI for Now จะต้องมาพร้อมกับ AI for Good นั่นคือจะต้องคิดและว่าจะต้องใช้ AI เพื่อในทางที่ดีอย่างไรบ้าง เช่น IRRI ที่ฟิลิปปินส์ มีการใช้ AI ในการช่วยงานวิจัยทางด้านข้าว เพิ่มในส่วนของ Productivity หรือ Certgenx มีการใช้ AI มาช่วยเกี่ยวกับการบาดเจ็บในเด็กโดยใช้คลื่นสมอง EEG หรือ Percision AI สร้าง Drone ขึ้นมาเพื่อให้สามารถกำจัดวัชพืชได้เป็นจุดๆ หรือ Digital Earth Africa ใช้ AI ในการดูการเปลี่ยนแปลงของชายหาด
• ลูกค้า Thorn มีการสร้าง AI มาไว้สำหรับในการ Detect มาโพสรูปที่ไม่เหมาะสมของเด็ก แต่จะทำยังไงให้เราสามารถรูปที่ไม่เหมาะสมของเด็กได้อย่างไร หากเราจะต้องใช้คนมารีวิวในแต่ละส่วนจะต้องใช้เวลาถึง 3 ปีในการ Review ซึ่งทาง Thorn สร้างขึ้นมา โดยใช้วิธี Hashing / Tagging และใช้ Classifier โดยมีการสร้าง Classifier ขึ้นมาเอง ซึ่งสิ่งที่ท้าทายคือจะต้องเก็บข้อมูลที่แยกออกมาชัดเจนระหว่างข้อมูลที่ถูกต้องและไม่ถูกต้อง โดยมีการ Training Model ที่ On-premise และเอา Model มา Deploy ที่ Cloud ซึ่งในส่วนของ Solution Model และนำข้อมูลมา Feedback เพื่อให้ข้อมูลได้ถูกต้องมากขึ้น
• ปัญหาของเส้นเลือดในสมองแตกคือทุกๆวินาที Count ซึ่ง X Ray ออกมาแล้วหากเจอใหญ่ อันนั้นจะง่าย แต่ปัญหาคือจุดเล็กๆที่มีปัญหา โดยจะต้องสร้าง Machine Learning Model โดยใช้ Python ในการเขียน และสร้างเป็น Deep Learning Model หลังจากที่ได้ Model มาแล้วจะทำไปเชื่อมต่อในการใช้งาน จริงๆ แล้ว การทำ AIML ไม่ได้ยากขนาดนั้น ในการทำ Application AI/ML สำหรับ 1 Application
• ปกติแล้วในการวิเคราะห์เกี่ยวกับการแพทย์ไม่ได้มีเฉพาะรูปภาพภาพเดียว แต่จริงๆ ตัวอย่างเช่นใน MRI ที่มีรูปภาพหลายๆ อันต่อๆกันที่จะต้องใช้ Machine Learning มาช่วยในการจัดการให้มีประสิทธิภาพ
• สุดท้ายแล้วคนตัดสินใจไม่ใช่ AI แต่ว่าเป็นคน AI Predicts แต่ว่า
• ในการสร้าง Generative AI มีในส่วนของ Incorporate ซึ่งมีตัวอย่าง CDK ในการสร้าง Generative AI ได้ง่ายๆ และในส่วนของ Corporate คือมี CodeWhisper ในส่วนของการช่วยเหลือในนี้
• ประกาศ AWS SageMaker Studio Code Editor คือจะมี Code Editor ในส่วนของ SageMaker Studio
• Amazon Q เป็นจุดเริ่มต้นในการให้ AI มาเป็น Expert ในการช่วยเราในการทำงานได้ ไม่ว่าจะเป็น Service ของ AWS ซึ่งจะอยู่ในแต่ละส่วนของการทำงานของเราไม่ว่าจะเป็น CodeCatayst หรือ ใน IDE
• ประกาศ AWS Application Composer in VS Code คือเราสามารถ Drag and Drop ลงผ่านหน้า VS Code ได้เลยทันทีไม่ต้องทำใน Console