2023 AWS re: Invent — Amazon Q

Ben Moon
Spoonlabs
Published in
7 min readJan 8, 2024

안녕하세요. 스푼라디오 Audio Team의 iOS 개발자 Ben 입니다.
AWS re:Invent 2023 에 뜻밖의 기회로 참여할 수 있게 되어 오래만에 해외 출장을 나가 좋은 경험과 다양한 AWS 행사와 세션들을 살펴보았고 그 중 관심이 있던 Amazon Q에 대해 이야기 하고자 합니다.

AWS re:Invent 2023 기조연설에 등장하는 Faker!!

Amazon Q는 쉽게 말해 ChatGPT 스타일입니다.
Amazon AWS 클라우드 플랫폼의 일부로 사용자를 위해 제공 설계된 챗봇입니다.
Amazon Q의 주요 특징에 대해서 알아 보도록 하겠습니다.

Amazon Q: 비즈니스를 위한 혁신적인 AI 챗봇

현대 비즈니스 환경에 맞는 대화형 인터페이스

Amazon Q는 AWS 클라우드 플랫폼의 중요한 부분으로, ChatGPT 스타일의 대화형 AI 챗봇입니다. 이는 사용자가 자연스러운 방식으로 질문하고 정보를 얻을 수 있는 대화형 인터페이스를 제공합니다. Amazon Q의 이러한 기능은 사용자가 새로운 대화를 시작하거나 기존 대화를 계속 이어갈 수 있도록 지원함으로써, 비즈니스 커뮤니케이션을 더욱 간편하고 효율적으로 만듭니다.

업무 통합 및 사용의 다양성

AWS의 CEO Adam Selipsky가 언급한 바와 같이, Amazon Q는 Salesforce의 Slack, 소프트웨어 개발자가 사용하는 다양한 텍스트 편집 애플리케이션과 같은 커뮤니케이션 앱에서도 활용될 수 있습니다. 이는 Amazon Q가 단순히 정보 제공에 그치지 않고, 실제 업무 환경에 통합되어 다양한 비즈니스 요구를 충족시킬 수 있음을 의미합니다.

강력한 보안 및 프라이버시 보호

IT 관리자들의 우려를 해결하기 위해 설계된 Amazon Q는 민감한 정보에 대한 무단 접근을 방지하는 프라이버시 및 보안 컨트롤을 갖추고 있습니다. 이러한 보안 기능은 기업이 중요한 데이터를 다룰 때 필수적인 요소로, Amazon Q는 이를 통해 사용자의 신뢰를 얻고, 보안 환경에서도 안심하고 사용할 수 있게 합니다.

다양한 AI 모델과 기술의 통합

Amazon Q는 아마존 자체의 Titan 대규모 언어 모델을 비롯하여 Cohere와 Anthropic이 구축한 다양한 인공 지능 모델을 사용합니다. 이는 특정 AI 모델에 국한되지 않고 여러 AI 시스템을 연결하는 Amazon의 Bedrock 플랫폼을 기반으로 하며, 이를 통해 더욱 강력하고 다양한 AI 기능을 제공합니다.

비용 효율성 및 데이터 활용

Amazon Q는 사용자 당 월 $20의 시작 가격으로 제공됩니다. 이는 비즈니스에 필요한 다양한 기능을 경제적으로 활용할 수 있게 해주며, Microsoft 365, Slack, Salesforce, Dropbox, Amazon S3 등 다양한 애플리케이션의 비즈니스 데이터를 활용할 수 있도록 지원합니다.

전문가용으로 설계된 AI 도우미

Amazon Q는 업무 관련 애플리케이션을 위해 만들어진 AI 도우미로서, 대화, 문제 해결, 콘텐츠 생성, 통찰력 확보, 조치 취하기 등의 작업을 지원합니다. 이는 회사의 정보 저장소, 코드, 데이터 및 엔터프라이즈 시스템에 연결하여 지원되며, 클라우드 컴퓨팅 분야에서 17년 이상의 AWS 지식과 경험을 바탕으로 구축되었습니다.

엔터프라이즈급 AI 도우미로서의 Amazon Q

Amazon Q의 초점은 기업에 서비스를 제공하는 것입니다. 이는 생성적 AI 기반의 채팅 도우미로 설계되어 기업을 위한 새로운 수준의 AI 상호 작용을 제공합니다. 이는 기업이 AI와 상호 작용하는 방식을 변화시킬 수 있는 고급 AI 기능을 제공하며, 이를 통해 다양한 작업과 업무 프로세스를 혁신할 수 있는 잠재력을 가지고 있습니다.

실제 Amazon Q를 사용해 보겠습니다.

AWS 콘솔에서 사용하는 방법

  1. AWS 계정에 로그인하십시오.
  2. 오른쪽 상단에 Amazon Q 아이콘이 표시됩니다.

3. 해당 아이콘을 클릭하면 Amazon Q 사용을 시작할 수 있는 창이 나타납니다.

4. 질문을 한 번 해 보도록 하겠습니다. 아직 한글을 지원하지 않아서 한글로 질문을 하면 아래와 같은 답변을 볼수 있습니다. 조금 당황스러운 문장입니다.

그래서 불가피하게 영어로 질문하고 답변을 받아보았습니다.
오디오 전용 스트리밍 서비스를 구축하려면 어떤 것이 베스트인지에 대한 Q의 답변입니다.

Amazone Q는 아래와 같은 서비스들을 추천해 주었다.

  1. Amazon Elastic Transcoder — 이 서비스는 기존 오디오 파일을 스트리밍에 최적화된 다양한 적응형 비트레이트 포맷인 HLS로 변환할 수 있습니다.
  2. AWS Elemental MediaPackage — 이 서비스는 Elastic Transcoder의 출력을 받아 사용자에게 안전하게 전달할 수 있는 HLS와 같은 포맷으로 패키징합니다.
  3. Amazon CloudFront — 이 콘텐츠 전송 네트워크는 MediaPackage에서 사용자에게 고성능, 보안 및 가용성을 갖춘 콘텐츠를 배포합니다. 또한 디지털 권리 관리도 처리할 수 있습니다.
  4. AWS Lambda — 이 서버리스 컴퓨트 서비스는 MediaPackage 또는 CloudFront의 특정 이벤트에 대응하여 코드를 실행할 수 있게 합니다. 사용자 요청에 따른 분석이나 광고 삽입 등에 유용합니다.
  5. Amazon S3 — 이 스토리지 서비스는 MediaPackage와 CloudFront에서 패키징된 스트리밍 콘텐츠를 저장하고 접근하는 데 사용됩니다.

추가 질문으로 오디오 전용 스트리밍 작업에 Amazon Interactive Video Service(IVS)를 추천하지 않는 이유를 물어보았습니다.

이에 대한 Amazone Q의 답변은 IVS는 라이브 비디오 스트리밍에 최적화 되어 있고 오디오 전용 입력을 지원하지 않기 때문에 IVS를 추천하지 않는다는 답변을 해주었습니다. 주요 포인트로는 다음의 내용을 알려주었습니다.

  1. IVS는 비디오 처리, 전달 및 재생을 처리함으로써 전 세계 시청자에게 저지연 비디오를 제공할 수 있도록 개발자를 지원한다. 그러나 이는 스트림에서 비디오 인코딩을 필요로 합니다.
  2. 문서에는 IVS 스트리밍의 지연 시간을 줄이기 위해서는 비디오에 대한 IDR 키 프레임 간격을 설정해야 한다고 명시되어 있는데, 이는 오디오 전용에는 적용되지 않는다.
  3. IVS는 오버레이 그래픽, 주석 등과 같은 인터랙티브 라이브 비디오 스트리밍 기능이 필요한 응용 프로그램에 가장 적합하다.
  4. 이전에 추천했던 Elastic Transcoder, MediaPackage 및 CloudFront의 조합은 모든 인코딩, 패키징, 전달 및 재생 요구 사항을 처리할 수 있으므로 오디오 전용 스트리밍에 필요한 비디오 처리 요구 사항이 없다.

간단한 2가지의 질문만으로도 몇달 전까지 AWS 서비스를 직접 사용해 볼 기회가 많지 않았던 모바일 개발자에게는 이제 나온 Amazon Q는 AWS 서비스의 훌륭한 길라잡이가 될 것 같다는 생각이 들었습니다.

기회가 된다면 앞으로 좀 더 다양한 사용 사례(문제해결, 작업자동화, 데이터 분석, 보고서 생성 등)를 공유하여 생산성 환경을 재편하고 AI가 일상적인 워크플로에 원활하게 통합되는 과정을 보여 드리도록 하겠습니다.

--

--