어텐션 메커니즘과 transfomer(self-attention)

Attention Mechanism

어텐션 메커니즘은 자연어 기계 번역을 위한 Seq2Seq 모델에 처음 도입되었습니다. 어텐션 메커니즘은 NLP 태스크 뿐만 아니라, 도메인에 관계 없이 다양하게 쓰이고 있습니다. 현재의 SOTA NLP모델들은 대부분 어텐션 메커니즘을 적용하고 있으니 최근 논문을 이해함에 있어 이해하고 넘어가야 하는 부분입니다.

android app에서 firebase storage의 데이터 가져오기

안녕하세요! 안드로이드 개발 인턴 sundae입니다.

How to get stickers on Samsung phone keyboard

Did you know that your Samsung phone comes with animated stickers preloaded on…

Maximum Inner Product Search

Retrieval이란 사전에 준비 된 데이터 내부에서 가장 적절한 것을 찾는 것을 의미합니다. 접근 방식 중 하나는 쿼리 정보를 벡터화하여 사전에 벡터화 되어 있는 데이터들 중 쿼리 벡터와의…

Unsupervised Data Augmentation for Consistency Training

EB 배포 중 npm install 실패 극복기

안녕하세요. 플랫팜 인턴 개발자 드타입니다. 👋

Metric & Loss for Multi-label Problem

Introduction

이 포스팅에서는 multi-label 문제에서 각 metric(precsion at k, 혹은 recall at k)에 따라 사용해야 하는 적합한 reduction 방법과 loss들을 알아보려고 한다. 이 글의 전개는

1. Multi-label이 어떤 문제인지,
2. 각 metric을 높이는 scorer가…

Glide 의 Activity 생명주기 콜백 처리

안드로이드 앱을 만들 때 Glide를 사용하면 서버에서 이미지를 내려받고 이미지 뷰에 표시하는 기능을 다음과 같이 간단한 코드로 만들 수 있다.

웹페이지에서 이미지의 용량을 확인하기

웹페이지에서 이미지 파일의 용량을 확인할 수 있는 몇 가지 방법을 테스트하며 response header, CORS, chrome cache 등에…

플랫팜의 기술 스택을 소개합니다.

플랫팜의 주요 서비스인 Mojitok은 이모티콘 콘텐츠 플랫폼이자 메신저 기업을 대상으로 하는 B2B 솔루션입니다.