선형대수가 왜 머신러닝에 있어서 가장 중요한 수학 분야인가?

머신러닝과 선형대수의 관계

머신러닝에 있어서 수학이 중요하다는 이야기는 많이들 합니다. 수학의 여러분야 중에서도 특히 선형대수가 자주 등장합니다. 이 문서에서는 머신러닝과 선형대수의 관계를 설명해 보고자 합니다.

제일먼저 딥러닝에서 많이 등장 하는 수식을 살펴보겠습니다.

이 수식은 단일 뉴런을 설명하는 수식에서 활성화 함수가 빠져 있습니다. 엄밀 하게는 이를 뉴런으로 부를 수 없지만 그 이야기까지 하자면 글이 많이 길어지므로 일단 이를 단일 뉴런이라 가정해 봅시다. 이러한 단일 뉴런을 여러 층으로 연결하여 신경망을 구성하게 되는데 예를 들어 뉴런이 3개 존재한다면 계산식으로 표현 가능합니다.

그리고 이 식은 다시 다음과 같이 적을 수 있습니다.

이 연립 방정식의 요소들을 행렬 수식을 이용해 표현하자면 다음과 같이 적을 수 있습니다.

그럼 이제 다음과 같이 적을 수 있게 되었네요.

어떻습니까? 처음 나열된 연립 방정식과 비교해 보면 매우 간결한 표현이 되었습니다. 게다가 이렇게 작성된 수식은 뉴런의 갯수를 n개로 확장하더라도 그대로 컴퓨터에게 계산을 명령하는데 사용 할 수 있습니다.

원래 선형대수학은 연립방정식을 손쉽게 풀고자 하는 고민으로부터 시작되었습니다. 머신러닝은 본질적으로는 컴퓨터가 이해할 수 있는 대량의 데이터, 즉 숫자를 이용해 복잡한 계산을 수행하는 것 이므로 선형대수학의 수식과 계산 기법을 사용하면 최소한의 타이핑 만으로도 대량의 계산을 손쉽게 컴퓨터에게 지시하는것이 가능해 집니다.