Kernel Function & Mapping Function

Minha Kim
4 min readJan 10, 2024

--

Kernel Function

Kernel function example image (https://velog.io/@be1le/Everything-about-PCA4)

커널 함수(Kernel Function)는 랜덤 변수 X를 커널 함수로 매핑하는 것을 의미한다. 커널 함수는 다음 3가지 조건을 모두 만족하는 함수:

  • 적분값(integral)이 1인 경우
  • 원점을 중심으로 대칭인 경우
  • Non-negative인 경우

커널 함수는 머신러닝이나 통계학에 주로 사용된다. 커널 함수는 mapping function의 내적으로 표현가능하다. 기하학적으로 cosine 유사도를 의미하기 때문에 Similarity function 이라고도 불린다. 목적함수(Object Function)와 같은 수식에서 벡터의 내적이 포함될 때, 커널 함수로 대체하여 계산할 수 있음.

그렇다면, mapping function은 무엇일까?

사상 함수(Mapping function)은 원본 데이터를 고차원 데이터로 변환시키는 함수이다.

Mapping은 수학에서 함수와 비슷하지만 함수를 일반화한 개념으로, 두 집합 X, Y가 존재할 때, 집합 X의 각 원소 x를 집합 Y의 하나의 원소 y로 대응시키는 관계를 의미한다.

자세한건 아래 페이지를 읽으면 더 잘 이해될 것이다.

Kernel Function은 왜 사용하나?

고차원 변환 + 연산량 감소

Kernel function은 주로 지원 벡터 머신(Support Vector Machines, SVM)이나 커널 기법을 사용하는 다른 머신 러닝 알고리즘에서 사용됩니다. 이 함수의 주된 목적은 입력 데이터의 고차원 특징 공간으로 매핑하여 선형 분류 문제를 비선형 분류 문제로 확장하는 것입니다. 또한, 고차원에서 내적을 계산하기 때문에 연산량을 감소하는 효과를 가져다 준다.

Kernel Function Type

https://en.wikipedia.org/wiki/Kernel_(statistics)#Kernel_functions_in_common_use
All of the kernels below in a common coordinate system.

Thank you for reading ! :)

--

--