self-attention (1) 썸네일형 리스트형 인공신경망에서 소프트맥스(softmax) 함수의 수식에 대한 설명 # 소프트맥스는 왜 자연상수의 지수함수 $e^x$ 를 사용하는가? Softmax 함수는 다중 클래스 분류에서 확률값을 계산하는 데 사용되는 활성화 함수입니다. 수식은 다음과 같습니다.$$\sigma(z_i) = \frac{e^{z_i}}{\sum_{j=1}^{n} e^{z_j}}$$#1. Softmax 함수의 요소 1. \( z_i : \text{입력 벡터의 } i \text{번째 요소} \) 입력값, 로짓Softmax 함수에 입력되는 원소입니다.분류 문제에서 각 클래스에 대한 로짓(logit, 점수)으로 사용됩니다.예를 들어, 뉴런의 출력값이나 신경망의 마지막 계층에서 계산된 값이 됩니다.2. \( e^{z_i} : \text{자연상수} e \text{를 밑으로 하는} \) 지수 함수자연상수 (약 2.. 이전 1 다음
