Cute Running Puppy

딥러닝 2

딥러닝(2) - Backpropagation

역전파란?Backpropagation(역전파)은 신경망 학습에서 오차를 출력층에서 입력층으로 전달하여 각 가중치의 기여도를 계산하고 업데이트하는 알고리즘역전파의 필요성은닉층이 여러 개인 신경망은 단순한 방법으로 학습이 불가능출력층의 오차만으로 은닉층의 가중치를 직접 조정할 수 없음효율적인 Gradient 계산이 필요 - Parameter updateGradient Descent손실 함수의 기울기 방향으로 파라메터를 업데이트 하는 알고리즘문제점은닉층이 여러개 일 때 미분 불가 문제 발생Chain Rule복합 함수의 도함수를 계산할 때 사용하는 미분 법칙수학적 정의복합 함수 z=f(g(x))의 경우 chain rule은 다음과 같이 표현예 - 문제점모델의 크기가 커지면 계산량이 매우 커진다.역전파의 목적기울..

딥러닝 2025.04.07

딥러닝(1) - Neural Network

- Neuron신경 세포의 가장 작은 기본 단위- Perceptron생물학적 뉴런을 모방한 알고리즘으로 인공신경망의 가장 기본 단위입력 데이터를 받아 가중치와 함께 계산하고, 그 결과를 활성화 함수로 변환하여 출력Perceptron의 구성요소Inputs외부에서 입력되는 값, 입력 값Weights각 입력에 대한 중요도, 가중치Bias모델 고유의 편중 값, 편향Activation Function노드의 출력 값을 결정하는 함수Output노드의 최종 출력, 출력 값- Basic Perceptron선형 회귀는 가장 단순한 노드의 형태위의 그림을 수정하여 입력이 3개인 다변수(Multivariable) 선형회귀 모델을 만들면?위의 다변수 선형회귀 모델에 활성화 함수를 적용하여 Logistic Regression그림..

딥러닝 2025.04.06