인일의 공부 블로그

1. 기울기 소실(Vanishing Gradient)이란? 역전파에서 경사하강법 진행시, 기울기 값이 사라지는 문제 출력층에 가까운 값에서 입력층으로 가까운 값으로 진행되면서 기울기가 작아지며 소실한다. 더보기 input layer에 입력값이, output layer에 출력값이, 중간 부분에서 계산을 함. 간단히 말하면 입력값에 중요한 만큼(가중치)를 곱해서 특정 값(임계치)를 넘으면 출력값에 옳은 답 이라는 것을 출력함. 이때, input layer -> hidden layer -> output layer를 가는 순전파도 있지만 output layer 쪽에서 input layer로 가는 역전파도 있음. 역전파는 데이터에대한 가중치를 정정할때 사용됨. 이때 곱해지는 활성화 함수에 대해 예시를 들겠음.

Vector, Matrix and Tensor - 차원이 없는 것을 Scalar라고 한다. 1차원 벡터, 2차원 행렬, 3차원 이상부터는 텐서 하여 쌓아 올린것. 파이토치 텐서 모형 2D 텐서 |t| = (Batch size, dim) 3D 텐서 모형 |t| = (batch size, width, height) NumPy Review PyTorch Tensor Broadcasting 행렬 계산에는 기본적인 규칙이 있다. 덧셈할때 같은 크기의 행렬만 사용 할 수 있다거나 곱셈 시에도 크기(k*m, m*k 행렬로)를 맞춰주어야 한다. 파이토치에서는 조건에 맞지 않는 크기더라도 행렬 계산을 할 수 있도록 boradcasting을 지원한다. Mean Sum Max and Argmax 참고자료 및 출처 벡터, 매..

본 포스팅은 다음 강좌를 수강하며 작성 될 것이다. www.boostcourse.org/ai214 파이토치로 시작하는 딥러닝 기초 부스트코스 무료 강의 www.boostcourse.org 나름 2학년 여름 방학중 머신러닝 / 딥러닝을 공부했지만 지금 와서 하나도 모르고 체계도 잡혀있지 않다. 아무래도 영어 강의를 수강하였고 영어 강좌로 공부했으며 공부 내용을 정리하기엔 시간이 너무 빠듯하여 진도 나가기에 급급했기 때문이라고 생각이 된다. 시간적 여유가 있...나? 암튼 지금 뭐부터 해야 할지 모르겠기 때문에 파이토치로 딥러닝 기초 이론을 공부해보려 한다. 실습 환경 설정 사실 파이토치와 이용하는 환경이 로컬에 모두 잘 설치되어있고 실습하기에 부족하지 않아 굳이 사용할 필요가 없지만 강의에서 관장하여 설치..

보호되어 있는 글입니다.

이름 의미 쓰임 평균 자료들 평균값 내기 mean(x) 분산 s^2 var(x) 표준편차 s sd(x) 표본상관계수 변수간 상관계수 분석(x, y)쌍에 대하여 cor(x, y) 중앙값 median(x) 최소/최대 min(x) / max(x) 범위 range(x) 최직선식 구할때 사용 lm(종속변수(결과) ~ 독립변수(원인),데이터) 자료를 범주별로 나누어 각 범주에 대한 통계량을 구해줌. aggregate('함수를 적용하고자 하는 컬럼' ~ '기준이 되는 컬럼', data, FUN) 산점도행렬 두개 이상의 변수에 대해 모든 가능한 산점도를 그릴 수 있는 함수. pairs(x) 변수가 여러 개 일때 plot에 범례를 넣는 함수 legend(x위치, y위치, [범례 기호 색 상자 색 모양 크기 등등설정] ,..