LOV3

HistoryAlexNet에 사용된 Layer들을 보면크게 4가지가 있고 가장 기초가 되며 중요한 Layer들이다.하나씩 알아보자Fully Connected Layer이름 그대로 모든 Input과 Output이 연결되어 있는 Layer이다.Fully Connected Layer에 들어가기 전 input값들은 1차원으로 변환하는 작업을 거친다.W(Weight)가 학습 대상이며200 * 200 이미지로 예시를 들면 output이 200 * 200 이라 했을때200 * 200 * 200 * 200 = 1,600,000,000 의 파라미터가 필요하다.(16억) (1.6 billion)이는 현대 컴퓨터 성능으로는 사실상 불가능한 학습 파라미터 개수이다.이를 개선하기 위해 Convolutional Layer가 등장..

Neural NetworkPermalink인간 뇌의 neuron 구조를 모방한 네트워크 구조를 Neural Network라고 한다.Training, InferencePermalink진행 방식은 다음과 같다.Training수많은 데이터를 순방향 전파 (forward propagation)를 통해 신경망을 거쳐가고 Loss Function을 통해 에러율을 판단한다.그 에러율을 줄이기 위해 역방향 전파 (backward propagation)로 다시 신경망을 반대로 지나가면서 각 신경망의 Weight들을 바꾼다.Inference모델이 원하는 작업을 수행해 주는 것이다.쉽게 말해 예측하는 작업! 당연히 학습된 모델이기 때문에 추론 과정에서는 순방향 전파만 일어난다.https://manchann.tistory.c..

Linear ClassificationPermalink살짝 복습으로우리는 예측값을 구하기 위해 함수를 찾으려는 것이고,Linear에서는 W, b를 찾는 것이 목적이다.최적의 W, b를 찾기 위해 Loss 개념을 사용해train data에서 가장 실제값을 잘 표현하는 W, b를 찾는 것이다.부가적으로 직접 설정해야 하는 hyper parameter 값을 잘 설정하기 위해서는 validation data를 사용Loss FunctionPermalinkLoss Function - L1 LossPermalink정답이 1일때 예측값이 1이면 에러가 0간단하다.Loss Function - L2 LossPermalink이것도 간단하다 L1에서 제곱Loss Function - Cross Entropy LossPermal..

Supervised Learning vs Unsupervised LearningPermalinkSupervised Learning: 지도 학습데이터에 레이블이 붙어 있음예측 문제 (Regression, Classification)예시: Linear Regression, SVM, KNNUnsupervised Learning: 비지도 학습데이터에 레이블이 없음군집화 문제 (Clustering)예시: K-Means, PCAPCA (Principal Component Analysis)PermalinkUnsupervised Learning 기법으로머신러닝, 딥러닝 할때 데이터 크기 (차원)이 너무 크다는 문제점을 해결하기 위해 사용하는 것이다.쉽게 말해 축 (basis vector)를 바꿔서차원을 줄이는 방법이다..