본문 바로가기

대학원 준비1

(8)
밑바닥부터 시작하는 딥러닝 8장 정리 8.1 계층을 깊게 하는 이유 8.2 딥러닝의 역사 8.3 딥러닝의 숙제와 활용 8.1 계층을 깊게 하는 이유 8.2 딥러닝의 역사 8.3 딥러닝의 숙제와 활용
밑바닥부터 시작하는 딥러닝 7장 정리 7.1 CNN의 기원과 전체 구조 7.2 합성곱 계층과 풀링 계층 설명 7.3 합성곱 계층과 풀링 계층 구현 7.4 CNN 구현 7.5 CNN 시각화 7.6 대표적인 CNN 7.1 CNN의 기원과 전체 구조 - 이 때, 고양이의 시각 인식방법을 알아보았더니, 고양이는 하나의 시야엔 시각피질 내의 여러 세포들이 각 부분을 담당해서 인지하고, 이 세포들이 계층들을 지날수록 합쳐져서 하나의 시야를 인지하더라 - 어떤 뉴런은 수직선의 이미지에만 반응하고, 어떤 뉴런은 다른 각도의 선에 반응한다. 이렇게 저수준의 패턴(edge, blob 등)이 조합되어 복잡한 패턴(texture, object)에 반응하다는 것을 알게 되었다 - 그래서 이미지 자체에서 특징을 추출하고, 그 특징들간의..
밑바닥부터 시작하는 딥러닝 6장 정리 6.1 가중치 매개변수 갱신법 6.2 가중치 초기값 6.3 배치 정규화 (Batch Normalization) 6.4 바른 학습 방법 6.5 적절한 하이퍼 파라미터 찾는 방법 6.1 가중치 매개변수 갱신법 6.2 가중치 초기값 활성화 함수로 Sigmoid를 썼을때 활성화 값의 문제점을 알아보자 여기에서는 가중치 매개변수를 1, 즉 상당히 큰 값으로 설정해보자 이번에는 가중치 매개변수를 대부분 0.01로 했을 때 활성화 값을 알아보자 위 코드를 실행할 경우 다음과 같은 결과가 나오게 됨 6.3 배치 정규화 (Batch Normalization) 6.4 바른 학습 하는 방법 6.5 적절한 하이퍼 파라미터 찾는 방법
밑바닥부터 시작하는 딥러닝 5장 정리 5.1 계산 그래프 5.2 연쇄법칙 5.3 역전파 5.4 활성화 함수 계층 구현 5.5 Affine, SoftmaxLoss 계층 구현 5.6 오차 역전파법 구현 5.1 계산 그래프 5.2 연쇄법칙 5.3 역전파 5.4 활성화 함수 계층 구현 sigmoid 계층을 정리하면 5.5 Affine, SoftmaxLoss 계층 구현 5.6 오차 역전파법 구현 (가정은 4장과 동일)
밑바닥부터 시작하는 딥러닝 4장 정리 4.1 신경망 학습 방법 4.2 손실 함수 4.3 수치 미분 방식 4.4 기울기 (Gradient) 4.5 학습 알고리즘 구현 4.1 신경망 학습 방법 임의의 입력값 x1 = 0.6, x2 = 0.9라고 가정했을 때, 출력값 y1 = 0.33, y2 = 0.67이 나왔다고 가정하자. 이 때, -tlny 라는 손실함수에다가 y값들을 넣을건데, t = [0, 1]이라면, 손실함수의 값으로는 -ln(0.67)이 나온다 만약 y2 = 0.99라면, -ln(0.99) = 0과 비슷해질것 만약 위 그림의 신경망 구조일 경우 W1은 2x3 형태의 행렬일 것. 이 때, 각 가중치 원소에 대해 미소값만큼 변화줄때, 손실함수의 값의 변화량을 알면 가중치 수정방향을 알 수 있을것 4.2 손실함..
밑바닥부터 시작하는 딥러닝 3장 정리 3.1 신경망이란 3.2 활성화함수 3.3 다차원 배열의 계산 3.4 신경망에서의 행렬 3.5 3층 신경망 구현 3.6 출력층 설계 3.7 손글씨 숫자 인식 3.1 신경망이란 3.2 활성화함수 3.3 다차원 배열의 계산 3.4 신경망에서 행렬 3.5 3층 신경망 구현 해보기 3.6 출력층 설계 3.7 손글씨 숫자 인식
밑바닥부터 시작하는 딥러닝 2장 정리 2.1 퍼셉트론이란? 2.2 퍼셉트론을 이용한 단순 논리 회로 2.3 퍼셉트론의 한계 2.4 다층 퍼셉트론 2.1 퍼셉트론이란? 2.2 단순 논리 회로와 구현 2.3 퍼셉트론의 한계 2.4 다층 퍼셉트론
밑바닥부터 시작하는 딥러닝 1장 정리 들어가기전에... 다음은 서강대 강석주 교수님 연구실에서 준 과제를 기록으로 남기기 위해 만든 자료입니다. 이 자료의 모든 그림은 제가 직접 만들었거나, 밑바닥부터 시작하는 딥러닝 깃허브에 저장된 그림을 사용했습니다. 다음의 자료들은 ppt에서 만든 자료를 캡처한 것으로, 화질이 좋지 않을 수 있습니다 1.1 파이썬이란? 1.2 파이썬의 기본 문법 1.3 Numpy 1.4 Matplotlib 1.1 파이썬이란 1.2 파이썬의 기본 문법 1.3 넘파이(numpy) 1.4 Matplotlib