딥러닝3 [혼공머신] chapter 9. 텍스트를 위한 인공 신경망 혼자 공부하는 머신러닝 + 딥러닝의 Chapter 9을 공부하면서 정리한 내용을 기반으로 작성하였다. 9-3 미완 09-1. 순차 데이터와 순환 신경망 - 순환 신경망을 사용해서 글을 분석할 수 있다. 순차 데이터 순차 데이터는 텍스트나 시계열 데이터(time series data)와 같이 순서에 의미가 있는 데이터를 말한다. 이전에 입력한 데이터를 기억하는 기능이 필요하다. 토큰 (token) : 분리된 단어 샘플 하나에 토큰이 여러 개가 있다. 1개의 토큰이 하나의 타임스텝에 해당한다. 토큰에 할당하는 정수 중 예약어 : 0(패딩), 1(문장의 시작), 2(어휘사전에 없는 토큰) 순환 신경망(recurrent neural network, RNN) 일반적인 완결 연결 신경망과 거의 비슷하지만, 이전 데.. 2023. 3. 27. [혼공머신] chapter 8. 이미지를 위한 인공 신경망 혼자 공부하는 머신러닝 + 딥러닝의 Chapter 8을 공부하면서 정리한 내용을 기반으로 작성하였다. 08-1. 합성곱 신경망 합성곱 → 유용한 특성만 드러나게 함 → 2차원 구조를 그대로 사용하기 때문에, CNN을 이미지 처리에 뛰어난 성능을 보인다. 모델 훈련 처음에 가중치와 절편을 랜덤하게 초기화한다. 에포크를 반복하면서 경사 하강법 알고리즘을 사용하여 손실이 낮아지도록 최적의 가중치와 절편을 찾아간다. 특성 맵(feature map) 합성곱 계산을 통해 얻은 출력으로, 활성화 함수를 통과한 값을 나타낸다. 특성 맵의 값은 실수이다. 뉴런(neuron) = 필터(filter) = 커널(kernel) 합성곱 신경망에서는 뉴런을 필터, 커널이라고 부른다. 합성곱의 필수 하이퍼 파라미터 Conv2D의 첫.. 2023. 3. 13. [혼공머신] chapter 7. 딥러닝 시작 (신경망 모델) 혼자 공부하는 머신러닝 + 딥러닝의 Chapter 7을 공부하면서 정리한 내용을 기반으로 작성하였다. 7-3 미완 07-1. 인공신경망 인공 신경망(ANN;artificial neural network) 가장 기본적인 인공 신경망은 확률적 경사 하강법을 사용하는 로지스틱 회귀와 같다. 이미지 분류 문제에는 인공 신경망이 잘 맞는다. 출력층 z값을 계산하는 단위를 유닛(unit)이라고 부른다. (예전에는 뉴런이라고 부름) 기존의 머신러닝 알고리즘이 잘 해결하지 못했던 문제에서 높은 성능을 발휘하는 새로운 종류의 머신러닝 알고리즘일 뿐이다. GPU(그래픽 처리장치)는 벡터와 행렬 연산에 매우 최적화 되어 있어 곱셈/덧셈이 많이 수행되는 인공 신경망에 큰 도움이 된다. 인공 신경망에서는 교차 검증을 살 사용하.. 2023. 3. 7. 이전 1 다음