줘이리의 인생적기

앞서 배웠던 회귀계수(w)를 기억하시나요? 이 회귀계수가 적다면 고차원 방정식으로 cost가 최소가 되는 w 값들을 도출할 수 있겠지만, 딥러닝은 이 회귀계수가 정말 많습니다. 즉, 고차원 방정식으로도 해결하기가 어렵다는 말입니다 ㅠㅠ 그래서 cost를 최소화하는 방법인 경사하강법(gradient descent)을 공부해보려 합니다. 경사하강법은 예측값과 실제값 사이가 작아지는 방향성을 가지고 회귀계수 파라미터를 업데이트합니다. 업데이트하다가 차이 값(=오류 값)이 작아지지 않으면 그 값을 최소 비용으로 판단합니다. 그렇다면 작아지는 방향성을 어떻게 알 수 있을까요? 2차 함수라고 가정했을 때 처음 회귀계수 값부터 미분을 적용한 뒤 미분 값이 계속 감소하는 방향으로 업데이트하면 됩니다..! 위 MSE L..

퍼셉트론을 시작으로 딥러닝에 대해서 공부하고 포스팅해보려고 합니다 퍼셉트론 먼저 퍼셉트론에 대해서 알아보자면, 퍼센트론은 가장 단순한 형태의 신경망입니다 싱글 레이어로 구성되어 있으며, input, weight, activation과 output으로 구성되어 있습니다 X는 input을 뜻하며, W는 각 input들의 가중치를 뜻합니다 Weighted sum은 bias를 포함하여 각 input들의 값과 가중치 값을 각각 곱하고 최종으로 더해서 나온 값이며, Activation은 Weighted Sum 값에 activation 함수를 적용한 값입니다. 활성화 함수 종류는 Step function, Sigmoid, ReLU등이 있다고 합니다. 나중에 깊게 다뤄보도록 하겠습니다! 퍼셉트론 학습 퍼셉트론 학습은 ..

딥러닝에서 유명한 예제죠. 보스턴 주택 가격 예측 네트워크를 만들어보겠습니다. 보스턴 주택 가격 데이터셋은 keras와 tf.keras에 기본적으로 내장되어 있습니다. 먼저 훈련 데이터, 검증 데이터, 테스트 데이터에 대해 알아봅시다. 훈련(train) 데이터는 학습 과정에서 사용되는 데이터입니다. 검증(validation) 데이터는 학습이 잘 되고 있는지 검증하는 용도로 사용되는 데이터입니다. 테스트(test) 데이터는 학습 결과를 평가하기 위한 데이터입니다. 다음은 보스턴 주택 가격 데이터셋에 대하여 알아보겠습니다. 1978년 미국 보스턴 지역의 주택 가격이며, 506개 지역의 주택 가격 중앙값을 1,000달러 단위로 나타냈습니다. 범죄율, 주택당 방의 수, 고속도로 접근성, 학생/교사 비율 등 13..

앞서 배웠던 것들로 학령인구와, 노령인구의 경향을 나타내주는 딥러닝 네트워크 회귀선을 만들어 보겠습니다. import tensorflow as tf import numpy as np import matplotlib.pyplot as plt #X = school_age_population, Y = elderly_population X = [16.4, 14.7, 17.2, 16.6, 17.1, 20.3, 17.2, 15.6, 17.4, 18.7, 16.9, 17.1, 15.8, 19.3, 16.6, 15.1, 17.9] Y = [11.4, 13.2, 11.1, 17.6, 16.3, 9.2, 15.2, 18.4, 18.5, 11.6, 13.7, 9.7, 21.5, 12.0, 14.5, 15.8, 14.0] m..

딥러닝 데이터 그래프를 그리기 전에 matplotlib.pyplot와 친해져보도록 하겠습니다. import matplotlib.pyplot as plt import tensorflow as tf x = range(20) y = tf.random.normal([20], 0, 1) #1 plt.plot(x, y) plt.show() #2 plt.plot(x, y, 'ko') plt.show() #3 plt.plot(x, y, 'k-') plt.show() #4 plt.plot(x, y, 'k--') plt.show() #5 plt.plot(x, y, 'ro') plt.show() #6 plt.plot(x, y, 'y-') plt.show() #7 plt.plot(x, y, 'b--') plt.show() 빨..