줘이리의 인생적기

퍼셉트론을 시작으로 딥러닝에 대해서 공부하고 포스팅해보려고 합니다 퍼셉트론 먼저 퍼셉트론에 대해서 알아보자면, 퍼센트론은 가장 단순한 형태의 신경망입니다 싱글 레이어로 구성되어 있으며, input, weight, activation과 output으로 구성되어 있습니다 X는 input을 뜻하며, W는 각 input들의 가중치를 뜻합니다 Weighted sum은 bias를 포함하여 각 input들의 값과 가중치 값을 각각 곱하고 최종으로 더해서 나온 값이며, Activation은 Weighted Sum 값에 activation 함수를 적용한 값입니다. 활성화 함수 종류는 Step function, Sigmoid, ReLU등이 있다고 합니다. 나중에 깊게 다뤄보도록 하겠습니다! 퍼셉트론 학습 퍼셉트론 학습은 ..

결론부터 말하자면, 하나의 퍼셉트론으로는 간단한 XOR연산자도 만들어낼 수 없습니다. (Marvin Minsky, Seymour Papert가 증명) 안 되는 XOR 네트워크를 만들어볼 텐데, 앞서 공부한 OR, AND 연산처럼 XOR 진리표부터 보겠습니다. import tensorflow as tf import math import numpy as np def sigmoid(x): return 1 / (1 + math.exp(-x)) x = np.array([[1,1], [1,0], [0,1], [0,0]]) y = np.array([[0], [1], [1], [0]]) # 거짓 참 참 거짓 w = tf.random.normal([2], 0, 1) b = tf.random.normal([1], 0, 1..