우니Blog

비용함수(cost function), 손실함수(loss function) 또는 목적함수(objective function)이라고 부릅니다. 비용함수는 최적화 이론에 기반을 둔 함수이며, 신경망의 지도학습에 사용됩니다. 지도학습은 오차가 최소인 가중치를 구하는 것을 목적으로 하며, 여기서 신경망의 오차를 측정하는 척도가 바로 비용함수입니다. 신경망의 오차가 크면 비용함수의 값도 크고, 신경망의 오차가 작으면 비용함수도 작은 값을 갖습니다. 즉 비용함수는 신경망의 오차에 비례합니다. 신경망 학습에서 비용함수 그래프의 최종 출력은 손실이며, 그 값은 스칼라입니다. 비용함수는 크게 두 가지 형태가 있습니다. Sum of squared – 제곱합 제곱합은 신경망 연구 초기부터 사용된 비용함수로 델타 규칙을 이용해..

Artificial Intelligence 2019. 8. 10. 14:04

강화 학습 이론은 동물 행동에 대한 심리적, 신경 과학적 관점에 중점을 두어 에이전트가 환경을 어떻게 최적화 할 수 있는지에 대한 설명을 제공합니다. 이전 강화학습 에이전트는 다양한 영역에서 성공을 달성했지만 이는 사람이 인지한 영역, 즉 사람이 완전히 관찰할 수 있는 낮은 차원의 영역에서만 가능했습니다. 여기서 우리는 deep neural network을 사용한 DQN(Deep Q Network)이라 불리는 novel artificial agent를 알아보겠습니다. 이 에이전트는 강화학습을 사용하여 고차원의 데이터를 입력 받아 바로 정책(policy)를 생성합니다. 이 방법은 고전적 게임인 Atari 2600 게임의 어려운 영역에서 이 에이전트를 테스트했습니다. 동일한 알고리즘, 네트워크 아키텍처 및 ..

Artificial Intelligence 2019. 8. 9. 20:03

모멘텀은 신경망의 학습 안정성과 속도를 높여 학습이 잘 하려고 사용됩니다. 모멘텀 은 다음과 같이 가중치를 갱신할 때 델타 규칙에 모멘텀을 추가로 더합니다. 모멘텀을 사용하면 가중치 값이 바로 바뀌지 않고 어느 정도 일정한 방향을 유지하면서 움직이게 됩니다. 또한 가속도처럼 같은 방향으로 더 많이 변화시켜 학습속도를 높여줘 빠른 학습을 하게 합니다. m하이프는 직전의 모멘텀을 의미하며 0으로 초기화합니다. 알파는 가속도 같은 역할을 하는 하이퍼 파라미터로 1보다 작은 양의 상수를 초기화합니다. 마지막 식은 현재 모멘텀이 다음 학습을 위해서 직전의 모멘텀으로 변한다는 의미입니다. 학습이 진행됨에 따라 모멘텀이 어떻게 변하는지 알아보겠습니다. 위 식을 보면 이전 모멘텀이 현재 모멘텀 추가되고 현재 모멘텀은 ..

Artificial Intelligence 2019. 8. 8. 21:12

이번 포스팅은 MLP 구조를 이용하여 XOR 연산법을 구현하는 방법에 대해서 알아보겠습니다. 요새 좋은 라이브러리도 많아서 굳이 이런 걸 만들 필요가 있을까도 생각이 들겠지만, Tensorflow에서 제공하는 방법으로 구현은 당연하고, 학습 알고리즘을 더욱 잘 이해하려면 직접 구현이 꼭 필요하다고 생각이 들어서 직접 구현해 봤습니다. 파이썬을 다루어 본 적이 없어 Doc 사이트 및 많은 구글링을 하였습니다. 또한 국내 많은 개발자는 대부분 DB를 이용하여 데이터를 처리하는 업무를 많이 합니다. 저 역시 이런 일을 많이 했습니다. 행렬 계산이 머릿속에 잘 그려지지 않아 많은 시행착오가 있었습니다. 소스 구성은 델타룰 알고리즘 및 제곱합을 Python으로 구현한 소스와 두 번째는 Tensorflow를 이용한..

Artificial Intelligence 2019. 8. 7. 21:26

이번 포스팅 주제는 역전파관련 내용입니다. 선행학습으로 경사하강법이 필요하므로 https://ynebula.tistory.com/14 포스팅 내용 학습이 필요합니다. 다층 신경망은 입력층과 출력층 사이에 여러 은닉층이 있는 신경망 구조를 가진 신경망입니다. 지도학습은 정답과 모델의 예측값을 비교한 오차를 기준으로 가중치를 조정합니다. 다층 신경망에서는 은닉 노드의 오차값 확인이 필요한데 이때 사용되는 방법이 역전파 알고리즘입니다. 역전파 알고리즘은 다층 신경망을 학습 방법입니다. (Learning representation by back-propagating error) 역전파(backpropagation) 알고리즘은 1986년에 개발되었습니다. 역전파 알고리즘의 아이디어는 은닉층 노드들의 오차를 확인하..

Artificial Intelligence 2019. 8. 6. 21:05

Single neural network의 가장 대표적인 문제점으로 XOR problem으로 들 수 있습니다. Single neural network는 And, OR 연산은 해결할 수 있지만 XOR 문제는 해결하지 못했습니다. 우리는 AI를 공부하면 MLP에서는 XOR 문제를 해결할 수 있다고 들었습니다. 그럼 어떻게 해결할 수 있는지 예를 들어 보면서 해결 방법에 대해서 알아보겠습니다. Single neural network의 한계점 분류를 할 때 뉴런이 한 개일 때는 하나의 직선밖에 만들 수가 없습니다. 즉 1차 선형 방정식으로 두 개의 분류로 분류할 수 있습니다. x1 x2 AND OR NAND 0 0 0 0 0 0 1 0 1 1 1 0 0 1 1 1 1 1 1 - 위 그림처럼 AND, OR 연산의 ..

Artificial Intelligence 2019. 8. 4. 16:26

이번 포스팅은 Tensorflow를 활용해 선형회귀분석을 구현하는 내용입니다. 선형회귀분석 이론을 공부하고 싶은 분들은 https://ynebula.tistory.com/15 를 참고 바랍니다. 소스 구현 환경 - Tensorflow - Anaconda 선형회귀분석 소스 구현 선형회귀분석은 변수들 사이의 관계를 분석하는데 사용하는 통계학적 방법으로 독립변수 x와 상수항 b와 종속변수 y 사이의 관계를 모델링 하는 방법입니다. 독립변수가 하나일 경우 단순회귀라 하며, 여러 개일 경우 다중회귀라 합니다. 단순회귀 일반 해: y = W*x + b 다중회귀 일반 해: y = W1*x1 + W2*x2 + W3*x3 + b y(예측값), w(기울기), bias(편차) 위 일반 해 중 단순회귀 형태로 되어있는 데이터..

Artificial Intelligence 2019. 8. 3. 09:50

자료구조 - Tensor 텐서플로는 텐서(tensor)라는 기본 자료구조로 모든 데이터를 표현합니다. tensorflow에서 다양한 수학식을 계산하기 위한 가장 기본적이고 중요한 자료형입니다. 텐서는 동적 크기를 갖는 다차원 데이터 배열로 볼 수 있으며 Boolean, 문자열 등 자료형을 표현합니다. 아래는 주요 자료형과 이에 대응하는 파이썬의 자료형을 정리한 표입니다. 텐서플로 자료형 파이썬 자료형 설명 DT_FLOAT tf.float32 32비트 실수 DT_INT16 tf.int16 16비트 정수 DT_INT32 tf.int32 32비트 정수 DT_INT64 tf.int64 64비트 정수 DT_STRING tf.string 문자열 DT_BOOL tf.bool 불리언 배열에서 1차원 2차원과 같은 개념..

Artificial Intelligence 2019. 8. 2. 21:27