분류 전체보기

[Deep Learning - 딥러닝]MNIST Classification - 손글씨 분류기

보편적으로 딥러닝을 배울 때는 손 글씨 숫자 이미지를 인식하는 문제로 시작합니다. 이번 포스팅은 텐서플로에서 어떻게 단일 계층 신경망을 만들고 손글씨 숫자를 인식하는지 살펴보겠습니다. MNIST란 MNIST는 Modified National Institute of Standards and Technology database 손으로 쓴 숫자들로 이루어진 대형 데이터베이스이며 지도학습입니다. 즉 이미지 데이터에는 그 이미지가 어떤 숫자인지를 나타내는 레이블(label) 정보가 함께 들어 있습니다. 출력 점수와 기대 점수의 차이를 측정하는 오차함수를 계산할 것 입니다. 학습 모델은 오차를 줄이기 위해 가중치(weight) 매개변수를 조정하게 됩니다. MNIST 데이터 셋 다운로드 및 이미지 분석 MNIST 데..

Artificial Intelligence 2019. 9. 13. 16:11

[Deep Learning-딥러닝]Activation Function-활성화 함수(Sigmoid, Hyperbolic Tangent, Softmax, ReLu)

활성함수 포스팅은 계속 업데이트 될 예정입니다. Sigmoid function Sigmoid의 출력 범위는 [0, 1] 사이며 식은 다음과 같습니다. Sigmoid 함수는 양수로 커질수록 1에 가까워지고 음수로 갈수록 0에 가까워집니다. x값이 커지면 expax 는 무한대에 가까워져 1에 수렴됩니다. 반대로 x값이 작아지면 expax 이 0이되면서 0으로 수렴하게 됩니다. 그리고 a값에 따라 sigmoid graph의 경사가 달라지는데 값이 커질수록 가팔라집니다. b 가 커지면 x가 0일 때 값이 0.5보다 커지고 b 가 작아지면 x가 0일 때 값이 0.5보다 작아집니다. Sigmoid를 미분한식은 x축 0에 가까울수록 결과값이 커집니다. 즉 training이 잘 된다는 의미입니다. 반면, 0에서 멀어지..

Artificial Intelligence 2019. 9. 13. 15:43

구글 애드센스 광고 빈칸/안 보이는 원인 및 부정 클릭

한 달간 힘들게 글 써서 광고 승인을 받았는데 5일만에 이런 청천벽력 같은 일을 당했습니다. 8월 21일 아침까지는 잘 나왔던 광고가 회사에서 확인하니 빈칸으로 되었습니다. 회사에서 포탈 및 블로그에 글을 게재하면 안 되어서 퇴근할 때까지 광고가 왜 안 나오지 하는 생각에 일에 집중이 안되었습니다. 그리고 핸드폰으로 광고가 안 나오는 이유를 조사했습니다. 여기저기 블로그를 조사니 스킨을 변경하라, 다음날 되니 나왔다, 캐시/쿠키를 지워라, 플러그인 버그다 등등 여러 글이 있었습니다. 퇴근하자마자 노트북을 들고 커피숍으로 가서 위 모든 가이드를 수행했었지만, 모두 저와는 관련이 없는 글이었습니다. 참고로 전 이 몇 일 동안 스킨을 매우 많이 변경했습니다. 그리고 플러그인 대신 직접 소스에 스크립트를 넣기도..

IT Article 2019. 9. 10. 22:21

[Machine Learning - 머신러닝]K-평균(K-means) 알고리즘 소스 구현

이차원 좌표에 2000개 데이터를 랜덤으로 생성해서 4개의 군집으로 그룹화하는 K-평균 알고리즘을 구현하겠습니다. 선행학습으로 “https://ynebula.tistory.com/39” 군집화 및 K-평균이 필요합니다. 학습데이터 생성 학습데이터를 생성합니다. X, Y 좌표에 np.random.normal() 함수를 이용해서 정규분포에 맞게 생성합니다. np.random.normal(0.0, 0.9)는 평균은 0.0이고 편차가 0.9인 수를 랜덤하게 리턴합니다. X, Y 좌표 데이터를 저장한 리스트 변수 vector_set을 Pandas이 DataFrame() 함수를 이용해 2차원 데이터프레임 자료구조를 생성합니다. 파이썬의 그래픽 라이브러리에서 matplotlib을 기반으로 하는 seaborn 시각화 ..

Artificial Intelligence 2019. 9. 10. 21:39

[Machine Learning - 머신러닝]군집화 및 K-평균 알고리즘(Clutering and K-means)

군집화의 이해 군집화는 데이터를 클러스터(Cluster – 유사한 데이터 그룹)로 자동 분리하는 자율(unsupervised) 머신 러닝입니다. 군집화의 기본 아이디어는 유사성(similarity)을 바탕으로 합니다. 즉 클러스터 안에 있는 아이템은 서로 비슷해야 합니다. 반면 클러스터 밖에 있는 아이템과는 달라야 합니다. 군집화는 비지도 학습이고 정답이 없습니다. 찾고 있는 것이 무엇인지 모르기 때문에 군집화는 예측, 분류보다는 지식의 발견에 사용됩니다. 즉 군집화는 데이터를 그룹화하고 이 그룹에 대한 통찰력을 제공합니다. 군집화는 복잡한 데이터를 적은 개수의 그룹화 할 때 유용하며, 데이터 간 관계 패턴에 통찰력을 제공하여 의미 있고 실행 가능한 데이터 구조를 만듭니다. 군집화 사용 예 - 마케팅 캠..

Artificial Intelligence 2019. 9. 7. 13:33

티스토리 애드센스 코드 삽입 방법 및 PIN 코드 입력 방법(주소를 확인하지 않아 지급이 보류 중입니다)

승인 후 애드센스 광고 코드 삽입 방법 자동광고 설정 구글 애드센스로부터 광고 게재 승인을 받았다면 코드 삽입은 쉽습니다. 승일 메일 하단에 다음과 같은 가이드가 있습니다. 가이드처럼 자동 광고방식으로 저장하시길 권해드립니다. 저는 따로 수정을 안 했습니다. 처음 하는 거라 잘못 건들면 광고 게재가 안될까 봐 걱정되기도 했고요. 참고로 AMP 광고는 모바일 환경에서 속도를 개선해준다고 합니다. 저는 해놓으면 좋을 거 같아 설정했습니다. 광고 단위 설정 광고를 만들었으면 코드를 만들어야 합니다. 애드센스 화면에 접속하셔서 광고단위 메뉴를 클릭하고 권장 크기인 디스플레이 광고 버튼을 클릭합니다. 좀 더 사용하시면 알게 되시겠지만, 세 개 광고가 사용되는 위치가 다릅니다. 광고 이름을 설정하는 화면입니다. 자..

IT Article 2019. 9. 1. 19:27

[Deep Learning-딥러닝]CNN(Convolution neural network) - 합성곱 신경망

이번 포스팅은 컨볼루션 신경망(Convolution neural network) 입니다. 컨볼루션 신경망은 영상 인식에 특화된 딥러닝입니다. 컨브넷(ConvNet)은 1980~90년대에 개발된 기술입니다(LeCun Y.et., "Handwritten digit recognition with a back-propagation network") 컨브넷의 구조 컨브넷은 뇌의 시각피질이 이미지를 처리하고 인식하는 원리를 바탕으로 한 신경망입니다. 기본적으로 영상 인식은 분류 문제에 해당합니다. 예를 들어 사진을 보고 고양이인지 개인지 인식해내는 문제는 해당 사진을 개와 고양이 중 어느 범주로 분류할 지와 같은 문제입니다. 이러한 이유로 영상 인식에 사용되는 컨브넷의 출력층은 다범주 분류 신경망으로 구성하는 게 ..

Artificial Intelligence 2019. 9. 1. 14:02

[Deep Learning-딥러닝]딥러닝 정의 및 출현 배경 - 그래디언트 소실, 과적합(Over fitting), 많은 연산량

딥러닝을 간단하게 정의하면 ‘심층 신경망을 이용한 머신러닝 기법’이라고 할 수 있습니다. 심층 신경망은 은닉층이 2개 이상인 다층 신경망을 의미합니다. 딥러닝이란 은닉층이 2개 이상으로 이루어진 신경망을 말합니다.(보통 2~3개) 다른 말로 다층/심층 신경망이라고 부릅니다. 과거에는 은닉층이 많으면 많을수록 성능이 좋다고 생각했습니다. 이론적으로 Hidden layer가 많으면 비선형이고 다차원인 결정 경계 학습법으로 수학적 모델보다 실 세계를 더욱 정교하게 표현(예측)할 수 있으며, 더 좋은 성능을 낼 수 있을 거로 생각했습니다. 하지만 현실은 그래디언트 소실, 과적합, 많은 연산과 같은 한계점을 나타내 한동안 인공지능 연구 분야가 침체기를 맞이하였습니다. 이번 포스팅은 단층 신경망의 한계를 알아보고 ..

Artificial Intelligence 2019. 8. 24. 11:09

페이징

1 2 3 4 5

티스토리툴바