Activation Function과 Vanishing Gradient Problem Activation Function은 간단하게 어떤 Input 데이터가 들어왔을 때 값을 normalize하여 active할지 inactive할지를 결정하는 함수입니다. 이러한 Activation Function에는 여러가지 함수가 존재하며 2가지 범주로 Output Layer에서 사용하는 함수와 Hidden Layer에서 사용하는 함수가 있습니다. Linear 들어온 Input 데이터에 대해서 선형 연산된 값을 그대로 출력하는 함수입니다. Sigmoid 질문에 대한 답이 Yes일 확률을 계산하는 확률 분포함수이며 0~1 사이의 값을 출력합니다. 일반적으로 2개의 카테고리를 예측할 때 Output layer에서 사용하되..

RNN 순환 신경망으로 영화 평론 감정 분석 예측기 만들기 이전에 알려드린 순환 신경망 RNN 이론을 바탕으로 분석기를 하나 만들어보겠습니다. IMDb: Ratings, Reviews, and Where to Watch the Best Movies & TV Shows IMDb is the world's most popular and authoritative source for movie, TV and celebrity content. Find ratings and reviews for the newest movie and TV shows. Get personalized recommendations, and learn where to watch across hundreds of streaming provi..

RNN 순환 신경망(Recurrent Neural Networks) 이론 퍼셉트론 인공 뉴런이 DNN(Deep Neural Network)이라면 순환신경망 RNN(Recurrent Neural Network)은 퍼셉트론의 일종의 자식 레이어로 볼 수 있습니다. RNN은 신경망의 일종으로 문자열과 같이 순차적으로 등장하는 데이터 처리에 적합한 모델입니다. 입력된 데이터가 입력층에서 은닉층으로, 은닉층의 결과가 다시 같은 은닉층의 입력으로 반복(recurrent)합니다. 즉, 이전 상태에 대한 정보를 ‘메모리’ 형태로 저장해서 그 다음 상태의 입력으로 사용하며 Sequence Data를 다루는 데 도움이 됩니다. Sequential Data 기존 퍼셉트론 이론으로는 순차적으로 데이터를 다루는데는 어려움이 있..

퍼셉트론 기본 모델 구현 Tensorflow-keras 이전 포스팅에서 배운 멀티 레이어 퍼셉트론 이론을 Tensorflow, keras code를 이용해 직접 모델을 구현합니다. 반드시 이론을 이해하고 숙지한 상태로 코드를 작성해야 합니다. (손실 함수는 loss function, cost function이며 output은 loss, cost) Google colab 사용자는 keras가 설치되어 있으니 아래 설치 코드는 무시합니다. colab 사용자가 아니라면 아래 세 라이브러리를 설치해줍니다. pip3 install tensorflow pip3 install keras pip3 install numpy from tensorflow import keras # tensorflow.keras모듈 impo..

DNN 퍼셉트론 이론과 딥러닝의 목표 인공 지능은 인간의 지능을 기계로 구현한 것입니다. 머신 러닝은 그러한 인공 지능을 구현하는 구체적인 접근 방법이며 딥 러닝(Deep Learning)이란 완전한 머신 러닝을 실현하는 기술이 됩니다. 딥 러닝에 관해 알아보기 전, 1950년 당시 로젠 블라트(Frank Rosenblatt) 교수님에 의해 고안된 퍼셉트론 이론에 대해 알아봅시다. 퍼셉트론 퍼셉트론(Perceptron, Deep Neural Network)은 인간의 뉴런을 본따서 만든 알고리즘입니다. 뉴런은 신경 세포 중 하나로, 차가운 얼음을 만졌을 때 신경 세포는 '차갑다' 라는 전기적 자극신호를 가지돌기(dendrites)를 통해 전달되어 핵(nucleus)에서는 이것이 '차갑다' 또는 '뜨겁다' ..

인공지능 기초이론 : 클라우드 컴퓨팅 (Cloud Computing) 클라우드 컴퓨팅의 개념 클라우드 컴퓨팅 (Cloud Computing)은 인터넷(클라우드)을 통해 서버, 스토리지, 데이터베이스, 네트워킹, 소프트웨어, 분석, 인텔리전스 등의 컴퓨팅 서비스를 제공하는 것입니다. 클라우딩 컴퓨팅을 통해서 더 빠른 혁신과 유연한 리소스를 제공하고 대규모 경영의 이익 효과를 누릴 수 있습니다. 일반적으로 사용한 클라우드 서비스에 대해서만 요금을 지불하므로 운영 비용을 낮추고 인프라를 보다 효율적으로 운영할 수 있다는 장점이 있으며 비즈니스 요구 사항의 변화에 따라 규모를 조정할 수 있습니다. 클라우드 컴퓨팅의 기능과 장점 개인과 기업 모두에게 유용한 클라우드 컴퓨팅은 다음과 같은 기능들과 장점들이 존재합니..