BERT 한국어버전(korquad) training 및 evaluating 해보기
안녕하세요 coconut입니다. 오랜만에 BERT에 관해 포스팅을 하게 되었습니다. BERT(Bidirectional Encoder Representations from Transformers)는 구글에서 배포한 오픈 소스입니다. BERT 전에는 NLP 알고리…
Deep Learning
간단하게 보는 CPU와 GPU의 연산 차이
이번에는 요근래 하드웨어들의 스펙이 급등하면서 생기는 현상 중 병렬 프로그래밍의 본좌인 GPU와 그에 비교되는 CPU의 차이를 예전에 만들었던 PPT를 참고하여 글을 써보았습니다. 일단 기본적인 차이점을 보자면, CPU와는 달리 GPU는 코어가 아주 …
Python 딥러닝 관련 간단한 활성화 함수
딥러닝 공부를 하는 중이나 복습 차 python코드로 된 활성화 함수 몇가지를 올려봅니다. 여기서 활용하는 함수들의 출처는 - 밑바닥부터 시작하는 딥러닝 - 에서 참고하였습니다. 일단 신경망의 기초가 되는 퍼셉트론에서는 활성화 함수로 계단 함수를 이용한다라 할…
딥러닝 책 추천
우선 딥러닝을 하기 위해 무슨 방법이 좋은지 지인에게 물어봤더니 이 책을 추천해 주었다. 이 책의 장점은 얇은 데도 불구하고, 내가 봤던 다른 책에 비해 내용이 일목요연하게 잘 담겨 있었다. 기본적인 퍼셉트론 이론 부터 신경망 순서로 개념과 샘플코드를 …
Tensorflow gpu on mac
As soon as I started working on relatively serious Deep Neural Networks such as Handwritten Digit Recognition or Object Recognition in CIFAR-10, I real…