본문 바로가기

분류 전체보기127

Inception v1,v2,v3,v4는 무엇이 다른가 (+ CNN의 역사) - References https://youngq.tistory.com/40 https://junklee.tistory.com/111 https://medium.com/@msmapark2/vgg16-%EB%85%BC%EB%AC%B8-%EB%A6%AC%EB%B7%B0-very-deep-convolutional-networks-for-large-scale-image-recognition-6f748235242a https://velog.io/@whgurwns2003/Network-In-NetworkNIN-%EC%A0%95%EB%A6%AC Neural Networks - Networks in Networks and 1x1 Convolutions https://deep-learning-study.tistory.c.. 2022. 3. 30.
[최대한 쉽게 설명한 논문리뷰] An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale(Vision Transformer 논문) - Reference [DMQA Open Seminar] Transformer in Computer Vision 0. 글 쓰기에 앞서 Transformer는 자연어 처리에서는 굉장히 획기적인 아이디어였지만, 컴퓨터비전 분야에서는 잘 사용되지 않았다. 비전 분야에서는 주로 CNN구조를 사용하는 경우가 많았는데 이번 논문에서는 CNN을 아예 사용하지 않고 Vision task에 Transformer를 최대한 변형 없이 적용하였다. 이 논문은 Transformer 구조를 활용해 image classification을 수행한 최초의 논문이라는데서 의미가 있다. (CNN 기반 모델들(SotA)과 비슷하거나 그 이상의 성능을 낸다) 1. Vision Transformer 개요 1-1. Vision Transform.. 2022. 3. 23.
[최대한 쉽게 설명한 논문리뷰] Attention Is All You Need(Transformer 논문) - Reference The Illustrated Transformer The Positional Encoding 를 어떻게 하는 것인가? 딥 러닝을 이용한 자연어 처리 입문 트랜스포머 (어텐션 이즈 올 유 니드) [딥러닝 기계 번역] Transformer: Attention Is All You Need (꼼꼼한 딥러닝 논문 리뷰와 코드 실습) 0. 글 쓰기에 앞서 BERT는 Transformer의 인코더(Encoder) 부분을, GPT는 Transformer의 디코더(Decoder) 부분을 활용하였다. 구글에서 발표한 Transformer는 최근까지 가장 뛰어난 자연어 처리 모델이라 평가 받는 BERT, GPT 등에서도 활용되고 있다. "Attention is all you need" (너가 필요한것은.. 2022. 3. 23.
M6 Competition (Makridakis competition : 시계열 예측 대회) 0. 글 쓰기에 앞서 학부 연구생을 하며 M6 competition에 참여하게 되었다. 대회에 대해 인터넷 검색을 아무리 해봐도 이상한 자동차 대회만 나오고 Makridakis competition에 대한 한국어로 된 자료는 별로 없었다. 이에 내가 찾은 이 대회에 관련된 자료들을 정리해보려한다. 1. 이전의 대회들 M Competition은 다양한 시계열 예측 방법의 정확성을 평가하고 비교하기 위한 일련의 공개 대회다. M6 competition은 이전에 열린 5개의 M(Makridakis)경쟁들과 매우 유사하다. 이전의 경쟁들 역시 시계열 데이터의 예측 대회였는데 주최자인 Makridakis(마크리다키스) 교수의 이름을 따서 Makridakis competition이라 불린다. M 결과 발표 년도 사.. 2022. 3. 21.
[딥러닝기초] 머신러닝 흐름 파악하기 1. 머신러닝이란? 머신러닝은 컴퓨터(기계)가 데이터로부터 학습할 수 있도록 하는 인공지능(AI) 기술 중 하나다. 인공지능이 각광받으면서 인공지능/머신러닝/딥러닝 세가지 개념이 혼동되어 사용되고 있는데 정확히는 위와같은 포함관계에 있다. 또한 머신러닝은 주로 정형데이터(데이터베이스의 정해진 규칙에 맞춰 행과 열로 구성된 데이터)를, 딥러닝은 주로 비정형데이터(영상, 텍스트, 음성)를 활용한다. (반드시 그런것은 아니지만 통상적으로 성능이 더 좋다고 알려져있다.) 머신러닝이 잘 작동하려면 사람이 데이터의 특징(feature)을 잘 분류하고 분석해야한다. 이때 인간의 실수까지 기계가 그대로 학습한다는것이 머신러닝의 가장 큰 단점이다. 이러한 단점을 보완하는것이 바로 딥러닝이다. 딥러닝은 고도화된 머신러닝 .. 2022. 3. 16.
맥북아, 친해지자 - (3) M1용 Tensorflow 설치하기 맥os 에서 자주 사용하는 개발 툴인 Xcode는 GCC, svn, git, perl 등 유용한 커맨드 라인 도구를 포함하고 있다. 그러나 Xcode 명령어 라인 도구를 설치해서 Xcode 없이도 이런 유용한 기능들을 사용할 수 있다. xcode-select --install 그 후 아래 링크로 들어가 M1용 conda miniforge shell script를 다운받는다. https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-MacOSX-arm64.sh 설치가 완료 되었으면 아래의 명령들을 따라서 Miniforge를 실행시킨다. chmod +x ~/Downloads/Miniforge3-MacOSX-arm64.sh sh .. 2022. 3. 14.

티스토리툴바