| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 | 29 |
| 30 | 31 |
- greedy algorithm
- VGGNet
- LeNet
- 논문리뷰
- AlexNet
- 프로그래머스
- ResNet
- kld
- algorithm
- Transformer
- 탐욕법
- GoogleNet
- 그리디
- Vae
- retinaNet
- bayes filter
- Focal loss
- 알고리즘
- KL Divergence
- variational
- 백준
- Attention is all you need
- Coding Test
- Deep Learning
- dl
- 클래스 불균형
- CVAE
- Vision Transformer
- BFS
- DFS
- Today
- Total
목록전체 글 (11)
자율주행 미래를 위한 대학원생
이번에 리뷰할 논문은 Conditional VAE 논문인 Learning Structured Output Representation using Deep Conditional Generative Models 입니다.Abstract 최근 딥러닝은 이미지 분류나 인식 같은 많은 입력에서 하나의 출력으로 매핑되는 문제(many-to-one task)에서는 큰 성공을 거두었지만, 하나의 입력으로 여러 가능한 출력을 예측해야 하는 구조적 출력(Structured Output) 문제에서는 여전히 한계가 있다.이러한 문제에서는 확률적 추론(Probabilistic inference) 와 다양한 예측(Diverse inference) 이 가능한 모델이 필요하다. 본 논문에서는 이를 해결하기 위해, 가우시안 잠재 변..
📘 베이즈 필터(Bayes Filter)란?베이즈 필터는 베이즈 이론(Bayes theorem) 을 재귀적으로 적용하는 확률적 추정 방법이다.베이즈 이론을 이용하면 사전 확률(prior probability) 과 가능도(likelihood) 를 통해 사후 확률(posterior probability) 을 계산할 수 있으며,이렇게 구한 사후 확률은 다음 스텝의 사전 확률로 사용된다.📈 베이즈 필터의 기본 수식$$bel(x_t) = p(x_t | z_{1:t}, u_{1:t})$$베이즈 필터의 목적을 한 줄로 표현하면 위와 같다.$x_t$ : 시점 $t$에서의 상태(state) $z_t$ : 시점 $t$에서의 센서 입력(sensor measurement) $u_t$ : 시점 $t$에서의 제어 입력(c..
📘 정보 이론(Information Theory)이란?정보 이론을 이해하기 위해 먼저 정보(Information) 자체의 개념부터 살펴보자.🧠 정보란?정보(Information)컴퓨터 공학에서 특정 목적을 위해 광(光) 또는 전자적 방식으로 처리되어부호, 문자, 음성, 음향, 영상 등을 표현하는 모든 종류의 자료나 지식을 의미한다.이러한 정보를 주고받을 때, 정량화된 정보의 양을 정보량(Information Content) 이라고 한다.⚡ 정보량(Information Content)정보 이론에서 정보량은 곧 놀람의 정도(Surprisal) 를 의미한다.놀람이 클수록 정보량이 크다.자주 발생하는 사건 → 정보량이 작다.거의 발생하지 않는 사건 → 정보량이 크다.즉, 확률이 낮은 사건일수록 더 많은 정보..
지난 포스팅에서 그리디 알고리즘에 대해 간단히 살펴보고, 가벼운 문제를 살펴보았다. 이를 백준에서 유사한 문제를 가져와 풀어보았다. 거의 동일한 문제기에 이것외에도 추가적으로 풀어볼 계획이다. 문제 타로는 자주 JOI잡화점에서 물건을 산다. JOI잡화점에는 잔돈으로 500엔, 100엔, 50엔, 10엔, 5엔, 1엔이 충분히 있고, 언제나 거스름돈 개수가 가장 적게 잔돈을 준다. 타로가 JOI잡화점에서 물건을 사고 카운터에서 1000엔 지폐를 한장 냈을 때, 받을 잔돈에 포함된 잔돈의 개수를 구하는 프로그램을 작성하시오. 입력 입력은 한줄로 이루어져있고, 타로가 지불할 돈(1 이상 1000미만의 정수) 1개가 쓰여져있다. 출력 제출할 출력 파일은 1행으로만 되어 있다. 잔돈에 포함된 매수를 출력하시오. ..
이번에 살펴볼 알고리즘은 그리디 알고리즘이다. 기본적인 알고리즘으로 이것을 처음으로 다루었어야했는데 BFS/DFS부터 다뤄버렸다… 그리디 알고리즘의 경우 구현보다는 문제해결 능력을 요구하기에 빠르게 이해하고 이후에 문제를 다루어 볼 것이다. 그리디 알고리즘(탐욕법, Greedy Algorithm)이란? 현재 상황에서 가장 좋은 것만 고르는 방법을 의미한다. 단순하지만 강력한 문제 해결 방법이다. 가장 좋아 보이는 것을 반복적으로 선택해도 최적의 해를 구할 수 있는지 검토한다. 코딩 테스트의 유형 그리디 알고리즘의 경우 문제 출제의 폭이 매우 넓어 문제를 풀기위한 능력을 요구한다. 하지만, 최단 경로를 구하는 다익스트라 알고리즘의 경우 그리디 알고리즘으로 분류가 되어 암기가 필요하다. 대표적인 그리디 알고..
오늘은 대표적인 CNN의 구조들에 대해 살펴보려고 한다. 제안된 CNN의 구조는 다양하며, 책(밑시딥)에서는 LeNet과 AlexNet을 설명하고 있으며, 이외에도 VGGNet, GoogleNet, ResNet 등이 있다. 이번에는 전반적으로 간단하게 살펴볼 것이며, 자세한 부분은 추후 각 Paper review에서 다뤄볼 예정이다. LeNet 먼저, LeNet에 대해 이야기 해보자. LeNet은 1990년대에 만들어진 것으로, 1~5까지 있다. 우리는 책에 있는 LeNet-5에 대해서만 다룰 것이다. LeNet의 구조는 다음과 같다. Conv Layer 3개, Subsampling Layer(Average Pooling) 2개, FC Layer 1개로 구성되어있다. 1) C1 Layer : 32x32 ..
이번에 리뷰할 논문은 'Focal Loss for Dense Object Detection' 이다. 이 논문은 RetinaNet이라는 모델을 제안하였다. 그리고 기존의 Object Detector들은 Class Imbalance 문제를 해결하기 어려웠다. Class Imbalance란 이미지 내에서 객체의 영역이 배경 영역보다 훨씬 적어 발생하는 클래스 불균형 문제이다. 이러한 easy negative는 학습이 비효율적이고, 모델의 성능을 저하시키게 된다. two-stage detector에서는 이 문제를 region proposal과 sampling heuristic을 통해 해결하지만 one-stage detector에는 적용이 불가하여 고안된 것이 본 논문에서 제시하는 Focal Loss 이다. Fo..
이번에는 저번 포스팅에서 DFS와 BFS를 간단하게 살펴보고 구현까지 해보았다. 그래서 이를 응용을 어떻게 하는지 살펴보기 위해 백준의 'DFS와 BFS' 문제(1260)를 풀어보았다. 구현은 재귀함수 형태로 구현을 했다. 우선 문제를 살펴보자. 문제 그래프를 DFS로 탐색한 결과와 BFS로 탐색한 결과를 출력하는 프로그램을 작성하시오. 단, 방문할 수 있는 정점이 여러 개인 경우에는 정점 번호가 작은 것을 먼저 방문하고, 더 이상 방문할 수 있는 점이 없는 경우 종료한다. 정점 번호는 1번부터 N번까지이다. 입력 첫째 줄에 정점의 개수 N(1 ≤ N ≤ 1,000), 간선의 개수 M(1 ≤ M ≤ 10,000), 탐색을 시작할 정점의 번호 V가 주어진다. 다음 M개의 줄에는 간선이 연결하는 두 정점의 ..