분류 전체보기(24)
-
NeRF-Neural Radiance Field
2020년 8월에 arxiv 투고. ECCV oral. project page, github(pytorch-facebook, tensorflow-colab있음-official) 1. Abstract 연속적인 volumetric scene을 만든다. sparse input views를 이용하여. FC layer만 사용. input이 5차원(공간 3차원($x, y, z$) + 보는 방향 2차원($\theta$, $\phi$)), output : volume density and view-dependent emitted radiance at that spatial location.(4차원$RGB\sigma$) Volume rendering은 differentiable해야 한다. 외형적으로 복잡한것도 잘 된다고..
2021.03.06 -
Meta Pseudo Label
github : https://github.com/google-research/google-research/blob/master/meta_pseudo_labels/training_utils.py Medium : https://medium.com/@nainaakash012/meta-pseudo-labels-6480acb1b68 twitter : https://twitter.com/quocleix/status/1242919852634849280 confirmation bias가 뭐지?
2021.03.06 -
GPU Memory Consumption of DL Models
논문 제목 : Estimating GPU memory consumption of deep learning models 이 논문은 OOM(Out Of Memory)가 많이 나는 DL Models의 문제들 때문에 연구되었다. 아래 그림은 논문에서 사용한 Pytorch로 작성된 간단한 코드구조이다. 아래 그림은 위의 코드에 대한 것의 memory 사용을 보여준다. $E$, $O$, $W$에 대한 설명은 아래 table 3을 보자. 아래 그림은 연산이 진행됨에 따라 쓸모 없는 memory($E^1$)은 버려지는 것을 알수 있다. 아래 그림은 Deep Learning model을 만들기 위해 꼭 필요한 memory들이다. Weight Tensor Category의 이름이 그대로 설명해주고 있다. In/Out Te..
2021.03.06 -
FixMatch
github code 출처 : github/kekmodel 아래는 FixMath 논문에서 발췌 FixMatch 그림 FixMatch와 related work의 관계 result 논문 5.2에서 weak augmentation을 no augmentation으로 바꿨는데, overfit하다고 함. 의문점 overfitting이 되지 않을까? labeled 된 데이터가 많아야 할거 같은데, 얼마나 적어도 괜찮나? 5.1, B2을 다시 읽어보자(Appendix는 거의 안읽음) image classification에 대해서만 있음.
2021.03.06 -
betaVAE
github code 출처 : github/AntixK/PyTorch-VAE def forward(self, input: Tensor, **kwargs) -> Tensor: mu, log_var = self.encode(input) z = self.reparameterize(mu, log_var) return [self.decode(z), input, mu, log_var] 전체 beta-VAE의 구조. encode->reparam->decode. 여기서 encode의 output : mu(128 dim), log_var(128 dim) z : 128 dim(yaml file을 보면 됨.) encode의 input size : [N C H W]. model_params: name: 'BetaVAE' in..
2021.03.06 -
환영합니다!
보호되어 있는 글입니다.
2021.03.06