딥러닝 9

[논문 리뷰] NeRF: Representing Scenesas Neural Radiance Fieldsfor View Synthesis

https://dl.acm.org/doi/pdf/10.1145/3503250Introduction3d 객체의 view를 생성(주의할 점: 객체를 바라보는 ‘view’ 자체를 생성하므로, 3D로 렌더링 되는 것처럼 보이나 객체 자체를 만드는 것은 아님.)non-convolutional fully-connected network를 사용 (MLP)- Input: 다양한 각도에서 찍은 single continuous 5D coordinate (물체의 위치(x, y, z)과 물체가 바라보는 방향인 viewing direction(θ, Φ))- Output: volume density(1)와, 그 spatial location에서의 view-dependent emitted radiance(2)- Neural Rad..

Liquid Neural Network - Robust flight navigation out of distribution with liquid neural networks

Robust flight navigation out of distribution with liquid neural networks (실제 네트워크 제안 논문은 2020년에 나옴) Liquid Neural Networks, A New Idea That Allows AI To Learn Even After Training Brain-inspired pipeline에 기초해, 극단적으로 환경이 바뀔때도(계절의 변화 / forest에서 학습, urban에서 tets)잘 generalize하는 robust한 네트워크를 제안. Large Scale을 통한 성능 향상이 공식이 된 네트워크 분야에서, 적은 노드로 좋은 효율을 낼 수 있는 네트워크를 제안. 리뷰한 논문은 이러한 LNN을 활용한 구조들과 다른 시계열 모델..

[논문리뷰] f2f Consistent Semantic Segmentation

https://arxiv.org/pdf/2008.00948.pdf *“temporally consistent segmentation of all semantic-classes throughout a video sequence”*에 목적 (1) ESPNet에서 ConvLSTM을 implement (2) inconsistency loss를 추가 😶기존 모델의 특성과 한계점 temporal dependency를 고려하지 않는 기존의 single frame 알고리즘 ⇒ 기존 CNN architecture를, 같은 scene의 multiple frame을 가짐으로써 이득을 갖도록 바꿈 ESPNet이 이미지 segmentation에서 real-time inference가 가능하고 high prediction acc..

[논문리뷰] Segment Anything Meets Point Tracking

https://arxiv.org/pdf/2307.01197.pdf Sparse Point Tracking에 SAM을 결합한 VOS 모델 ⇒ zero-shot video segmentation에서 우수한 성능을 냄 ⇒ video segmentation data로 training하는 과정 없이 VOS 가능 ※ VOS: Video Object Segmentation ※ VIS: Video Instance Segmentation 😶기존모델의 특성과 한계점 ✨Point Tracking for Video Segmentation 기존 방식(optical flow 등)은 sparse feature에 대한 long range correspondence를 tracking하는 것에 능함, 하지만 specific set of..

Generative Model: Perceptual Loss와 Style Loss

참고 블로그 Week_7 CV-Perceptual Loss Week_7 CV-Perceptual Loss Perceptual Loss 는 GAN에서 사용되는 loss중 하나로 MAE(L1), MSE를 보완하기 위해 만들어진 손실함수입니다. Perceptual loss는 Content loss와 style loss 두 가지 종류가 있는데 Feature map을 그대로 사용하는 Content memesoo99.tistory.com 😶생성 모델에서의 L1 Loss 문제점 GT와 픽셀 단위로 비교해서 계산한 평균오차가 L1 loss. 문제는 생성모델의 특징은 가능한 정답이 여러개라는 것. 모든 가능한 정답과의 평균 오차를 줄이기 위해 학습하다보면, 그 모든 정답의 평균값인 흐릿한 결과물이 나오게 됨. 이를 보완..

MLE와 Bayesian Optimization

😶 MLE(Maximum Likelihood Estimation) 아래 블로그 참고하여 작성 최대우도법(MLE) - 공돌이의 수학정리노트 (Angelo's Math Notes) 최대우도법(MLE) - 공돌이의 수학정리노트 (Angelo's Math Notes) angeloyeo.github.io ✨likelihood 데이터를 샘플링 추출하였을때 위 그림처럼 나왔다고 가정 전체 분포를 추정한다고 했을 때 파란색 분포보다 주황색 분포일 가능성이 더 높음 ⇒ 표본이 특정 데이터로부터 나왔을 가능도가 likelihood인 것. ⇒ ‘가능도’의 계산은 각 표본에 대한 확률밀도함수에서의 높이(likelihood)의 곱으로 구하는 것이 가능 ✨‘maximum’ likelihood estimation 표본에 근거해 추..

딥러닝을 위한 개발 프레임워크와 프로그램 정리

딥러닝, 머신러닝을 위해 필요한 개발 프레임워크와 프로그램을 정리했다. 각 개념을 완벽하게 이해하는 것보다는 해당 프레임워크를 왜 써야하는지 대략적으로 이해하는 것에 목적을 두었다. 코드 봍붙방식의 환경 세팅보다 이 프로그램의 사용 이유를 명확히 알고 세팅하도록 하자. 😶WSL Linux용 Windows 하위 시스템이란? Linux용 Windows 하위 시스템이란? 다양한 버전 및 이를 사용하는 방법을 포함하여 Linux용 Windows 하위 시스템에 대해 알아봅니다. learn.microsoft.com 윈도우에서 리눅스를 사용하기 위한 도구 VM보다 빠르고 우분투를 따로 설치할 필요 없음 빠르고 효율적 😶CUDA NVIDIA CUDA Zone CUDA Zone - Library of Resources ..

개발개발 2023.07.04

Learning Rate Scheduling과 Hyperparameter Tuning

😶Learning Rate Scheduling 2023.03.06 - [Data Science/ML | DL] - Optimization: Gradient Descent를 넘어서 Optimization: Gradient Descent를 넘어서 Optimization에 대한 포스팅을 Gradient Descent 를 중점으로 했었다. 2022.08.21 - [Data Science/ML | DL] - Optimization: Random Search부터 Gradient Descent까지 Optimization: Random Search부터 Gradient Descent까지 Optimization이란?😶 dippingtodeepening.tistory.com Optimizer인 SGD, SGD+Momentu..

[논문리뷰] AnoGAN을 위한 GAN(Generative Adversarial Networks) 리뷰

✨GAN? (Generative Adversarial Networks) https://proceedings.neurips.cc/paper/2014/file/5ca3e9b122f61f8f06494c97b1afccf3-Paper.pdf 두 모델의 ‘경쟁’을 활용하여 진짜같은 데이터를 만들어내는 모델. Generator과 Discriminator로 구성 G와 D😶 GAN은 서로 다른 모델 G와 D가 각각 학습함. G는 random한 latent variable에서 출발해 실제 이미지와 비슷한 그럴싸한 가짜 이미지를 만들어 내는 것이 목표. D는 이미지 데이터가 input으로 들어왔을 때 그것이 진짜 이미지인지 가짜인지 제대로 구분하는 것이 목표. 같은 목적함수를 사용하나, 두 모델의 목표가 다른 것을 확인할 ..