이빨 빠진 미남이

전통적인 지도학습은 학습과 테스트 샘플이 같은 라벨 공간에 공유되는 closed-set 세계에서 분류기를 학습합니다. Open set learning은 학습 동안 나타나지 않은 클래스로 구성된 테스트 샘플이 존재하는 더 도전적이고 현실적인 세팅입니다. OSL은 훈련에서 나오지 않은 테스트 샘플로 감지하는 sub-task입니다. 위 다이어그램은 unseen class인 '보트' sample에 대한 추론 단계 예시입니다.

Fine-Grained Image Classification 이는 이미지의 카테고리를 더 세분화하는 것을 목표로 하는 컴퓨터 비전의 작업 중 하나이다. 예를 들면, 새의 다른 종을 분류하는 것이나 꽃의 종을 들 수 있다. 이 작업은 더 세분화(fine-grained)된 이미지 분류라고 불리는 이유는 시각적인 모양과 패턴의 더 미묘한 차이를 구별해야 하므로 이렇게 이름이 붙여졌다.

What's in a "Domain" Mathematically, joint distribution over inputs and outputs differs over domains 1 and 2 $P_{d1}(X,Y) \ne P_{d2}(X,Y)$ 예를 들어, Content, whit is being discussed Style, the way in which it is being discussed Labeling Standards, the way thtat the same data is labeled Types of Domian Shift Covariate Shift: The input changes but not the labeling $P_{d1}(X) \ne P_{d2}(X)$ $P_{d1}(Y|..

Zero-shot learning: 인스턴스별 레이블 없이 학습 Few-shot learning: 몇 가지 훈련 예제로 학습 Unsupervised learning: 레이블 없는 학습. 제로샷 학습과의 차이점 Auto-encoders, contrastive learning Generative models: GANs, VAEs Semi-supervised laerning 라벨 정보가 없는 이미지의 큰 데이터셋이 존재한다면, 이것을 어떻게 다룰 것이닞? Pseudo-labeling 방법이 있다. Pseudo-labels Iterative algorithm: Train a classifier $f$ on $D_1$ Pseudo-labelling: build dataset $D_2$ where we used ..

제1고지 - 다차원 배열을 tensor라고 하며, 방향을 차원(dimension) 혹은 축(axis)라고 합니다. - 컴퓨터 과학에서 그래프는 노드(node)와 에지(edge)로 구성된 데이터 구조를 말함 - __call__ 메서드는 파이썬의 특수 메서드. 이 메메서드를 정의하면 f = Function() 형태로 함수의 인스턴스 변수를 변수 f에 대입해두고, 나중에 f(...) 형태로 __call__ 메서드를 호출 - 'NotImplementedError'는 ㅇ이 메서드는 상속하여 구현해야 한다는 의미 - assert 문은 결과가 True가 아니면 예외가 발생함 class Variable: def __init__(self, data): self.data = data self.grad = None self..

이번 포스팅은 cs231n 강의의 Lecture 12 Video Understanding, EECS Lecture 24 Videos 자료를 참고하였습니다. 또한, Videos 관련 강의로는 해당 영상을 참고하였습니다. (Lecture 18: Videos (UMich EECS 498-007) Video = 2D + Tensor 비디오는 이미지 4D 텐서의 시퀀스입니다. (T x 3 x H x W) T: the time or temporal dimension 3: the channel dimension which is three colors RGB channels for the raw input video H and W: two spatial dimensions 비디오에는 motivating task가 있습..

이번 포스팅은 cs231n 강의의 Lecture 11 Attention and Transformers, EECS Lecture 17 Attention 자료를 참고하였습니다. 또한, Transformer 관련 내용으론 해당 블로그의 번역 글을 참고하였습니다. (The Illustrated Transformer) Sequence to Sequence with RNNs Problem: Input sequence bottlenecked through fixedsized vector. What if T=1000? Idea: use new context vector at each step of decoder! Sequence to Sequnece의 아이디어로는 컨텍스트 벡터를 인코더와 디코더 사이에 연결하는 것입니..

이번 포스팅은 cs231n 강의의 Lecture 10 Recurrent Neural Networks, EECS 498.008 / 598.008 강의의 Lecture 16 Recurrent Neural Network을 참고하여 정리하였습니다. 이번 강의는 cs231n의 자료가 더 좋습니다. 이번 강의에서 다루는 내용은 RNN, LSTM, GRU Language modeling Sequence-to-sequence Image captioning 입니다. RNN의 Process Sequence를 보면 이렇습니다. 1) One to one Image classification: Image → Label 2)One to many Image Captioning: Image → Sequence of words 3) ..