신경망과 비전 모델 복습
다층신경망과 다항 분류부터 CNN, 비전 트랜스포머, 이미지 파이프라인까지 핵심 개념 복습
퀴즈
XOR 문제가 다층 신경망의 필요성을 보여주는 이유는 무엇입니까?
- ○선형 분리할 수 없는 문제이기 때문
- ○하나의 선형 결정 경계만으로도 완전히 분리되기 때문
- ○입력값을 정규화해야만 분리할 수 있기 때문
- ○출력층의 뉴런을 늘리면 선형 분리할 수 있기 때문
퀴즈를 풀려면 대화형 기능을 불러와야 합니다.
XOR 문제가 다층 신경망의 필요성을 보여주는 이유는 무엇입니까?
XOR의 참과 거짓을 직선 하나로 나눌 수 있는지 생각해 보세요.
다층신경망에서 은닉층이 하는 역할로 가장 알맞은 것은 무엇입니까?
은닉층은 입력과 출력 사이에서 데이터의 표현을 바꿉니다.
선형층 사이에 비선형 활성화 함수를 넣지 않고 여러 층을 쌓으면 어떻게 됩니까?
행렬 곱과 덧셈을 여러 번 이어도 하나의 행렬 곱과 덧셈으로 정리할 수 있습니다.
출력층의 활성화 함수와 예측 과제의 연결로 올바른 것을 모두 고르세요.
확률 하나, 합이 1인 여러 확률, 범위 제한이 없는 수치를 구분하세요.
은닉층에서 sigmoid 함수가 포화되면 어떤 일이 발생합니까?
포화된 구간에서는 그래프가 거의 평평해집니다.
죽은 ReLU가 발생한 상태를 가장 잘 설명한 것은 무엇입니까?
ReLU의 음수 입력 구간에서 출력과 기울기를 생각하세요.
단일 레이블 다항 분류에서 클래스가 10개일 때 출력층의 뉴런 수는 몇 개입니까?
각 클래스에 대응하는 점수 또는 확률이 하나씩 필요합니다.
0번, 1번, 2번 세 클래스의 로짓이 [1.2, 3.4, 2.1]일 때 softmax 적용 후 확률이 가장 높은 클래스는 무엇입니까?
softmax는 로짓의 크기 순서를 바꾸지 않습니다.
신경망의 한 번 학습에서 계산이 진행되는 순서로 알맞은 것은 무엇입니까?
먼저 예측과 손실을 구한 다음 경사를 계산하고, 그 경사로 파라미터를 바꿉니다.
여러 함수가 이어져 있을 때 연쇄 규칙으로 전체 변화율을 구하는 방법은 무엇입니까?
한 단계의 출력이 다음 단계의 입력이 되면 각 단계의 변화율이 연결됩니다.
사라지는 경사란 어떤 현상입니까?
0과 1 사이의 작은 값을 여러 번 곱할 때 결과의 크기를 생각하세요.
정칙화의 주된 목적은 무엇입니까?
훈련 데이터뿐 아니라 새로운 데이터에서도 잘 작동하는지가 중요합니다.
드롭아웃이 훈련 중에 하는 일은 무엇입니까?
모델이 일부 특징이나 경로에 지나치게 의존하지 않도록 하는 방법입니다.
가중치 감쇠가 파라미터를 갱신할 때 하는 일은 무엇입니까?
감쇠는 가중치가 지나치게 커지지 않도록 억제합니다.
훈련 손실은 계속 감소하지만 검증 손실이 증가하여 학습을 일찍 멈췄습니다. 그 다음에 가장 알맞은 대응은?
새 데이터에 대한 성능이 가장 좋았던 시점을 선택해야 합니다.
EarlyStopping에서 patience=3은 무엇을 의미합니까?
patience는 관찰값의 개선이 멈춘 뒤 얼마나 더 기다릴지를 정합니다.
이미지 분류에서 Dense 중심 구조와 비교한 합성곱 레이어의 핵심 장점은 무엇입니까?
합성곱은 가까운 픽셀을 함께 보고 같은 필터를 여러 위치에서 사용합니다.
최대 풀링(max pooling)의 역할로 가장 알맞은 것은 무엇입니까?
풀링은 작은 영역의 정보를 대표값 하나로 요약하는 다운샘플링입니다.
Conv2D의 첫번째 인자인 filters가 결정하는 것은 무엇입니까?
필터 하나는 피처 맵 하나를 만듭니다.
합성곱에서 스트라이드가 뜻하는 것은 무엇입니까?
커널 크기는 한 번에 보는 범위이고, 스트라이드는 다음 위치로 넘어가는 간격입니다.
Keras의 padding="valid"와 padding="same"을 비교한 설명으로 알맞은 것은 무엇입니까?
입력 가장자리에 값을 추가하는지와 공간 크기를 유지하는지 생각하세요.
valid는 패딩을 추가하지 않고, same은 스트라이드가 1이면 공간 크기를 유지한다valid는 패딩을 추가하고, same은 패딩을 추가하지 않는다두 방식 모두 항상 입력보다 큰 출력을 만든다두 방식 모두 출력 채널 수를 결정한다valid는 패딩을 추가하지 않고, same은 스트라이드가 1이면 공간 크기를 유지한다ResNet의 skip connection이 깊은 신경망의 학습을 돕는 방식은 무엇입니까?
skip connection은 여러 레이어를 건너뛰는 지름길입니다.
비전 트랜스포머(ViT)는 이미지를 어떻게 트랜스포머의 입력으로 바꿉니까?
문장의 단어처럼 이미지의 작은 조각을 하나의 입력 단위로 사용합니다.
주의 메커니즘(attention mechanism)의 핵심 역할은 무엇입니까?
입력마다 현재 처리에 필요한 정도가 다를 수 있습니다.
트랜스포머에 위치 인코딩을 더하는 이유는 무엇입니까?
자기 주의 구조만으로는 입력이 놓인 순서를 알기 어렵습니다.
일반적인 8비트 RGB 이미지에 ToTensor()를 적용하면 픽셀값 범위는 어떻게 바뀝니까?
픽셀값을 실수형 텐서로 바꾸고 255를 기준으로 크기를 조정합니다.
0~255에서 0~1로 바뀐다0~255에서 -1~1로 바로 바뀐다0~255 범위를 그대로 유지한다모든 픽셀값이 0으로 바뀐다0~255에서 0~1로 바뀐다클래스별 폴더 구조를 이미지 데이터셋으로 불러올 때 사용하는 torchvision 클래스는 무엇입니까?
폴더 이름을 클래스 레이블로 해석하는 데이터셋 클래스입니다.
ImageFolderDataLoaderComposeCenterCropImageFolder데이터 증강의 주된 목적은 무엇입니까?
새 데이터를 직접 수집하지 않고도 같은 범주의 다양한 모습을 학습시키는 방법입니다.
데이터의 의미를 바꿀 수 있어 주의해야 하는 증강을 모두 고르세요.
변환 뒤에도 정답 레이블과 과제에 필요한 특징이 그대로인지 확인하세요.
Resize로 크기를 통일하는 경우고양이와 강아지 사진을 자연스러운 범위에서 좌우로 뒤집는 경우검증 데이터에서 무작위 증강을 제외하는 주된 이유는 무엇입니까?
모델 성능을 비교하려면 실행할 때마다 평가 조건이 같아야 합니다.