[혼공학습단 14기] 강아지 고양이 사진 분류 실습(AlexNet, VGGNet, ResNet)

 

기본 숙제

VGGNet

43.3% tabby

 

ResNet

86.8% tabby

 

추가 숙제

AlexNet 구조

---

 

🖼️AlexNet

2012년 ImageNet ILSVRC에서 우승한 모델. 

LeNet이 합성곱 신경망 개념을 제시하기는 했지만, 곧바로 이미지 처리 분야의 주류로 자리매김하지는 못했다. 그러던 중 AlexNet이 압도적인 성능을 보여주면서, CNN 기반 딥러닝 모델의 효용성을 입증해냇다. 

 

구조 요약

- 입력: 224x224x3 이미지
- 총 8개의 층(5개 Conv, 3개 FC)
- ReLU
- 드롭아웃
- 데이터 증강(크롭, 플립 등)
- 두 개의 GPU로 병렬 처리

 

AlexNet vs LeNet-5

1. AlexNet 모델은 LeNet-5 모델보다 많은 층을 사용한다.
2. AlexNet 모델은 LeNet-5 모델에서 사용한 활성화 함수인 시그모이드 함수 대신 렐루 함수를 사용한다.
   • gradient vanishing problem 해결
3. 평균 풀링 대신 최대 풀링을 사용한다.
4. AlexNet 모델은 밀집층의 과대 적합을 막기 위해 유닛의 출력을 랜덤하게 끄는 드롭아웃을 사용한다.

 

AlexNet 모델 실습

import keras
from keras import layers

alexnet = keras.Sequential()
alexnet.add(layers.Input(shape=(227, 227, 3)))
alexnet.add(layers.Conv2D(filters=96, kernel_size=11, strides=4,
                          activation='relu'))
alexnet.add(layers.MaxPooling2D(pool_size=3, strides=2))
alexnet.add(layers.Conv2D(filters=256, kernel_size=5, padding='same',
                          activation='relu'))
alexnet.add(layers.MaxPooling2D(pool_size=3, strides=2))
alexnet.add(layers.Conv2D(filters=384, kernel_size=3, padding='same',
                          activation='relu'))
alexnet.add(layers.Conv2D(filters=384, kernel_size=3, padding='same',
                          activation='relu'))
alexnet.add(layers.Conv2D(filters=256, kernel_size=3, padding='same',
                          activation='relu'))
alexnet.add(layers.MaxPooling2D(pool_size=3, strides=2))
alexnet.add(layers.Flatten())
alexnet.add(layers.Dense(4096, activation='relu'))
alexnet.add(layers.Dropout(0.5))
alexnet.add(layers.Dense(4096, activation='relu'))
alexnet.add(layers.Dropout(0.5))
alexnet.add(layers.Dense(1000, activation='softmax'))

alexnet.summary()

---

🧩VGGNet

옥스포드 대학의 Visual Geometry Group에서 만든 CNN 모델, 2024년 이미지넷 대회 우승

VGGNet은 3x3 Conv와 2x2 Max pooling만으로 전체 모델을 구성했다. 3x3을 두 번 쌓으면 5x5, 세 번 쌓으면 7x7과 동일한 수용 영역을 확보할 수 있기 때문에 비선형성 증가 + 파라미터 감소라는 이점을 얻을 수 있다.

 

구조 요약

- Conv: 모두 3x3, stride=1, padding=same
- Pooling: 모두 2x2 max pooling
- 깊이: VGG-16 기준 Conv 13개 + FC 1개
- 파라미터 수가 많아서 무겁고 느림

 

VGGNet 특징

• 합성곱층과 풀링층을 교대로 반복하는 대신, 여러 번의 합성곱층을 적용한 다음 풀링층을 적용한다.
• 동일한 여러 개의 합성곱층과 풀링층의 구조를 반복하는 블록을 적용한다.
• 큰 필터를 사용하는 하나의 합성곱층 대신, 3x3 크기의 작은 필터를 사용하는 여러 개의 합성곱층을 적용한다.

VGGNet 실습

vggnet = keras.Sequential()
vggnet.add(layers.Input(shape=(224, 224, 3)))

# 1, 2번째 블록
for n_filters in [64, 128]:
    for _ in range(2):
        vggnet.add(layers.Conv2D(filters=n_filters, kernel_size=3,
                                 padding='same', activation='relu'))
    vggnet.add(layers.MaxPooling2D(pool_size=2))

# 3, 4, 5번째 블록
for n_filters in [256, 512, 512]:
    for _ in range(3):
        vggnet.add(layers.Conv2D(filters=n_filters, kernel_size=3,
                                 padding='same', activation='relu'))
    vggnet.add(layers.MaxPooling2D(pool_size=2))

vggnet.add(layers.Flatten())
vggnet.add(layers.Dense(4096, activation='relu'))
vggnet.add(layers.Dense(4096, activation='relu'))
vggnet.add(layers.Dense(1000, activation='softmax'))

vggnet.summary()

 

👉 AlexNet은 합성곱 신경망을 사용해 컴퓨터 비전 문제에 대한 해결 방법의 전환점을 마련했다. VGGNet은 합성곱층과 풀링층을 하나의 블록으로 구성하여 여러 차례 반복하는 기법을 도입했고, 이런 반복 구조는 이후 합성곱 신경망과 트랜스포머를 비롯한 많은 신경망 구조에 영향을 미쳤다.

---

ResNet

Degradation 문제 해결을 위하 잔차 블록을 도입한 모델

ResNet은 딥러닝 구조가 깊어질수록 오히려 성능이 나빠지는 문제를 해결하기 위해 등장했다. gradient vanishing, degradation g현상 문제를 잔차 연결로 해결했다.

 

신경망이 학습할 함수 H(x) 대신, 입력을 그대로 두고 잔차 함수 F(x) = H(x) - x 만 학습시키면 더 쉽다.

Output = F(x) + x

 

잔차 블록

입력을 출력에 직접 연결하는 스킵 연결을 추가해 기울기 소실 문제를 완화

Input x
  ↓
Conv → BN → ReLU → Conv → BN
  ↓               ↘
    ←───────(+x)───────
            ↓
          ReLU

• Conv 뒤에 항상 BatchNorm + ReLU
• 블록의 출력은 F(x) + x
• 스킵 연결을 토앻 기울기 흐름을 유지하고, 학습 안정성을 확보한다. 

 

병목 블록

ResNet-50, ResNet-101 등에서는 파라미터 수를 줄이기 위해 1x1 -> 3x3 -> 1x1 구조의 병목 블록을 사용한다.

1x1 Conv (채널 감소)
↓
3x3 Conv
↓
1x1 Conv (채널 복원)
↓
+ 입력 x (skip)

이렇게 연산량을 줄이면서, 잔차 연결 구조를 유지할 수 있다.

 

배치 정규화

잔차 블록 내에서 학습의 속도를 높이고 모델의 안정성을 개선하기 위해 사용되는 기법

각 미니 배치에 대해 평균 0, 분산 1로 정규화한 뒤, 스케일과 시프트 파라미터로 다시 조정하는 방식이다.

수식

이를 Conv 또는 FC 레이어 뒤에 넣으면 학습 속도 증가 + 초기값 민감도 감소 같은 이점을 얻을 수 있다.

---

🐕🐈강아지, 고양이 사진 분류하기

드디어 강아지, 고양이 사진 분류하기 실습!

 

VGGNet으로 분류

import keras

vggnet = keras.applications.VGG16()

!gdown 1xGkTT3uwYt4myj6eJJeYtdEFgTi2Sj8C

!unzip cat-dog-images.zip

from PIL import Image
dog_png = Image.open('images/dog.png')
display(dog_png)

import numpy as np
dog_array = np.array(dog_png)
dog_array.shape

from keras.applications import vgg16
vgg_prep_dog = vgg16.preprocess_input(dog_array)

predictions =vggnet.predict(vgg_prep_dog[np.newaxis, :])

max_index = np.argmax(predictions[0])
print(max_index, predictions[0][max_index])

import requests

url = "https://storage.googleapis.com/download.tensorflow.org/" + \
      "data/imagenet_class_index.json"
json_data = requests.get(url).json()

print(json_data[str(max_index)])

vgg16.decode_predictions(predictions)

vgg16.decode_predictions(predictions, top=1)

cat_png = Image.open('images/cat.png')
display(cat_png)

vgg_prep_cat = vgg16.preprocess_input(np.array(cat_png))
predictions = vggnet.predict(vgg_prep_cat[np.newaxis,:])
vgg16.decode_predictions(predictions)

 

결과:

- 43.3% tabby, 31.1% egyption_cat

 

ResNet으로 분류

!gdown 1xGkTT3uwYt4myj6eJJeYtdEFgTi2Sj8C
!unzip cat-dog-images.zip

from PIL import Image
import numpy as np
from keras.applications import resnet

dog_png = Image.open('images/dog.png')
resnet_prep_dog = resnet.preprocess_input(np.array(dog_png))

resnet50 = keras.applications.ResNet50()
predictions = resnet50.predict(resnet_prep_dog[np.newaxis,:])

resnet.decode_predictions(predictions)

cat_png = Image.open('images/cat.png')
resnet_prep_cat = resnet.preprocess_input(np.array(cat_png))
predictions = resnet50.predict(resnet_prep_cat[np.newaxis,:])

resnet.decode_predictions(predictions)

 

결과:

- 86.8%% tabby

VGG16 모델보다 더 높은 수준의 예측을 수행한다!

---

이번 실습을 통해 AlexNet, VGGNet, ResNet 3개의 대표적인 CNN 모델을 사용해보면서, 각 모델이 갖는 구조적 특징과 한계를 체감할 수 있었다. 

 

AlexNet은 깊이가 얕고 구조도 비교적 단순한 편이지만, 당시로서는 혁신적이었던 여러 기술이 집약되어 있었다. ReLU 활성화 함수 도입이나 드롭아웃, 데이터 증강의 활용 등은 이후 많은 모델들에게 영향을 주었다. 다만 커널 크기가 크고, 파라미터 수가 많아 계산량이 불필요하게 큰 부분은 한계로 느껴졌다.

 

VGGNet은 AlexNet의 단점을 개선하며, 동일한 3x3 커널을 반복적으로 쌓아 깊이를 늘리는 구조로 설계되었다. 이로 인해 모델 구조가 훨씬 더 일관되고 단순해졌고, 성능도 향상되었다. 하지만 깊이가 깊어지면서 파라미터 수가 급격히 늘어나고, 계산량 역시 매우 커진다는 점은 실용적인 측면에서 부담이 되었다.

 

ResNet은 이러한 문제를 극복하기 위한 시도로, 잔차 학습이라는 개념을 도입했다. 이는 네트워크가 깊어질수록 발생하는 성능 저하를 해결하며, 실질적으로 더 깊은 네트워크를 안정적으로 학습할 수 있도록 해주었다. 구현 관점에서도 skip connection만 잘 적용하면, 비교적 복잡하지 않게 확장 가능한 구조라는 점이 인상 깊었다.

 

세 모델을 비교해 보면, 깊이에 따라 성능이 향상되지만 단순히 층을 많이 쌓는다고 해서 무조건 좋은 결과를 얻을 수는 없다는 점을 알 수 있었다. 학습 안정성과 계산 효율성도 함께 고려해야 한다는 교훈을 얻음