논문

하루에도 수만개의 글자를 읽고 있습니다. 하루에도 수백장의 종이를 들춰 읽습니다.
이것은 그 읽기에 대한 일기입니다.

VarGFaceNet: An Efficient Variable Group Convolutional Neural Network for Lightweight Face Recognition

  • Variable Group Convolution을 사용하는 기존의 VarGNet을 변경하여 VarGFaceNet을 제안하였다.
  • 학습 시 Knowledge distillation을 사용하였는데, 보통 처럼 embedding간 L2 거리를 로스로 사용하지 않고, normalization된 벡터들의 L2 거리를 로스로 사용하는 angular distillation loss를 사용하였다.
  • Knowledge distillation은 반복적으로 적용되어 한번 학습된 student 모델을 다음 학습의 초기화로 사용하여 더 좋은 성능을 내도록 하였다.

Add a Comment Trackback