[CNN] Convolution 연산을 도대체 왜 사용하는건데 ?!

Convolution는 왜 Fully Connected Layer 보다 좋을까요? 이미지를 FC Layer에 넣는다고 생각해보면 모든 픽셀 단위를 너무 세세하게 보게됩니다. 한 픽셀씩 너무 자세하게 보고 위치 정보를 무시하기 때문에 픽셀들의 위치를 서로 막 바꿔서 학습하는 것과 다르지 않습니다. ( 퍼즐을 섞는 것과 같습니다. 즉, 위치 정보를 고려하지 않습니다. 예를 들어 귀나 눈이 이미지의 오른쪽 구석에 있다던지...) 그렇다면 CNN의 동작 방식은 어떨까요? CNN은 주변(일부 영역)만 연결합니다. 신경망을 잘 끊어서 위치 정보를 잃지 않도록 하는 것이죠. Convolution은 이미지의 위치별 특징을 찾을 수 있습니다. 선택과 집중을 통해 이미지를 가까이 있는 것들만 연결합니다. 이렇게 하면 위치..

• format_list_bulleted Data science
• · 2024. 1. 5.

논문 리뷰 - Vision Transformer 비전 트랜스포머 ( 어텐션을 CV에 ?? ) part1

우선 CNN ViT는 비전 분야의 새로운 패러다임입니다. 기존의 비전 분야에서는 CNN을 사용했습니다. CNN은 필터가 움직이면서 전체의 이미지를 부분적으로 인식하게 되죠? CNN은 한 번 연산시 국소적으로 이미지를 파악할 수 밖에 없습니다. ( 즉, 이미지 전체를 고려할 수 없습니다. ) 따라서 한 번에 이미지를 고려할 수 있도록 'attention'기법을 사용합니다. 초기에는 cnn과 attention 을 합친 모델이 많이 연구되었습니다. 하지만 본 논문에 등장하는 ViT는 합성곱 연산을 사용하지 않고 attention만을 사용하여 모델을 구성합니다. ( 현재 ImageNet 분류 1, 2위 등극. 3~7위는 EffenNet CNN 기반 모델. ) CNN + attention 각 픽셀별로 중요한 정도..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2023. 4. 6.

StyleGAN2(CVPR2020) - StyleGAN의 단점을 보완해보자

https://arxiv.org/pdf/1912.04958.pdf 논문 원본 https://minyoungxi.tistory.com/42 StyleGAN 2019 - 고해상도 이미지를 고퀄로 생성해보자 https://arxiv.org/pdf/1912.04958.pdf 논문 본문의 링크입니다. Contribution 본 논문에서 제안된 style-based generator로 고해상도 이미지를 높은 퀄리티로 생성합니다. Disentanglement를 측정하는 지표 두가지를 제 minyoungxi.tistory.com 필수 논문 : StyleGAN - 이전 포스팅 논문 소개 다양한 고해상도의 이미지를 생성할 수 있습니다. 성능 개선 : 기존의 StyleGAN보다 더 높은 품질의 이미지를 생성하고, 이미지를 ..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2023. 2. 22.

[Toy project] Deep Drowsiness Detection - 졸음 감지 part2

part1 에서 ultrastic yolo5 모델을 클로닝해서 학습된 모델이 잘 작동하는지 확인해봤습니다. 이번 포스팅에서는 Real Time Detection 코드를 통해서 실시간으로 피드에 액세스하는 코드를 짜볼 것입니다. 랩탑에 탑재되어 있는 웹캠에 실시간으로 접속하여 저의 모습을 캡쳐하는 부분인데요. 프레임당 캡쳐를 하여 제가 깨어있는 모습과 졸고있는 모습을 각각 따로 수집을 해서 직접 라벨링을 해볼 것입니다. Real Time Detections # 단지 실시간으로 피드에 액세스하는 코드 cap = cv2.VideoCapture(0) # 웹캠에 액세스 하는 방법 , 자신의 기기에서 비디오 캡쳐 장치가 몇 번인지 확인. if not cap.isOpened(): print("fail") while ..

• format_list_bulleted Data science/Deep Learning Toy Project
• · 2023. 2. 1.

[Toy project] Deep Drowsiness Detection - 졸음 감지 part1

pytorch 를 사용하여 웹캠을 통해 사람이 졸고있는 모습을 탐지하는 프로그램을 만들어보기로 했다. Gameplan 1. Ultralytics YOLO 설치 2. 탐지를 하는 프로그램을 만들어 봅시다. 3. 졸음 감지 모델을 튜닝 4. 리얼 타임 퍼포먼스 Ultralytics YOLOv5 https://github.com/ultralytics/yolov5 GitHub - ultralytics/yolov5: YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite. Contribute to ultralytics/yolov5 development by creating an account on GitHub..

• format_list_bulleted Data science/Deep Learning Toy Project
• · 2023. 1. 21.

Coursera - Convolutional Neural Networks

Convolution Neural Networks 컴퓨터가 이미지를 인식할 때, 가장 먼저 하는 일은 이미지의 수직 엣지(vertical edges)를 검출하는 것. 또한 수평 엣지(horizontal edges) 를 검출할 수 있습니다. 수직 엣지는 이미지상에서 수직의 이미지 ( 서있는 사람, 나무 등 ) 이고 수평 엣지는 ( 난간, 가로로 뻗은 이미지 ) 입니다. 합성곱 연산을 통해 수직 엣지 검출기를 구현하는 방법 Padding 6x6 행렬에 3x3 행렬을 곱하면 4x4 행렬이 나옵니다. 이 방법의 단점은 2가지가 있습니다. 합성곱 연산을 적용할 때마다 이미지가 축소됩니다. ( 6x6 → 4x4 ) 모서리 구석에 있는 작은 픽셀의 정보가 버려질 확률이 높음. 중간에 있는 픽셀과 겹치는 3x3 영역이..

• format_list_bulleted Data science/Pytorch Basic
• · 2022. 12. 23.