[Pytorch 다시보기] - Name some different components of PyTorch!! PyTorch의 다양한 구성요소를 알아봅시다!

Tensors : Tensors are very homogeneous to the Numpy array and it is also multi-dimensional. The Tensors are accessible in PyTorch as a torch. Some examples are torch.CharTen , torch.IntTensor , torch.FloatTensor , etc. 텐서 (Tensors): 텐서는 Numpy array와 매우 유사하며 다차원입니다. 텐서는 PyTorch에서 torch.을 통해 접근할 수 있습니다. 예를 들어 torch.CharTensor, torch.IntTensor, torch.FloatTensor 등이 있습니다. import torchchar_tensor = t..

• format_list_bulleted Data science/Pytorch Basic
• · 2024. 10. 29.

[Pytorch 다시보기] - Pytorch Intro! 파이토치를 다시보자! 토치의 텐서에 대해서.

What is Pytorch and how does it differ from other deep learning frameworks like Tensorflow? - Pytorch와 Tensorflow는 무엇이 다를까?  Pytorch는 페이스북 AI 연구소에서 만들어진 오픈소스 머신러닝 라이브러리 입니다. Pytorch는 동적 계산 그래프(Dynamic Computation Graphs)의 강점을 기반으로 구축되었습니다. Pytorch의 기능과 편리한 Workflow 덕분에 연구원과 개발자 모두에게 인기가 높아졌습니다.Dynamic Computation정적 계산 그래프를 활용하는 Tensorflow와 달리 Pytorch는 동적 계산 기능을 제공합니다.이를 통해 더 복잡한 아키텍처를 처리합니다. 또한 ..

• format_list_bulleted Data science/Pytorch Basic
• · 2024. 10. 16.

[논문리뷰] - Sound Analysis에 대해서 알아봅시다! ( 기침 소리를 4 class로 분류한 최초의 논문 ? )

Impact Factor : 1.7 Journal Impact Factor (2023) Citations : 7 IntroductionSound analysis에 관련된 프로젝트를 처음으로 참여하게 되어서 관련된 논문을 찾아보던 중 가장 유사한 내용을 연구한 페이퍼를 찾게 되어서 소개드립니다. 이 페이퍼는 기침 소리를 사용하여 여러 질병을 자동으로 진단하는 새로운 기계학습 모델인 DKPNet41에 대해 설명하고 있습니다. 연구 목적 : Covid-19, 심부전, 급성 천식, 정상 상태를 포함하는 4가지 진단 카테고리에 대한 기침 소리 데이터를 수집하고, 이를 이용해 자동 진단 모델을 개발 및 검증. - 4-class cough detection -> Covid-19, heart failure, actur..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2024. 10. 14.

[Deep Learning & Machine Learning] Batch Iterator 만들어보자

Batch Iteration 배치 반복(Batch Iteration)은 머신 러닝 및 데이터 처리에서 대용량 데이터 세트를 보다 효율적으로 처리하기 위해 사용되는 스킬입니다. 메모리 집약적일 수 있는 전체 데이터 세트를 한 번에 처리하는 대신, 데이터는 더 작고 관리하기 쉬운 배치로 처리됩니다.  Batch Iterator(배치 반복자)를 만드는 단계별 방법은 아래와 같습니다. - 샘플 수 결정(Dtermine the Number of Samples) : 데이터 세트의 총 샘플 수를 계산합니다.  - 배치로 반복(Iterate in Batches) : 지정된 배치 크기 단위로 데이터 세트를 반복합니다. - 배치 생성(Yield Batches) : 각 반복에서 X에서 샘플 배치를 생성하고, 만약 제공된 경..

• format_list_bulleted Data science/Machine Learning basic
• · 2024. 8. 1.

[논문리뷰] - ECG(심전도), PPG(광전용적맥파) feature extraction 연구 논문을 읽어봅시다. ( ECG feature extraction , 심전도 인공지능 )

1. Introduction 생체신호와 관련된 프로젝트를 진행하고 있는데, 가장 어려운 부분은 역시나 메디컬 도메인 지식입니다.작년 말부터 진행 중이었던 현재 프로젝트를 너무 데이터 그 자체와 약간의 도메인 지식 그리고 인공지능 모델링 측면에서만 봐서 그런지 너무나 더딘 개선 속도가 마음에 걸려서 처음으로 돌아왔습니다. 많은 생체신호 데이터를 사용 중이지만, 그 중에서도 가장 중심적으로 활용이 되어야 하는 ECG와 PPG에 관해서 조금 더 deep하게 알아볼 것입니다. 개별적인 논문을 모두 자세히 보려고 했지만, 사실 ECG라는 데이터로 할 수 있는 연구가 너무나 많다보니 Feature Extraction 역시 각 연구의 목적에 따라 처리 방법이 너무나 다릅니다.  제가 가지고 있는 데이터는 125Hz인..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2024. 7. 10.

[논문리뷰] - SSM과 S4 모델들을 알아보자 ! ( + Transformer , Mamba ) - State Space Model for New-Generation Network Alternative to Transformers: A Survey

SSM(Space State Model)은 뭐야 ?SSM은 기존 Transformer(https://minyoungxi.tistory.com/104) 기반 모델에 비해 다양한 작업에서 계산 비용이 낮으면서 큰 잠재력을 보이며 주목받고 있습니다. 제어 이론 및 계산 신경 과학에 뿌리를 두고 있으며, 동적 시스템을 상태 변수로 모델링하여 딥러닝에 적용됩니다. 그렇다면 Transformer의 문제는 무엇일까요 ? Transormer는 Attention 기법을 통해서 일반적으로 장거리 종속성을 개선했지만,  Transformer의 문제점은 유전체 또는 극도로 긴 텍스트와 같은 맥락에서는 확장이 잘 되지 않습니다.  왜 극도로 긴 input에서 느릴까 ? self-attention 매커니즘 때문. self-att..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2024. 6. 24.