논문리뷰 - Attention is all you need - 어텐션 플리즈 !

Attention is all you need [Paper] : (https://arxiv.org/abs/1706.03762) 기존 자연어처리 분야에서 엄청난 혁신을 불러온 논문 'Attention all you need'에 대해서 리뷰해봅시다 ! 본 리뷰는 논문 리뷰와 후에 pytorch를 사용해 구현해보기까지 준비했습니다. 저는 NLP에 크게 관심이 없지만 attention 기법은 자연어처리뿐만 아니라 비전 분야에서도 SOTA를 달성했습니다. 이전에 포스팅한 vit 그리고 swim-transformer 등 attention과 transformer에 대한 학습은 인공지능을 공부한다면 필수적입니다. 딥러닝 기반의 기계 번역 발전 과정 2021년 기준으로 최신 고성능 모델들은 Transfor..

• format_list_bulleted Data science/딥러닝 논문 리뷰
• · 2023. 7. 27.

[R] 대응표본 평균검정 (paired-samples t test)

대응표본 평균검정 ( paired-samples t test ) * 독립표본 평균검정은 두 개의 표본이 서로 독립인 모집단으로부터 추출되었다는 가정을 전제로함 * 두 표본의 값이 쌍(pair)을 이루고 있는 경우에 쌍을 이룬 값은 서로 독립이 아니며, 이처럼 검정하려고 하는 두 개의 표본이 서로 독립이 아닌 모집단으로부터 추출되었을 때 대응표본 평균검정을 이용하여 두 집단 간의 차이를 검정 독립표본 vs 대응표본 독립표본 실험 무작위로 실험 대상자를 선정하여 두 개의 집단으로 나눈다 한 집단에는 아침식사를 하고 IQ 테스트에 응하도록 하고, 다른 집단에는 아침식사를 거르고 IQ 테스트에 참가하도록 합니다. 각 실험 다상자에 대해 하나씩의 IQ 테스트 점수를 얻게 됩니다. 대응표본 실험 무작위로 실험 대상..

• format_list_bulleted 카테고리 없음
• · 2023. 7. 27.

[R] - 독립표본 평균검정 ( two-independent samples t test )

독립표본 평균검정 ( two-independent samples t test ) 1. 두 개의 독립표본 데이터를 이용하여 각각 대응되는 두 개 의 모집단 평균이 서로 동일한지 검정 2. 두 집단이 서로 차이가 없는지 검정 R 프로그래밍 https://minyoungxi.tistory.com/68 [R] 통계데이터 분석 - 여러가지 평균검정법 : 일표본 평균검정 ( One-Sample t test ) , 독립표본 평균 일표본 평균검정 ( one-sample t test ) 하나의 표본 데이터를 이용하여 모집단의 평균이 특정 값과 같은지 검정하는 방법 표본집단이 특정 모집단과 일치하는지 혹은 그렇지 않은지 알고싶을 때 이 minyoungxi.tistory.com 지난 포스팅에서 사용한 MASS 라이브러리의 ..

• format_list_bulleted Data science/R programming & 통계
• · 2023. 7. 25.

[R] 통계데이터 분석 - 여러가지 평균검정법 : 일표본 평균검정 ( One-Sample t test ) , 독립표본 평균검정, 대응표본 평균검정

일표본 평균검정 ( one-sample t test ) 하나의 표본 데이터를 이용하여 모집단의 평균이 특정 값과 같은지 검정하는 방법 표본집단이 특정 모집단과 일치하는지 혹은 그렇지 않은지 알고싶을 때 이용 R 프로그래밍 일표본 평균검정을 R 프로그래밍을 통해 알아볼게요. MASS 라이브러리의 cats 데이터를 활용합니다. library(MASS) str(cats) > str(cats) 'data.frame':144 obs. of 3 variables: $ Sex: Factor w/ 2 levels "F","M": 1 1 1 1 1 1 1 1 1 1 ... $ Bwt: num 2 2 2 2.1 2.1 2.1 2.1 2.1 2.1 2.1 ... $ Hwt: num 7 7.4 9.5 7.2 7.3 7.6 8..

• format_list_bulleted Data science/R programming & 통계
• · 2023. 7. 25.

[MLOps] - 로컬 쿠버네티스 환경 만들어보기

로컬 쿠버네티스 로컬 쿠버네티스는 물리 머신에서 손쉽게 쿠버네티스를 테스트할 수 있는 방법이다. 한 대의 머신에 올인원으로 구성되어 이중화가 보장되지 않는 점에 주의해야 한다. 미니큐버 Minikube 미니큐브 (Minikube)는 물리머신에 로컬 쿠버네티스를 쉽게 구축하고 실행할 수 있는 도구로, 쿠버네티스의 SIG-Cluster-Lifecycle이라는 분과회에서 만들었다. 미니큐브는 단일 노드 구성이라 여러 대의 구성이 필요한 쿠버네티스 기능 등은 사용할 수 없다. 또한, 미니큐브는 로컬 가상 머신에 쿠버네티스를 설치하기 위해 하이퍼 바이저가 필요하다. 미니큐브 설치 brew install minikube 미니큐브 설치 후 버전 확인 minikube version hyperkit은 m1 맥에서 설치가..

• format_list_bulleted 카테고리 없음
• · 2023. 7. 25.

[R] - 평균 검정 - t검정 t test, t 값 ( t-value ) , t 분포 ( t distribution ) , 신뢰구간 ( confidence interval )

Abstract t-검정 통계에서의 t값은 두 집단의 평균 사이에 통계적으로 유의미한 차이가 있는지를 판단하는 데 사용되는 값입니다. t값이 크면 두 집단의 평균 사이에 큰 차이가 있다는 것을 의미하며, t값이 작으면 두 집단의 평균 사이에 큰 차이가 없다는 것을 의미합니다. 그러나 t값만으로는 두 집단의 평균 사이에 차이가 통계적으로 유의미한지를 결정할 수 없습니다. 이를 결정하기 위해서는 p값을 계산해야 합니다. p값은 t값과 자유도(샘플 크기에서 1을 뺀 값)를 사용하여 계산되며, p값이 특정 임계값(보통 0.05)보다 작으면 두 집단의 평균 사이에 통계적으로 유의미한 차이가 있다고 판단합니다. 평균검정 평균에 대한 가설 검정을 의미 선정한 표본이 특정 평균값을 갖는 모집단에 속하는지 ( 즉, 표본..

• format_list_bulleted Data science/R programming & 통계
• · 2023. 7. 24.