[논문리뷰] – Attention is All You Need (part1) : 어이! 어텐션!
Transformer의 탄생 배경 자연어 처리 분야에서 순환신경망(RNN)은 오랫동안 메인 모델로 사용되어 왔습니다. 하지만 RNN은 길이가 길어질수록 성능이 저하되는 단점이 있었습니다. 그래서 어텐션(Attention) 메커니즘을 통해 입력과 출력 사이의 의존성을 직접적으로 모델링할 수 있는 트랜스포머가 제안되었습니다. 기존 순차 모델들이 단어 하나하나를 차례로 처리했던 것과 달리, 트랜스포머는 어텐션을 통해 전체 문장을 한번에 참조할 수 있게 되었습니다. 이를 통해 […]
웹스크래핑 GPT를 만들어보자 !
AsyncChromiumLoader 웹 사이트에서 정보를 가져올 수 있는 방법은 두 가지가 있습니다. 첫 번째는 playwright와 chromium을 사용하는 것입니다. playwright는 borwser control(브라우저 컨트롤)을 할 수 있는 package입니다.selenium이랑 비슷하다고 할 수 있습니다. 마찬가지로 browser를 control합니다. 이 도구는 많은 양의 javascript 코드가 있는 웹 사이트로부터 data를 추출할 때 사용합니다. 그런 웹 사이트는 접속 직후에는 모든 data를 바로 사용할 수 […]
[생존분석 깊이 이해해보기]- 생존분석을 그려보자!
생존분석의 중요성 1 생존분선이란~~ 생존분석(Survival Analysis)은 뭘까요 ? 생존분석포스팅v1 생존분석(Survival Analysis)은 관심있는 어떤 사건이 발생할 때까지 경과된 시간 (timetoevent) 을 분석하는 기법입니다.이름이 생존분석이라서 무조건 ‘죽음과 생존’ 이런 느낌으로 받아들이실 수 있지만, 생존분석은 주로 ‘시간’과 관련된 데이터를 다루는 통계학의 한 분야로 생각하시면 됩니다. 생존분석의 ‘생존’은 의학 분야에서 유래했지만, 이 분석 방법은 다양한 분야에서 사용됩니다 ! 생존분석의 핵심은 […]