언어모델의 경쟁구도가 BERT와 GPT-3의 대결로 압축이 되는 흐름입니다. BERT의 우위로 굳어지던 분위기가 GPT-3의 등장으로 다시 역전이 됐습니다. 제가 표지 포함 72페이지나 되는 공학계 영어 논문을 모두 이해했다는 건 거짓말일 겁니다. 이해하기 위해 애썼다는 말을 넘어서면 과장일 겁니다. 제가 이해한 만큼만 썼으니 정확한 내용은 저보다 더 훌륭한 분께 재확인하시길 부탁드립니다. 이

언어 모델은 비지도 복합작업 학습자(Language Model are Unsupervised Multitask Learners) 논문 원문 링크 도입 우리는 개별 작업을 위해 트레이닝 데이터 세트를 라벨링하거나 수동으로 만드는 작업 없이 다양한 작업을 수행할 수 있는 보편 시스템을 만들고 싶었다. 멀티태스크 러닝은 보편적인 작업수행(성과)를 개선하기 위한 유망한 프레임워크다. 현재 언어 관련 작업을