목록LLM & 멀티모달 (1)

Robotics & AI

GPT 모델의 역사

GPT(Generative Pre-trained Transformer) 모델의 역사는 다양한 발전과정을 거쳐 왔습니다. 아래는 GPT 모델의 주요 발전 단계입니다. GPT-1 (2018) 개발자: OpenAI GPT의 첫 번째 버전은 트랜스포머 아키텍처가 발명된지 1년 후인 2018년에 소개되었습니다. GPT-1은 117만 개의 문장을 학습한 1.5억 개의 매개변수를 가진 언어 모델로, 대규모의 데이터셋을 기반으로 사전 훈련되었습니다. 높은 성능을 보여주며, 특정 작업에 대한 세부 조정 없이도 다양한 자연어 처리 작업에 사용될 수 있음을 입증했습니다. GPT-1 고성능 NLP 모델이나 신경망을 구축하는 데는 일반적으로 지도 학습을 사용했는데, 이렇게 되면 데이터 수집과 레이블링 시간과 비용이 많이 들기 ..
LLM & 멀티모달 2024. 2. 13. 22:58
이전 Prev 1 Next 다음