챗GPT는 오픈AI에서 만든 대규모 언어예측 모델인 ‘GPT-3.5’ 언어 기술을 기반으로 하는데,
GPT는 어떤 텍스트가 주어졌을 때 다음 텍스트가 무엇인지까지 예측하며 글을 생성할 수 있는 모델입니다.
OpenAI에서는 2018년 GPT-1 출시 이후 2019년 GPT-2, 2020년 GPT-3에 이르기까지 버전을 높이며 발전을 거듭해 왔습니다.
즉 GPT 성능은 매개변수(파라미터) 개수가 중요한데, GPT-3는 GPT-1보다 1500배 많은 매개변수(1750억 개)를 활용했습니다.
챗GPT는 이 GPT-3에 강화 학습을 적용해 더욱 업그레이드한 GPT-3.5를 기반으로 개발됐습니다.