상상을 초월하는 초거대 언어 AI 발표
- 오늘날 쳇GPT가 있기 까지 타임라인
- 2020년 오픈AI에서 그간의 GPT, GPT-2의 연구성과를 바탕으로 매개변수 사이즈를 확대한 GPT-3을 공개하였습니다.
- GPT는 주어진 문장의 앞부분으로 다음 단어를 예측하는 NLP모델입니다.
- 2020년 상반기까지는 언어모델 사이즈의 큰 폭의 변화는 없었으나, GPT-3에서 1,750억개 매개변수 수준의 초거대 모델이 등장하였습니다.
- GPT-3 이후 AI 초거대화를 통한 기록적인 성능 향상을 경험 후 전 세계는 대규모 자본을 투입하여 경쟁적으로 초거대 AI 개발 중입니다.
- 미국 : GPT-3(오픈AI), LaMDA2, PaLM(구글), OPT-175B(메타)
- 중국 : Wudao2.0(BAAI), Pangu Alpha(화웨이)
- 국내 : 하이퍼클로바(네이버), KoGPT(카카오), 엑사원(LG), 믿음(KT), 에이닷(SKT)
