오픈AI 창업 멤버가 알려주는 거대 언어 모델 LLM 요약 정리

안녕하세요, 여러분!

 

아이고리듬입니다.  저는 오늘 안드레아 카파시 박사님의 영상을 요약 정리해서 공유해 보려고 해요.

최근에 대형 언어 모델에 대한 30분 강연을 했었는데, 아쉽게도 그 강연은 녹화되지 않았다고 합니다. 

하지만 반응이 워낙 좋았던지라 1시간 짜리 강의로 다시 녹화해서 유튜브에 업로드 해주셨어요. 

그럼 지금부터 대형 언어 모델에 대한 바쁜 분들을 위한 입문 강의로 올라온 영상을 정리해 보겠습니다.

 

 

안드레 카파시 소개

• 이름: 안드레 카파시 (Andrej Karpathy)
• 출생: 1986년 10월 23일
• 국적: 캐나다
• 학력: 토론토 대학 (컴퓨터 과학, 물리학/학사), 브리티시 컬럼비아 대학교 (물리학/석사), 스탠퍼드 대학교 (컴퓨터 과학/박사)
• 경력:
  2013년 ~ 2017년: 스탠퍼드 대학 연구원
  2017년 ~ 현재: 테슬라 자율주행 딥러닝 책임자
• 업적:
  딥러닝을 사용하여 이미지 압축 방법 개발
  테슬라 자율주행 시스템에 사용되는 딥러닝 모델 개발
  딥러닝 분야의 선도적인 연구자 인정

 

대형 언어 모델이란?

대형 언어 모델은 무엇일까요? 간단히 말해서, 대형 언어 모델은 두 개의 파일로 이루어진 거대한 데이터베이스예요. 예를 들어, 메타 AI에서 출시한 Llama 270b 모델을 보면, 이는 70억 개의 파라미터를 가진 모델이에요. 라마 시리즈 중 이 모델은 특히 인기가 많죠. 왜냐하면, 이 모델은 현재 가장 강력한 오픈 웨이트 모델이기 때문이에요.

* 가장 쉬운 설명: 대형 언어 모델은 마치 거대한 책처럼 많은 단어와 문장을 알고 있는 컴퓨터 프로그램입니다. 그래서 우리가 물어보는 것에 대답할 수 있죠.

 

 

모델의 구조

- 모델 아키텍처: 이 모델은 대략 500줄의 C코드로 구현할 수 있어요. 인터넷 연결 없이도 이 두 파일만으로 모델을 실행할 수 있죠.

- 데이터 수집: 인터넷에서 수집한 약 10테라바이트의 텍스트 데이터를 사용해요.

- GPU 클러스터: 이런 대규모 데이터를 처리하기 위해 특별히 설계된 컴퓨터를 사용해요.

* 가장 쉬운 설명: 이 컴퓨터 프로그램은 마치 레고 블록처럼 여러 부분으로 조립되어 있어요. 그리고 그 레고 블록들은 모두 다른 기능을 하는데요. 컴퓨터는 이 블록들을 사용해서 말을 배우는 거죠.

 

 

신경망의 작동 방식

- 예측: 이 신경망은 주어진 단어의 맥락을 바탕으로 다음 단어를 예측해요. 예를 들어, 특정 단어가 다음에 올 확률이 97%라고 예측할 수 있죠.

- 변환기 아키텍처: 이 네트워크는 변환기(transformer) 신경망 아키텍처를 사용해요. 이 아키텍처는 매우 상세하게 설계되어 있어요.

* 가장 쉬운 설명: 컴퓨터는 마치 마술사처럼, 주어진 단어들을 보고 다음에 올 단어를 예측합니다. 마치 '사과, 바나나, 그리고...' 다음에 무엇이 올지 맞추는 것처럼 말이죠.

 

신경망의 특성과 평가

- 파라미터: 이 모델은 약 1000억 개의 파라미터를 가지고 있어요. 이 파라미터들은 모델의 다양한 부분에서 다양한 역할을 해요.

- 평가: 이 모델들은 매우 정교한 평가가 필요해요. 다양한 상황에서 생성된 텍스트를 분석하여 모델의 성능을 평가하죠.

* 가장 쉬운 설명: 이 컴퓨터 프로그램은 많은 '비밀 코드'를 가지고 있어요. 그리고 이 코드들은 컴퓨터가 어떻게 말을 할지 결정해 줍니다. 우리는 이 코드들을 테스트해서 컴퓨터가 얼마나 잘 말하는지 확인하는 거죠.

 

데이터 품질과 파인 튜닝

- 데이터 품질: 품질이 높은 대화형 데이터를 사용해요. 예를 들어, 100,000개의 고품질 대화 데이터를 사용할 수 있죠.

- 파인 튜닝: 기본 모델을 바탕으로, 보다 구체적인 지침에 따라 모델을 미세 조정해요. 이 과정은 비용이 많이 들고, 일반적으로 대기업에서만 수행할 수 있어요. 

* 가장 쉬운 설명: 컴퓨터가 좋은 말을 배우려면 좋은 책을 읽게 해야 합니다. 즉 좋은 자료를 많이 투입해야 한다는 의미죠. 그래서 우리는 컴퓨터에게 좋은 대화들을 많이 보여줘야 하는 것이죠. 그리고 이따금씩 컴퓨터가 더 양질의 정보를 디테일하게 배울 수 있도록 직접 도와주기도 해야 합니다.

 

 

모델의 미래와 발전 방향

- 스케일링 법칙: 대형 언어 모델의 성능은 규모에 따라 달라져요. 모델이 커질수록 성능도 향상되죠.

- 시스템 2 설정: 시간을 정확도로 전환하는 것이 중요해요. 예를 들어, 사용자가 질문을 하면, 모델은 가능한 한 정확한 답변을 제공해야 해요.

* 가장 쉬운 설명: 이 컴퓨터 프로그램은 계속 배우고 있는 상태입니다. 이걸 "학습" 중이라고 하죠. 그래서 앞으로도 더 많은 것을 할 수 있게 될 것은 분명합니다. 마치 우리가 세상에서 계속 무엇인가를 배우고 익히고 있듯이 말이죠.

 

 

결론

대형 언어 모델은 여전히 발전 중인 기술이에요. 이 모델들은 우리가 일상에서 사용하는 다양한 서비스와 도구를 혁신적으로 변화시킬 잠재력을 가지고 있죠. 그렇기 때문에 이 분야에 대한 지속적인 연구와 개발이 매우 중요해요.