🦙 메타가 새로 공개한 Llama 3 는 AI 일까?

며칠전 메타에서 Llama(라마) 3 저용량 버전을 공개한 동시에 페이스북, 인스타그램, 왓츠앱 등 자사 제

2024. 4. 21.

🦙 메타가 새로 발표한 Llama 3 는 AI 일까?

며칠전 메타에서 Llama(라마) 3 저용량 버전을 공개한 동시에 페이스북, 인스타그램, 왓츠앱 등 자사 제품에도 곧바로 반영했다고 밝혔습니다. 근데 Llama는 AI 일까요? AI 경쟁시대에 기술주에 투자를 하거나 공부하는 입장이라면, Llama 가 무엇인지 어느정도는 명확히 알고 있어야 하지 않을까 싶어서 일련의 Q&A 방식으로 이번 주제를 정리해봤습니다.

1️⃣ 메타의 Llama 는 무엇인가?

Llama는 메타에서 개발한 대규모 언어 모델(LLM)로, 우리에게 챗GPT로 친숙한 오픈AI의 GPT 시리즈의 메타버전이라고 보시면 되겠습니다. 이 모델은 일반 연구자들에게 접근 가능하도록 오픈소스로 제공되며, 여러 크기의 버전으로 다양한 컴퓨팅 환경에서 활용될 수 있습니다. Llama라는 이름은 동물 라마의 철자와 동일하며 Language Model from Meta AI 의 약자이기도 합니다.

2️⃣ 그럼 LLM은 무엇인가?

LLM은 "Large Language Model"의 약자로, 대규모 언어 모델을 의미합니다. 이러한 모델은 자연어 처리(NLP), 즉 인간의 언어를 컴퓨터가 이해하고 해석할 수 있도록 대량의 텍스트 데이터로 훈련되며, 텍스트 생성, 번역, 요약, 질문에 대한 답변 등 다양한 언어 관련 작업을 수행할 수 있습니다. 또한 데이터를 기반으로 학습되어 생성된 통계적/수학적 구조체라는 의미에서 모델라는 단어가 활용됩니다.

3️⃣ LLM는 AI 인가?

LLM은 인공지능의 한 예시이며, 그중에서도 특히 인간의 언어를 처리하는 데 특화된 도구라고 볼 수 있습니다. 대표적인 예로 오픈AI의 챗GPT가 있으며, 해당 시스템은 사용자의 입력한 값(인풋)을 받아 LLM에 제공하고, 모델이 처리한 후의 결과(아웃풋)를 사용자에게 보여주는 구조로 작동합니다.

4️⃣ 엔비디아 GPU는 LLM의 훈련에 필요한걸까 운영에 필요한걸까?

엔비디아의 GPU는 LLM의 훈련과 운영(추론) 단계 모두에서 중요하며, 각각의 단계에서 계산 속도와 효율을 크게 향상시킵니다. GPU의 고성능 병렬 처리 능력은 LLM과 같은 대규모 신경망 모델이 실용적이고 효과적으로 작동할 수 있게 하는 핵심 기술입니다.

4️⃣ AI 알고리즘과 모델은 동일한걸까?

AI 알고리즘은 문제를 해결하는 일반적인 방법을 제공하는 반면, AI 모델은 그 알고리즘을 사용하여 특정 데이터에 대해 훈련된 구체적인 인스턴스입니다. 알고리즘은 모델을 만드는 데 사용되는 '레시피'라고 할 수 있으며, 모델은 그 레시피에 따라 만들어진 '요리'와 비슷합니다. 이렇게 모델은 알고리즘을 기반으로 하여 특정 작업을 수행하도록 최적화된 도구입니다.

5️⃣ LLM은 어떻게 성능을 비교할까?

LLM은 파라미터 값과 다양한 벤치마크 테스트를 통해 각각의 점수를 매겨 그 성능을 비교합니다. 이번에 Llama 3 발표시 공개된 비교 테이블 중 일부만 가지고 살펴보겠습니다.

파라미터: 쉽게 설명하자면 AI에게 있어 인간의 뇌세포 수 같은 개념, 표에 8B, 70B 로 표기.

벤치마크

MMLU(Massive Multitask Language Understanding): 광범위한 주제와 영역에 걸쳐 언어 이해 능력을 평가
GPQA(Generalized Physics Question Answering): 물리학 문제 해결 능력을 평가
HumanEval: 프로그래밍 코드 생성 능력을 평가
GSM-8K(Grade School Math 8K): 초등학교 문제 위주로, 복잡한 수학적 문제를 해결하는 능력을 평가
MATH(Mathematics Aptitude Test of Heuristics): 고등 수학 문제 해결 능력을 평가

벤치마크 관련

Shot: 특정 카테고리나 작업에 대해 사용된 예제의 수. 제한된 정보만으로 추론 능력 평가 가능.
CoT (Chain of Thought): AI가 문제를 단계별로 분해하고, 각 단계의 생각을 표현함으로써 최종 결론에 이르는 과정
F1: 분류 작업의 정확성을 평가하는 데 사용되는 통계적 측정 도구. 특히 균형 잡힌 성능 평가.

6️⃣ 대표적인 LLM은 어떤 것들이 있나?

🇺🇸 빅테크

구글 - Gemini 시리즈 (정확히는 LLM을 포함한 멀티모달 모델)
메타 - Llama 시리즈
IBM - Granite 시리즈
마이크로소프트 - WizardLM 시리즈
애플 - Ajax(코드명)
아마존 - Olympus(코드명)

🧪 스타트업 및 기관

🇺🇸 오픈AI - GPT 시리즈 (마이크로소프트 투자)
🇺🇸 앤트로픽 - Claude 시리즈 (아마존 투자)
🇫🇷 미스트랄AI - Mixtral 시리즈 (A16Z, 마이크로소프트 등 투자)
🇬🇧 스태빌리티 AI - Stable 시리즈 (스테이블 디퓨전으로 유명, 인텔 투자)
🇦🇪 TII - Falcon 시리즈 (UAE 정부 산하)
🇺🇸 xAI - Grok 시리즈 (X, 구 트위터 산하)

One More Thing

저커버그는 며칠전 인터뷰 전문 유튜버 Dwarkesh Patel 의 채널을 통해 AI에 관한 광범위한 이야기를 나눴습니다. 한시간이 넘는 영문 인터뷰라, 뉴스하다에 잘 정리된 내용으로 빠르게 보시는걸 추천드립니다. 한번 살펴보시면 메타의 AI 철학에 대해 더 잘 알수 있을거라 생각됩니다.

인터뷰 영상 링크

뉴스하다 요약본

📌 (한국시간 기준)금주의 실적발표 일정

네이버 프리미엄콘텐츠에 연재를 시작했습니다! X에 포스팅 하는 내용보다 조금 더 풍부한 내용으로 구성 되어있고, 앞으로도 살을 더 붙여볼 생각입니다. 기존에 테스트 삼아 몇번 게시했던 어닝콜 전문과 주요 해외 리포트 번역본 역시 앞으로 네프콘을 통해서 꾸준하게 제공될 예정입니다.

최신 콘텐츠

ASML 실적발표 - 발표내용 요약, 어닝콜 전문

TSMC 실적발표 - 발표내용 요약, 어닝콜 전문

넷플릭스 실적발표 - 발표내용 요약, 어닝콜 전문

월 2회 무료로 읽어보실수 있습니다
한달 맛보기 쿠폰으로 첫달 3000원에 구독가능합니다

채널 바로가기

📮 지난 주의 주요 뉴스 정리

테슬라, 글로벌 인력의 10% 이상 감원 결정
어도비, 프리미어 프로에 생성형 AI 도구 프리뷰 공개
디즈니+, 전통적 TV 채널 방식 도입으로 시청자 유치 노려
오픈AI, 일본에 첫 아시아 지사 설립
AMD, AI PC용 최신 칩 출시로 엔비디아 및 인텔과의 경쟁 가속화
삼성, 애플 제치고 스마트폰 시장 1위 탈환...샤오미와 트랜션은 성장세
인텔, 중국 시장을 위한 성능 제한된 AI 칩 출시 예정
반스 앤 노블 에듀케이션, 경영권 방어를 위한 포이즌필 도입
록히드 마틴, 170억 달러 규모의 차세대 요격기 개발 계약 체결
테슬라, 인도에 최대 30억 달러 투자 계획 발표 예정
애플, 인도네시아 투자 확대 가능성 시사
리비안, 올해 두 번째 감원 단행...인력의 1% 축소
디즈니랜드, 대규모 확장 계획 승인 받아
구글, 비용 절감을 위해 추가 감원 단행
메타, 차세대 AI 모델 '라마 3' 공개하며 AI 경쟁 가속화
중국 정부, 애플에 왓츠앱과 스레드 앱 스토어 삭제 지시

어닝시즌 - earningskr@gmail.com
수신거부 Unsubscribe

어닝시즌을 구독하고 이메일로 받아보세요

🇺🇸 상장 기업들의 분기별 실적을 중심으로 다양한 미국 뉴욕증시 소식을 전해드립니다

이전 뉴스레터

🥊 구글부터 메타까지, 빅테크 AI 칩 경쟁시대

2024. 4. 14.

다음 뉴스레터

🤖 휴머노이드의 상업화, 누가 수혜를 받을까?

2024. 4. 28.

어닝시즌

🇺🇸 상장 기업들의 분기별 실적을 중심으로 다양한 미국 뉴욕증시 소식을 전해드립니다