MoE (전문가 혼합 모델)
영어 MoE (mixture of experts) · 일본어 MoE（専門家混合モデル） · 읽는 법 엠오이 (센몬카 콘고 모데루)
MoE는 AI 모델 안을 여러 작은 ‘전문가’로 나누고, 입력마다 그중 몇 개만 골라 일하게 하는 방식입니다. 모델 전체는 크게 만들면서도 한 번에 쓰는 계산은 줄일 수 있습니다.
HowtoAI 글에서는 Microsoft가 직접 만든 글 모델 MAI-1-preview가 어떤 방식의 모델인지 소개하는 대목에서 나옵니다.
확인 2026-10-26출처 논문 「Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer」(Noam Shazeer 외, arXiv 1701.06538, 2017-01-23): 입력마다 학습된 게이트가 전문가 일부만 골라 쓰는 MoE 층
1이 말, 이런 곳에서 만납니다
처음 보는 말이 낯선 것은 당연합니다. 대개 이런 자리에서 마주칩니다.
HowtoAI 글 「Microsoft MAI-1이란」의 MAI-1-preview 소개
MAI-1-preview는 약 15,000개의 NVIDIA H100으로 학습한 전문가 혼합(MoE) 방식 모델이라는 설명입니다.
HowtoAI 글 「Microsoft MAI-1이란」의 소문 확인
MAI-1-preview는 MoE 방식이라고 하지만, 약 5,000억이라는 파라미터 수는 Microsoft 발표 페이지에서 확인되지 않았다는 내용입니다.
AI 모델 소개 페이지 (예)
「전체 파라미터」와 「활성 파라미터」가 따로 적힌 모델 사양표
2한 장면으로 이해하기
MoE는 큰 병원의 접수처에 비유할 수 있습니다. 병원에는 진료과가 많지만, 환자 한 명은 증상에 맞는 한두 과에서만 진료를 받습니다. 그래서 병원 전체는 커도 환자 한 명에게 드는 수고는 적습니다. 다만 쓰지 않는 진료과도 건물 안에 늘 있어야 합니다.
전체는 크게, 한 번에 일하는 부분은 작게.
3우리 회사도 해당될까요?
이런 경우 해당됩니다
- AI 모델 소개에 MoE나 전문가 혼합이라는 말이 나와 무슨 뜻인지 궁금하다
- 모델 사양표에 전체 파라미터와 한 번에 쓰는 파라미터가 따로 적혀 있다
- 공개된 AI 모델을 내 컴퓨터에서 돌려 보려고 필요한 메모리를 가늠하고 있다
이런 경우는 걱정을 덜어도 됩니다
- AI 모델의 크기 자체가 궁금하다(‘파라미터’ 페이지를 보세요)
- 큰 모델을 작은 모델로 줄이는 방법이 궁금하다(‘증류’ 페이지를 보세요)
MoE는 모델 안쪽의 설계 방식이라, ChatGPT나 Copilot 같은 서비스를 쓰기만 할 때는 따로 신경 쓸 일이 거의 없습니다. 모델을 직접 고르거나 돌릴 때 의미가 생깁니다.
4조금 더 자세히
MoE 모델 안에는 ‘전문가’라고 부르는 작은 계산 묶음이 여러 개 있고, 길잡이 역할을 하는 부분이 들어온 글자 조각마다 어느 전문가에게 맡길지 고릅니다. 큰 병원 접수처가 환자를 증상에 맞는 진료과 두어 곳에만 보내는 것과 비슷합니다. Mistral AI의 Mixtral은 전문가 8개 중 2개를 골라 쓰고, 전체 467억 파라미터 중 한 번에 129억만 쓴다고 밝혔습니다.
주의할 점 MoE 모델의 ‘전체 파라미터 수’만 보고 성능이나 비용을 판단하기 어렵습니다. 실제로 한 번에 쓰는 양이 따로 있기 때문입니다. 또 전문가를 고르지 않는 부분까지 모두 메모리에 올려야 해서, 내 컴퓨터에서 돌릴 때 필요한 메모리는 전체 크기를 기준으로 봅니다.
5그래서 무엇을 하면 되나요?
- 1모델 소개에 MoE라고 적혀 있으면, 전체 파라미터 수와 한 번에 쓰는 파라미터 수를 함께 확인합니다.사장님
- 2MoE 모델을 고객 서버나 PC에서 돌리자고 제안할 때는, 전체 크기를 기준으로 필요한 메모리를 미리 계산해 알려 줍니다.제작사
- 3MoE 모델을 쓰는 서비스라면, 요금과 응답 속도를 모델 방식이 아니라 실제 측정값으로 안내합니다.서비스 회사
제작사에 이렇게 물어보세요
“제안해 주신 AI 모델은 MoE 방식인가요? 전체 크기와 한 번에 쓰는 크기, 그리고 돌리는 데 필요한 메모리와 비용은 어느 정도인가요?”
6자주 묻는 질문
Q. MoE 모델은 다른 모델보다 똑똑한가요?
MoE는 계산을 나눠 쓰는 설계 방식이라, 그 자체로 더 똑똑하다는 뜻은 아닙니다. 모델 전체를 크게 만들면서 한 번에 드는 계산을 줄이려는 방법입니다. 성능은 모델마다 직접 비교해 봐야 합니다.
Q. 한 번에 일부만 쓰면 메모리도 적게 드나요?
계산은 줄지만, 고르지 않는 전문가도 모두 메모리에 올려 두어야 합니다. 내 컴퓨터에서 돌릴 때는 한 번에 쓰는 크기가 아니라 전체 크기를 기준으로 메모리를 가늠합니다.
7이 풀이의 근거
- 출처
Mistral AI 발표문 「Mixtral of experts」(2023-12-11): 층마다 전문가 8개 중 2개를 고르고, 전체 467억 파라미터 중 토큰당 129억만 사용 (확인 2026-10-26)
Microsoft AI 발표문 「Two in-house models in support of our mission」(2025-08-28): MAI-1-preview는 약 15,000개의 NVIDIA H100으로 학습한 자체 MoE 모델 (확인 2026-10-26)
- 확인한 날
- 2026-10-26 · 다음 확인 2027-01-26
- 풀이
- 양진석 · 따뜻한기술 대표
이 정의를 인용하려면
“MoE는 AI 모델 안을 여러 작은 ‘전문가’로 나누고, 입력마다 그중 몇 개만 골라 일하게 하는 방식입니다. 모델 전체는 크게 만들면서도 한 번에 쓰는 계산은 줄일 수 있습니다.” — 용어집 「MoE (전문가 혼합 모델)」 (확인 2026-10-26), atatakaidigital.com/kr/glossary/moe