NPU (AI 계산에 특화된 칩)
영어 NPU (neural processing unit) · 일본어 NPU（AI計算に特化したチップ） · 읽는 법 엔피유
NPU는 AI 계산만 전담하도록 만든 컴퓨터나 스마트폰 속 칩입니다. 같은 AI 작업을 CPU나 GPU보다 적은 전기로 처리해, 인터넷 없이 기기 안에서 AI를 돌리는 바탕이 됩니다.
HowtoAI 글에서는 Copilot+ PC의 조건(40 TOPS 이상의 NPU)을 설명할 때, 그리고 컴퓨터를 바꿀 때 NPU 숫자보다 쓰는 소프트웨어가 대응하는지를 보라고 할 때 나왔습니다.
확인 2026-10-28출처 Microsoft Learn 「Copilot+ PC 개발자 가이드」
1이 말, 이런 곳에서 만납니다
처음 보는 말이 낯선 것은 당연합니다. 대개 이런 자리에서 마주칩니다.
노트북 사양표나 상품 설명
「Copilot+ PC」 표기와 NPU 성능(TOPS) 숫자
Windows 작업 관리자의 성능 탭
CPU·GPU 옆에 나란히 보이는 ‘NPU’ 항목과 사용률
제작사의 설명 (예)
“NPU가 없어도 Ollama 같은 로컬 AI 도구는 돌아갑니다.”
2한 장면으로 이해하기
NPU는 식당 주방에 둔 전기밥솥과 같습니다. 주방장(CPU)은 무엇이든 만들 수 있지만, 밥 짓기처럼 늘 되풀이되는 일은 밥솥에 맡기면 전기도 덜 들고 주방장은 다른 요리에 손을 쓸 수 있습니다. 다만 밥솥은 밥만 짓습니다.
AI 계산만 맡는 전담 칩이지, 컴퓨터를 통째로 빠르게 하는 칩은 아닙니다.
3우리 회사도 해당될까요?
이런 경우 해당됩니다
- 최근 산 노트북이나 스마트폰에 「Copilot+ PC」나 「AI PC」 표기가 있다
- 인터넷 없이 컴퓨터 안에서 AI를 돌리고 싶다
- 배터리로 오래 쓰는 노트북에서 AI 기능을 자주 쓴다
이런 경우는 걱정을 덜어도 됩니다
- AI는 ChatGPT처럼 인터넷 서비스로만 쓴다(그 계산은 서비스 회사의 서버에서 합니다)
NPU가 없어도 CPU나 GPU로 AI를 돌릴 수 있습니다. 더 느리거나 전기를 더 쓸 뿐입니다.
4조금 더 자세히
컴퓨터에는 여러 일을 두루 하는 CPU, 그림과 영상을 맡는 GPU가 있고, NPU는 AI 계산만 맡는 세 번째 칩입니다. AI 모델이 되풀이하는 큰 곱셈과 덧셈을 한 번에 많이 처리하도록 만들어져, 같은 일을 CPU나 GPU보다 적은 전기로 끝냅니다. 모든 요리를 하는 주방장 옆에 밥만 짓는 전기밥솥을 둔 셈입니다. Microsoft는 초당 40조 번 이상(40 TOPS) 계산하는 NPU를 단 Windows 11 컴퓨터를 Copilot+ PC라고 부릅니다.
주의할 점 NPU가 있다고 모든 AI가 빨라지는 것은 아닙니다. 프로그램이 NPU를 쓰도록 따로 만들어져 있어야 하고, 그런 앱은 아직 많지 않습니다. Ollama 같은 로컬 AI 도구는 NPU 없이도 돌아가므로, 컴퓨터를 살 때는 NPU 숫자보다 쓰려는 소프트웨어의 대응 여부와 메모리 용량을 먼저 봅니다. Windows 컴퓨터에 NPU가 있는지는 작업 관리자의 성능 탭에서 볼 수 있습니다.
5그래서 무엇을 하면 되나요?
- 1컴퓨터를 새로 살 계획이 있다면, 쓰려는 AI 기능이 NPU를 꼭 필요로 하는지 그 기능의 안내 페이지에서 먼저 확인합니다.사장님
- 2지금 쓰는 Windows 컴퓨터에 NPU가 있는지 작업 관리자의 성능 탭에서 확인합니다.사장님
- 3직원용 컴퓨터를 고를 때 NPU 숫자보다 메모리 용량과 쓰는 소프트웨어의 대응 여부를 기준으로 삼습니다.사장님 + 제작사
제작사에 이렇게 물어보세요
“우리가 쓰려는 AI 기능 가운데 NPU가 꼭 필요한 것이 있나요? 지금 있는 컴퓨터로도 되는지 알려 주세요.”
6자주 묻는 질문
Q. NPU가 없으면 AI를 못 쓰나요?
아닙니다. ChatGPT 같은 인터넷 서비스는 계산을 서비스 회사의 서버에서 하므로 내 컴퓨터의 NPU와 상관없고, 로컬 AI 도구도 CPU나 GPU로 돌아갑니다. NPU는 같은 일을 더 적은 전기로 할 뿐입니다.
Q. TOPS는 무엇인가요?
초당 몇 조 번 계산하는지를 나타내는 숫자입니다. Microsoft는 40 TOPS 이상의 NPU를 Copilot+ PC의 조건으로 삼지만, 숫자가 커도 그 NPU를 쓰는 프로그램이 없으면 체감하기 어렵습니다.
7이 풀이의 근거
- 출처
Microsoft Learn 「Copilot+ PC 개발자 가이드」 (확인 2026-10-28)
Microsoft 지원 「NPU(신경망 처리 장치)에 대한 모든 정보」 (확인 2026-10-28)
삼성반도체 용어 사전 「NPU (Neural Processing Units)」 (확인 2026-10-28)
- 확인한 날
- 2026-10-28 · 다음 확인 2027-01-26
- 풀이
- 양진석 · 따뜻한기술 대표
이 정의를 인용하려면
“NPU는 AI 계산만 전담하도록 만든 컴퓨터나 스마트폰 속 칩입니다. 같은 AI 작업을 CPU나 GPU보다 적은 전기로 처리해, 인터넷 없이 기기 안에서 AI를 돌리는 바탕이 됩니다.” — 용어집 「NPU (AI 계산에 특화된 칩)」 (확인 2026-10-28), atatakaidigital.com/kr/glossary/npu