Keď ste si minulý rok kúpili notebook s „AI procesorom“ a zistili, že generovanie obrázkov trvá rovnako dlho ako na starom stroji, nie ste sami.
Marketingové oddelenia Intelu, AMD aj Qualcommu vám predali NPU ako zázrak, no realita lokálnej AI je o niečo zložitejšia. Poďme sa pozrieť na tvrdé dáta: kedy sa vám NPU oplatí a kedy je stále kráľom GPU.
Čo je vlastne NPU a prečo ho všetci cpú do čipov
NPU (Neural Processing Unit) je špecializovaný koprocesor navrhnutý na vykonávanie maticových operácií, ktoré tvoria základ neurónových sietí. Na rozdiel od GPU, ktoré musí zvládať aj vykresľovanie grafiky, NPU je úzko zameraný na inferenciu — teda beh už natrénovaných modelov.
Kľúčové parametre súčasných NPU:
- Intel AI Boost (Core Ultra): 11–34 TOPS (biliónov operácií za sekundu)
- AMD XDNA (Ryzen AI): 16–50 TOPS
- Qualcomm Hexagon (Snapdragon X): 45 TOPS
- Apple Neural Engine: 15–38 TOPS
Znie to pôsobivo, ale pozor: TOPS je marketingová veličina. Reálny výkon závisí od typu modelu, kvantizácie a pamäťovej priepustnosti. NPU s 40 TOPS zvládne plynulo bežať malý model ako Llama 3.2 3B v kvantizácii Q4, ale pri väčších modeloch narazí na strop.
GPU: stále neporazený kráľ flexibility
Grafické karty majú oproti NPU zásadnú výhodu: univerzálnosť. Moderné GPU od Nvidie (RTX 40/50 série) disponujú Tensor jadrami, ktoré zvládajú AI akceleráciu, a zároveň ich môžete použiť na hry, rendering či tréning modelov.
Reálne čísla pre lokálnu AI:
| Komponent | Výkon (INT8, dense) | VRAM | Vhodný pre |
|---|---|---|---|
| RTX 4060 | ~130 TOPS | 8 GB | Modely do 7B, Stable Diffusion |
| RTX 4070 Ti Super | ~280 TOPS | 16 GB | Modely do 13B, RAG (vyhľadávanie v dokumentoch) |
| RTX 4090 | ~660 TOPS (INT8); ~165 TFLOPS vo FP16 | 24 GB | Modely do 33B, tréning |
GPU navyše využíva CUDA ekosystém, vďaka ktorému funguje drvivá väčšina AI softvéru — od Ollamy cez LM Studio až po Automatic1111. S NPU takéto široké pokrytie nemáte.
Kedy NPU skutočne dáva zmysel
Existujú scenáre, kde NPU vyhráva na plnej čiare:
- Výdrž batérie — NPU spotrebúva zlomok energie GPU. Pri neustálej AI inferencii (napr. živé prepisy, filtrácia zvuku) predĺži výdrž notebooku o 30–50 % oproti GPU riešeniu.
- Neustále bežiace úlohy — Windows Recall, živé titulky, AI vylepšenie mikrofónu. Tieto úlohy bežia na pozadí a NPU ich zvládne bez toho, aby ste počuli ventilátory.
- Malé modely v reálnom čase — Whisper na prepis reči, malé LLM na sumarizáciu e-mailov. Tu NPU podáva plynulý výkon bez zahrievania.
Pasca, na ktorú nikto neupozorňuje
Tu je problém, ktorý výrobcovia zamlčujú: väčšina NPU v súčasných procesoroch je pomalšia ako integrovaná grafika. Príklad: Intel Core Ultra 7 155H má NPU s 11 TOPS, ale jeho iGPU (Arc) zvládne AI úlohy rovnako rýchlo — a často rýchlejšie. NPU je tu len na to, aby šetril energiu, nie aby priniesol výkonnostný skok.
Druhá pasca: softvérová podpora. Kým Nvidia má CUDA a desaťročie optimalizácií, NPU od Intelu a AMD používa OpenVINO a ONNX Runtime. Mnoho AI aplikácií tieto frameworky (rámce) nepodporuje, takže vaše NPU bude nečinne sedieť.
Čo si teda reálne vybrať
Pre bežného používateľa
Ak chcete lokálnu AI na notebooku na občasné generovanie textu či obrázkov, kľúčová je pamäť RAM (aspoň 16 GB) a dobrá iGPU. NPU je príjemný bonus, nie rozhodujúci faktor. Pri kúpe sa zamerajte na procesory s výkonom NPU nad 30 TOPS, inak ho ani nevyužijete.
Pre nadšenca a vývojára
GPU je nevyhnutnosť. RTX 4060 s 8 GB VRAM je minimálny rozumný vstup do lokálnej AI. Ak chcete pracovať s modelmi nad 13B parametrov, siahnite po 16 GB VRAM — to je ideálny bod medzi cenou a možnosťami.
Pre firemné nasadenie
NPU v notebookoch dáva zmysel pre spracovanie citlivých dát na zariadení bez cloudovej komunikácie. Typické využitie: sumarizácia lekárskej dokumentácie, analýza zmlúv, prepisy porád. Tu víťazí energetická efektivita a súkromie.
Záver: technický verdikt
NPU nie je náhrada GPU, ale doplnok. Ak si kupujete zariadenie primárne na lokálnu AI, rozhoduje VRAM a výpočtový výkon GPU. NPU oceníte až pri každodennom používaní, kde šetrí batériu a ticho beží na pozadí. Kúpa notebooku „kvôli NPU“ je v roku 2026 stále predčasná — kúpa notebooku s NPU ako bonusom k dobrej GPU je rozumná.
Konkrétne odporúčanie: Na lokálnu AI s modelmi do 8B parametrov stačí RTX 4060 (od ~380 €). Na serióznu prácu s modelmi do 33B potrebujete RTX 4090 (od ~1800 €) alebo cloudové riešenie. NPU v procesore berte ako poistku do budúcnosti, nie ako hlavný ťahúň.
