Predstavte si, že spúšťate lokálny jazykový model s 13 miliardami parametrov a čakáte na odpoveď.
Na výkonnom hernom PC s dedikovanou grafikou to trvá niekoľko sekúnd. Na MacBooku Air, ktorý nemá ani ventilátor, vám odpoveď naskočí porovnateľne rýchlo — pri zlomku spotreby. Nie je to kúzlo, ale dômyselná hardvérová architektúra, ktorá práve teraz mení pravidlá hry pre každého, kto pracuje s umelou inteligenciou mimo cloudu.
Prečo je zjednotená pamäť prevratná
Kľúč k dominancii Apple Silicon v lokálnej AI nespočíva v surovom výkone GPU, ale v zjednotenej pamäti. Zatiaľ čo klasické PC architektúry oddeľujú pamäť pre procesor a grafickú kartu, čipy M-series zdieľajú jednu obrovskú pamäťovú banku. Pre modely AI to znamená jednoduchú rovnicu: veľkosť modelu je priamo obmedzená kapacitou RAM.
- MacBook Pro M3 Max s 128 GB RAM dokáže načítať modely ako Llama 3 70B v kvantizácii 4-bit, čo je pre bežné PC s 24 GB VRAM nedosiahnuteľné.
- Prenosová rýchlosť: Zjednotená pamäť v M2 Ultra dosahuje priepustnosť 800 GB/s. To je kľúčové, pretože inferencia (výpočet odpovede) je pamäťovo viazaná operácia. CPU čaká na dáta, nie naopak.
- Energetická efektivita: Model so 7 miliardami parametrov beží na M2 MacBooku Air s odberom okolo 15 W. Porovnateľný výkon na PC GPU znamená odber 200 – 350 W. Pri dlhodobej práci to nie je len o účte za elektrinu, ale o teplote a hluku.
Softvérový ekosystém: Metal a MLX
Hardvér by bol ničím bez softvéru. Apple tu urobil dva ťahy, ktoré menia praktickú použiteľnosť. Prvým je framework (rámec) MLX (rámec na prácu s poľami, ktorý Apple postavil pre svoje čipy), ktorý je postavený priamo na Metal API a je optimalizovaný pre zjednotenú pamäť. V praxi to znamená, že modely bežiace cez MLX dosahujú o 10 – 20 % vyššiu rýchlosť ako tie isté modely spustené cez univerzálne nástroje ako llama.cpp.
Druhým je podpora GPU akcelerácie v PyTorch cez Metal Performance Shaders. Ak používate nástroje ako Ollama alebo LM Studio, stačí prepnúť backend a okamžite využijete plný potenciál čipu. Nečakajte žiadne komplikované nastavovanie ovládačov — systém rozpozná GPU automaticky.
Reálne čísla z praxe
Aby sme neostali len pri teórii, pozrime sa na konkrétne merania, ktoré kolujú komunitou vývojárov:
| Model | Hardvér | Rýchlosť generovania |
|---|---|---|
| Llama 3 8B (Q4) | M3 Pro (18 GB RAM) | 20 – 25 tokenov/s |
| Llama 3 8B (Q4) | RTX 4060 Laptop | 45 tokenov/s |
| Mistral 7B (Q4) | M2 Air (16 GB RAM) | 15 – 18 tokenov/s |
| Mistral 7B (Q4) | RTX 3080 Desktop | 60 tokenov/s |
Zaujímavosťou je, že MacBook Air s pasívnym chladením udrží túto rýchlosť aj po 30 minútach záťaže, zatiaľ čo herné notebooky začnú po piatich minútach tlmiť výkon kvôli prehrievaniu.
Pasca, na ktorú treba myslieť
Nie všetko je ružové. Základné modely s 8 GB RAM sú pre lokálnu AI nepoužiteľné. Modely ako Llama 3 8B potrebujú minimálne 6 GB voľnej pamäte len pre váhy, a ak chcete rozumný kontext (okno vstupného textu), potrebujete aspoň 16 GB. Apple si je toho vedomý a práve preto zdražuje konfigurácie s vyššou RAM. Ak uvažujete o kúpe Macu primárne pre AI, 16 GB je absolútne minimum, 32 GB je ideálny bod pre prácu s modelmi do 13B parametrov.
Druhou nástrahou je nedostatočná podpora pre trénovanie. Zatiaľ čo inferencia (spúšťanie hotových modelov) je na Apple Silicon výborná, trénovanie vlastných modelov je stále doménou NVIDIA GPU. Ak je vaším cieľom fine-tuning (doladenie) modelov, Mac vás bude frustrovať. Pre lokálne spúšťanie a prototypovanie je však bezkonkurenčný.
Čo si vybrať v roku 2026
Pre väčšinu používateľov, ktorí chcú lokálnu AI na prácu s dokumentmi, sumarizáciu alebo programovanie, je jasná voľba MacBook Pro M3 Pro s 36 GB RAM. Ponúka dostatok pamäte pre modely do 13B parametrov, výbornú prenosovú rýchlosť a výdrž batérie, ktorá pri bežnej práci presahuje 15 hodín.
Ak potrebujete pracovať s najväčšími open-source modelmi (70B parametrov), nevyhnete sa Mac Studio s M2 Ultra a 128 GB RAM. Je to investícia cez 4 500 €, ale v segmente lokálnej AI nemá v tomto pomere výkon/cena konkurenciu. Ekvivalentný server v cloude vás mesačne vyjde na podobnú sumu.
Technický záver: komu sa Mac na AI oplatí
Apple Silicon nevyhráva vďaka vyššiemu výkonu, ale vďaka efektívnejšej architektúre pre špecifickú záťaž. Zjednotená pamäť a Metal API riešia presne ten problém, ktorý trápi každého, kto skúšal spustiť model na bežnom PC — nedostatok VRAM a zložitú konfiguráciu. Pre prácu s lokálnymi modelmi je to dnes najdostupnejšia platforma, pokiaľ viete, že vašou úlohou je inferencia, nie trénovanie. Vyberte si konfiguráciu s dostatkom RAM a získate nástroj, ktorý cloudové riešenia nielen dobehne, ale vo výslednej cene za tri roky používania aj predbehne.
