Každý deň žiadame AI o preklad či kód. Odpoveď pôsobí ľudsky, no za ňou nie je mágia. Je to reťaz: text sa rozseká na tokeny, premení na vektory, model cez ne presvieti pozornosťou a GPU vyberie ďalšie slovo.
Čo je Transformer a prečo zmenil AI v 2017
V roku 2017 tím Google Brain publikoval prácu "Attention Is All You Need". Transformer nahradil pomalé čítanie slovo po slove paralelným spracovaním celého textu. arxiv.org
To umožnilo vznik ChatGPT, Claude a Gemini. Modely už nestrácajú kontext v dlhých vetách, lebo vidia všetko naraz.
Self-Attention v praxi
Pri vete "Zvieratko neprešlo cez ulicu, pretože bolo unavené" model vytvorí váhy. Slovo "bolo" sa silno prepojí so "zvieratko", nie s "ulicou". Je to ako reflektory, ktoré sa rozsvietia na správne slová.
Tokenizácia: Prečo je slovenčina drahšia
AI nečíta písmená. Používa tokenizáciu BPE. Veta "Učím sa modelovať" sa rozpadne na 7 tokenov. Anglické "I am learning" potrebuje len 4 až 5.
Platíme za tokeny, nie za slová. Preto je slovenčina systémovo drahšia.
Skrytá daň za tokeny
Výskumy ukazujú, že angličtina potrebuje 1,2 tokenu na slovo, ukrajinčina 2,7. Rovnaký dopyt stojí viac než dvojnásobok. Pri niektorých jazykoch je rozdiel až 15-násobný. arxiv.org
Dôsledok: vyšší účet, menší kontext, pomalšia odozva.
Embeddingy: Ako AI premýšľa v geometrii
Po tokenizácii sa čísla premenia na embeddingy. Každé slovo je bod vo vysokorozmernom priestore. Blízke významy svietia blízko seba.
Preto funguje "kráľ - muž + žena = kráľovná". Na tomto princípe stojí aj RAG, keď AI vyhľadáva vo vašich PDF.
Tréning vs. inferencia: Kde vznikajú náklady
Tréning učí model predpovedať ďalšie slovo na miliardách viet. Trvá týždne a stojí milióny. Inferencia je generovanie odpovede pre vás.
Dnes sa šetrí kvantizáciou na FP8 a INT8 a destiláciou menších modelov. Tie bežia lokálne.
AI hardvér: GPU, TPU a Tensor Cores
Bežný CPU nestačí. AI potrebuje paralelné násobenie matíc. Preto dominujú GPU s Tensor Cores.
NVIDIA H100 a energetická efektivita
NVIDIA H100 prináša štvrtú generáciu Tensor Cores s podporou FP8 a až 30-násobný nárast inferenčného výkonu oproti A100. nvidia.com
Google TPU v5e dosahuje 10,66 tokenov na joule, čo je o 78 percent efektívnejšie než H100 v testoch LLM. link.springer.com
Lokálna AI a NPU v notebookoch 2026
Budúcnosť je lokálna. Firmy nechcú posielať dáta do cloudu. Riešením je NPU priamo v procesore.
Intel Core Ultra a AMD Ryzen AI
Intel Core Ultra integrované NPU dosahuje 40 až 47 TOPS pre lokálne úlohy ako Live Captions. pcworld.com
AMD Ryzen AI 9 HX 370 ponúka až 50 TOPS výkonu NPU pri nízkej spotrebe. amd.com
V roku 2026 je optimalizovaných už viac než 500 modelov pre tieto čipy.
3 praktické tipy pre používateľa
- Píšte prompty v angličtine pre zložité úlohy. Ušetríte 2 až 3-násobok tokenov.
- Dodajte kontext. Namiesto "napíš email" použite cieľ, tón a limit slov.
- Pri nákupe hľadajte NPU nad 40 TOPS. Pre firmy zvážte lokálny model 7B až 13B.