Jaký server pro AI zvolit? Tři úrovně investic a skutečné náklady

Ještě před dvěma lety znamenala „vlastní AI“ pro většinu firem jediné: předplatné ChatGPT nebo Copilota. Dnes se stále více organizací dostává do bodu, kdy cloud přestává stačit. Důvody bývají obvykle tři: náklady, které rostou s počtem dotazů, data, jež nesmějí opustit firmu, a potřeba, aby AI pracovala s vlastními dokumenty, databázemi a procesy, nikoli s obecnými znalostmi z internetu.

V této chvíli vyvstává otázka: jaký server pro AI vlastně koupit a kolik stojí?

Odpověď je zajímavější, než by se mohlo zdát, protože cenové rozpětí je obrovské. Od zařízení velikosti knihy za něco přes dvacet tisíc zlotých až po stroj za více než dva miliony. A co je důležité: každé z těchto řešení dává smysl, jen pro někoho jiného. Níže popisuji tři úrovně investice, výpočet, který se vyplatí udělat před rozhodnutím, a pět otázek, jež pomohou vybrat hardware bez zbytečně předimenzovaného i nedostatečného nákupu.

Čím se server pro AI liší od běžného serveru

Běžný server je postaven kolem procesoru. Server pro AI je postaven kolem GPU – právě ty provádějí veškerou práci s modely a zbytek hardwaru slouží k jejich podpoře. Z toho vyplývají tři praktické rozdíly.

• GPU a jejich paměť. V takovém stroji pracují čtyři až osm akcelerátorů – v rackových serverech nejčastěji ve formě karet PCIe, v nejvýkonnějších platformách jako moduly připájené na společné desce. Jejich celková paměť je nejdůležitějším parametrem celého nákupu – více o tom za chvíli.
• Napájení. Osm karet při zátěži odebírá 5–6 kW, tedy tolik jako několik desítek kancelářských počítačů. To vyžaduje odpovídající napájení racku a účinný odvod tepla ze serverovny.
• Síť. Pro jeden stroj stačí standardní rychlá síť. Při propojení několika serverů do jednoho systému jsou potřeba výrazně rychlejší spoje, protože GPU v různých šasi si musí vyměňovat data s latencí srovnatelnou s provozem v jednom šasi.

Nejde tedy jen o „výkonnější server“. Je to jiná kategorie hardwaru, která se vybírá podle jiných kritérií.

Paměť GPU: jedno číslo, které uspořádá celý výběr

Existuje jeden parametr důležitější než cena: kolik paměti mají GPU v serveru dohromady.

Proč? Model se musí do této paměti vejít celý, podobně jako soubor, který je nutné načíst do programu, aby s ním bylo možné pracovat. Pokud se nevejde, jednoduše se nespustí.

Samotný model je však teprve začátkem výpočtu. Každý přihlášený uživatel a každý analyzovaný dokument zabírá další paměť pro probíhající konverzaci. Stejný model pro sto lidí proto potřebuje znatelně více prostoru než pro jednoho – a právě počet uživatelů, nikoli samotná velikost modelu, nejčastěji rozhoduje o potřebné úrovni hardwaru.

Základním nárokům modelů na paměť se věnuje průvodce Jaký počítač pro AI vybrat. Níže uvedená tabulka ukazuje druhou osu tohoto výpočtu, tedy jak se nároky mění se škálou nasazení. Hodnoty jsou orientační a týkají se typické produkční konfigurace.

Velikost modelu	5 uživatelů	50 uživatelů	200 uživatelů	Úroveň hardwaru
malý (třída 8B)	přibližně 8 GB	přibližně 20 GB	přibližně 50 GB	DGX Spark
střední (třída 70B)	přibližně 45 GB	přibližně 70 GB	přibližně 130 GB	rackový server, 1–2 karty
velký (třída 200B+)	přibližně 130 GB	přibližně 200 GB	přibližně 350 GB	server s osmi kartami
trénování vlastního modelu	několikanásobně více než samotné spuštění	–	–	platforma HGX B200

Označení jako 8B nebo 70B udávají, z kolika miliard parametrů se model skládá – 8B znamená osm miliard. Čím více parametrů, tím vyšší kvalita odpovědí a tím více paměti GPU model zabírá.

Ještě jedna věc, na kterou lze snadno zapomenout.

Rezerva. Výše uvedená čísla odpovídají běžnému provozu. Pro špičkové zatížení je vhodné připočítat rezervu 20–30 %, jinak systém při vyšším provozu začne odmítat dotazy.

Úroveň 1: NVIDIA DGX Spark, tedy výchozí bod

NVIDIA DGX Spark je stolní zařízení velikosti knihy s 128 GB unifikované paměti a výpočetním výkonem přibližně 1 petaFLOPů pro úlohy AI. Umožňuje lokálně provozovat modely ve třídě těch, které pohánějí populární asistenty, aniž by bylo nutné odeslat jediný dokument do cloudu. K dispozici je několik variant, které se liší především kapacitou disku (1, 2 nebo 4 TB) a balíčkem podpory. Kompletní nabídku hardwaru této třídy, včetně modelů od osmi výrobců, najdete v kategorii počítače pro AI.

Pro koho? Pro firmu, která si chce nejprve ověřit, zda AI zefektivní zákaznickou podporu, analýzu smluv nebo přípravu nabídek, než kdokoli schválí velký rozpočet. Investice se pohybuje kolem 133 555,93 Kč bez DPH, tedy méně než roční předplatné nástrojů AI pro tým o zhruba patnácti lidech. Dvě zařízení lze propojit do jednoho systému.

Omezení. Jde o hardware pro jeden tým, nikoli pro celou organizaci. Nelze jej namontovat do racku, nemá redundantní napájení a nelze jej zahrnout do servisní politiky platné v serverovně. Pokud má AI současně používat sto lidí, je nutné přejít na vyšší úroveň.

Úroveň 2: rackový GPU server, tedy produkční AI pro firmu

Podle mého názoru jde o úroveň, která je dnes nejčastěji přehlížena, přitom pro firmu s reálným využitím AI představuje nejrozumnější volbu.

Jde o specializovanou rackovou GPU platformu (5U), navrženou pro osm karet dvojnásobné šířky. Není vázána na jediný model akcelerátoru – volba karet závisí na způsobu použití. Základem jsou dva procesory AMD EPYC, až 6 TB paměti DDR5 v 24 slotech a šest redundantně pracujících napájecích zdrojů 2700 W.

Klíčový je počet karet, protože určuje kapacitu paměti GPU. Dvě karty RTX PRO 6000 s 96 GB každá poskytují 192 GB a obslouží interního asistenta pro několik desítek lidí. Plná konfigurace s osmi kartami znamená 768 GB, tedy několik set uživatelů nebo velmi velké modely. Další karty lze přidat do stejného šasi bez výměny serveru – a to je největší výhoda této úrovně: není nutné začínat s plnou konfigurací.

Konkrétní model: Supermicro AS-5126GS-TNRT Gold Series

Prodává se jako kompletní nakonfigurovaný systém. Orientační investice do základní konfigurace se dvěma kartami: přibližně 2 782 415,14 Kč bez DPH. Přesnou konfiguraci a aktuální cenu najdete na produktové kartě.

Co to přináší v praxi? Takový server lokálně spustí velké jazykové modely, zvládne analýzu firemního archivu dokumentů, automatizaci zákaznické podpory, generování obsahu v mnoha jazycích i analýzu snímků z výrobní linky. Karty RTX PRO jsou navíc univerzální – stejný server lze využít pro rendering, inženýrské simulace nebo virtualizaci pracovních stanic. To je argument, který často rozhodne: hardware nezůstává mezi projekty AI nevyužitý.

Pro koho? V základní konfiguraci pro firmy o několika desítkách zaměstnanců, které už mají za sebou testovací fázi a chtějí týmům zpřístupnit interního asistenta se znalostí firemních postupů. V plné konfiguraci pro velké organizace, stovky souběžných uživatelů a regulovaná odvětví, jako jsou finance, zdravotnictví nebo veřejný sektor, kde data musí zůstat v budově.

Na co nezapomenout. Spotřeba energie roste s počtem karet: od přibližně 2 kW při dvou kartách až po 5–6 kW při osmi. Rack musí tento výkon napájet a chlazení musí odvést vzniklé teplo. Pokud plánujete rozšíření, kapacitu napájení a klimatizace spočítejte rovnou pro cílovou, nikoli výchozí konfiguraci.

Úroveň 3: NVIDIA HGX B200, tedy infrastruktura pro trénování modelů

Na samotném vrcholu je hardware, o kterém se píše ve zprávách o technologickém závodu mezi největšími světovými společnostmi. Server s platformou NVIDIA HGX B200 nabízí osm čipů Blackwell, aktuálně nejvýkonnějších AI akcelerátorů na trhu, s celkovou pamětí 1,44 TB HBM3e – nejrychlejší, kterou lze dnes koupit.

Systém zabírá v racku 10U a má osm síťových rozhraní 400 Gb/s, protože je navržen pro spojování do clusteru s dalšími stejnými servery. Napájení zajišťuje šest zdrojů o výkonu přibližně 5 kW, které pracují redundantně v konfiguraci 3+3 – skutečná spotřeba systému při zátěži se pohybuje kolem 10 kW, zbytek představuje rezervu a ochranu pro případ výpadku. Součástí je procesor BlueField-3, který odlehčuje hlavnímu systému od síťových a bezpečnostních úloh, a tříletá podpora se servisním zásahem na místě následující pracovní den.

Konkrétní model: Supermicro AS-A126GS-TNBR

Určený pro vědecké výpočty, AI, průmyslovou automatizaci a analýzu dat. Orientační investice: přibližně 11 129 660,55 Kč bez DPH za jeden server, aktuální cena je uvedena na produktové kartě.

Rozdíl oproti GPU serveru druhé úrovně nespočívá v tom, že B200 „dělá totéž, jen rychleji“. Umožňuje úlohy, které by druhý server nezvládl v přiměřeném čase: trénování vlastních modelů od základu, dolaďování modelů se stovkami miliard parametrů, obsluhu stovek uživatelů současně, vědecký výzkum i simulace v průmyslovém měřítku.

Pro koho? Pro firmy, které vytvářejí produkty založené na AI a místo hotových modelů vyvíjejí vlastní. Pro výzkumné instituce a univerzity. Pro telekomunikační operátory, banky, velké průmyslové skupiny a farmaceutické společnosti.

V praxi se takový systém kupuje jen zřídka jako samostatný kus. Je třeba počítat také se síťovou infrastrukturou, napájením a chlazením serverovny – při 10 kW na šasi obvykle přichází v úvahu kapalinové chlazení. Nejde jen o nákup hardwaru, ale o strategické rozhodnutí.

Jak vybrat server pro AI? Pět otázek, které si stojí za to položit

Víte už, co má AI ve vaší firmě dělat?

Pokud ne, zvolte první úroveň. Za cenu jednoho prémiového notebooku získáte prostředí, ve kterém během dvou týdnů ověříte několik nápadů a rozhodnete se na základě faktů, ne prezentací.

Kolik lidí jej bude používat a jak často?

Pokud odpověď zní „celá firma, každý den“, stolní zařízení nebude stačit a vhodnou volbou bude GPU server do racku. Vyplatí se spočítat, kolik nyní vydáváte za cloudová API a předplatné. Ve velkém měřítku je vlastní hardware levnější v horizontu dvou až tří let. Kdy se taková investice začne vracet, ukazuje článek o lokálním LLM ve firmě.

Vytváříte vlastní modely, nebo využíváte hotové?

Využívání hotových, i velmi velkých modelů spadá do druhé úrovně. Vývoj vlastních modelů už vyžaduje B200. Hranice je zde zřetelná a jen zřídka vyvolává pochybnosti o tom, na které straně se firma nachází.

Jak velký model potřebujete spustit a pro kolik lidí?

Vraťte se k tabulce paměti. Pokud vybraný model zabírá 60 GB a má jej současně používat padesát lidí, jedna karta s pamětí 96 GB je naprosté minimum, zatímco dvě zajistí komfort a prostor pro růst.

Co zvládne vaše serverovna?

Nejčastější překvapení v projektech AI se netýká hardwaru, ale budovy: kolik energie lze přivést, zda klimatizace zvládne odvést dodatečné teplo a zda je v racku dostatek místa. Je lepší to ověřit před objednáním než po dodání.

Co dalšího tvoří rozpočet na implementaci

Cena serveru obvykle představuje 70–85 % rozpočtu projektu. Ostatní položky se vyplatí zahrnout už ve fázi plánování.

• Napájení a rack – PDU s odpovídajícím výkonem, rozdělení fází, záložní napájení a u některých instalací také nová přípojka.
• Chlazení – do přibližně 5–6 kW na rack obvykle postačuje přesná klimatizace. Nad 10 kW se používá kapalinové chlazení, což vyžaduje úpravu prostoru a samostatný servisní postup. Pokud na to serverovna nebyla navržena, vyplatí se tyto náklady zahrnout už do cenové nabídky.
• Paměť RAM – konfigurace pro AI začínají na několika stech gigabajtech a ceny serverových modulů v roce 2026 výrazně vzrostly. Rozdíl mezi 512 GB a 1 TB může představovat významnou položku v rozpočtu.
• Síť – přepínač s odpovídající propustností, transceivery a kabeláž. U clusterových konfigurací se přidává samostatná síť pro GPU.
• Úložiště – modely a dokumentové datasety zabírají terabajty a propustnost čtení by měla odpovídat výkonu karet.
• Implementace – instalace softwaru, spuštění modelu, integrace s firemním přihlašováním a systémy, které používáte.
• Podpora a záruka – pro produkční prostředí je standardem on-site servis následující pracovní den.

Kde začít

Nejčastější chybou při takovém nákupu je začít katalogem. Funkční postup je opačný: nejdříve jedno konkrétní použití, potom počet uživatelů, následně srovnání se současnými náklady na cloud a teprve nakonec konfigurace.

Pokud ještě přesně nevíte, k čemu má AI sloužit, první úroveň postačí na několik měsíců testování a stojí tolik co jeden notebook. Máte-li testování za sebou a asistent má pracovat pro celou firmu, druhá úroveň je v současnosti nejrozumnější volbou pro většinu organizací. Třetí úroveň se volí při vývoji vlastních modelů – a v takovém případě obvykle není o rozhodnutí pochyb.

Pokud konfigurace vyžaduje přizpůsobení vaší serverovně – počtu karet, paměti, sítě nebo chlazení – náš tým připraví návrh pro konkrétní použití.

FAQ