Použití GPU v serverech

Lákadlo ušetřit a nasadit do serveru levnější herní (consumer) grafické karty je obrovské. Při pohledu na čistý poměr cena/výkon se to může zdát jako skvělý nápad. Praxe a fyzikální zákony v racku jsou ale neúprosné. Při výběru GPU do datacentra či serverovny totiž nezáleží jen na velikosti VRAM, ale především na typu pamětí, architektuře chlazení, způsobu napájení a fyzických rozměrech.

Pokusy „narvat“ masivní herní grafiku do těsného serverového šasi většinou končí drahými omyly, přehříváním a nestabilitou. Níše jsme popsali běžné problémy, na které můžete narazit při výběru serveru pro hostování GPU.

Rychlé srovnání GPU do serverů a pracovních stanic

Vlastnost	Workstation / Server GPU	Consumer (Herní) GPU
Kapacita VRAM	Větší (často 24 GB – 80 GB)	Menší (typicky 8 GB – 24 GB)
Typ paměti	ECC (hardwarová korekce chyb)	Non-ECC
Chlazení	Blower (turbína) nebo čistě pasivní	Open-air (axiální ventilátory)
Napájení (konektor)	Směřující dozadu (podél karty)	Směřující do bočnice (vzhůru)
Fyzická velikost	1 až 2 sloty, striktní rozměry	2 až 4 sloty, masivní chladiče
Spotřeba (TDP)	Optimalizovaná, efektivní	Extrémně vysoká, agresivní špičky
Cena	Vyšší	Nižší

Fyzické parametry grafických karet

Výška PCI-E slotů

Dnešní consumer grafické karty určené pro hráče či tvůrce obsahu mívají občas netradiční rozměry - některé vyžadují 2,5 slotu, v extrémech i 4 sloty. Klíčovým faktorem je právě výška chladiče: zatímco běžná karta v serverovém prostředí počítá s jedním, maximálně dvěma sloty, dnešní běžné GPU s masivními chladiči a více ventilátory tuto hranici běžně překračují.

Rozměry karty

Dokonce i když sáhnete po profesionálních kartách, musíte být obezřetní. Krásným příkladem je server Gigabyte G292-Z20, u kterého výrobce oficiálně uvádí maximální možný rozměr GPU na 285 × 111,5 × 39,5 mm (D׊×V). Pokud byste do něj chtěli instalovat aktivně chlazenou, dvouventilátorovou kartu jako je RTX PRO 6000 Blackwell Workstation Edition (rozměry 304 × 137 × 40 mm), narazíte. Karta je delší i širší, než dovoluje šasi, a dovnitř ji zkrátka nedáte.

PCI-E risery

Dalším faktorem, který rozhoduje o tom, kolik a jaké karty do serveru nakonec dostanete, jsou PCI-E risery a způsob, jakým server rozvádí PCI-E linky. Supermicro WIO servery zde nabízejí větší flexibilitu – riser dokáže rozdělit např. x32 linek na 2× x16, nebo alternativně na x16 a 2× x8. Díky tomu lze stejný server osadit různými kombinacemi karet podle toho, co aktuálně potřebujete – ať už méně karet s plnou šířkou pásma, nebo více karet sdílejících dostupné linky. Je ale potřeba předem přesně vědět, jaký riser a jaké rozložení slotů daná konfigurace podporuje, aby karty nejen fyzicky sedly, ale i logicky fungovaly tak, jak potřebujete.

Napájení a umístění napájecích kabelů

Zdroj: https://www.servethehome.com/avert-your-eyes-from-the-server-humping-trend-in-the-data-center/

Kámen úrazu číslo dvě je napájení. Běžné grafické karty mají napájecí konektory vyvedené na horní hraně (ve stolním PC směřují k bočnici). Když takovou kartu vložíte do serveru, tlusté napájecí kabely začnou trčet nahoru a znemožní zavření horního víka. V lepších případech je potřeba modifikace horního krytu skříně nebo skříň nechat otevřenou.

U WIO serverů mohou kabely zasahovat do boční strany skříně. V závislosti na rozměrech karty se tam buď vůbec nevejdou nebo dochází k nadměrnému ohybu napájecího kabelu. Bohužel jsme viděli případy, kdy se kvůli tomu do skříně řezalo a snížily se tak její nosné parametry. Existují také speciální kabely, které jsou ohnuté o 90°, ale praktickou zkušenost s nimi nemáme.

Naproti tomu Workstation karty mají napájecí konektor chytře umístěný vzadu (na užší hraně karty, směrem do nitra serveru). Kabely tak vedou paralelně s kartou a nenarušují výšku šasi.

Napájecí zdroje

Dále je třeba myslet na samotné napájecí zdroje (PSU). Starší servery nebyly na osazení GPU vůbec dimenzované. Nemají připravené konektory a hlavně mají často tvrdá omezení maximálního možného proudu na konkrétní napájecí větvi. Consumer karty si berou ohromné špičkové odběry, které mohou serverový zdroj poslat do ochrany a shodit celý systém.

Chlazení

Zdroj: https://blog.logicalincrements.com/video-card-coolers-blower-vs-open-air-vs-aio/

Způsob, jakým karty nakládají s teplem, je pravděpodobně ten nejdůležitější důvod, proč herní modely nepatří do racku.

Consumer karty využívají tzv. Open-air chlazení. Axiální ventilátory naberou studený vzduch, profouknou ho přes žebrování a horký vzduch vyfouknou všemi směry zpět do skříně (dobře je to vidět například na tomto diagramu). Pokud takovou kartu zavřete do serveru, vytvoří kolem sebe horkou kapsu. Horký vzduch nemá kam unikat, naruší se airflow a karta začne přehřívat nejen sebe, ale i CPU a paměti kolem. Pokud máte takových karet více za sebou, ohřívají se navzájem.

Workstation a Enterprise karty používají naopak Blower (turbínové) chlazení. Vzduch je nasát jedním výkonným ventilátorem, projde uzavřeným chladičem napříč celou kartou (vezme s sebou veškeré teplo) a je vyfouknut rovnou ven ze serveru přes perforovaný I/O panel. Tento design dokonale ladí s "větrným tunelem" (front-to-back airflow), na kterém je chlazení moderních serverů postaveno.

Závěr

Snaha osadit server "obyčejnými" grafikami je cesta plná překážek. Od chybějící ECC paměti chránící stabilitu výpočtů, přes občasnou nutnost řezat do šasi kvůli trčícím napájecím kabelům, až po kritické přehřívání systému kvůli nevhodnému typu chladiče.

Než se rozhodnete pro konkrétní GPU do serveru, doporučujeme si projít následující checklist:

• Výška karty – kolik slotů karta reálně zabírá a kolik slotů potřebuje k chlazení vs kolik jich server umožňuje osadit
• Fyzické rozměry – délka, šířka i výška karty vs. maximální rozměry uvedené v dokumentaci serveru (D׊×V)
• PCI-E sloty/risery – jaké rozložení slotů daný riser podporuje a zda odpovídá počtu a typu karet, které chcete nasadit
• Umístění napájecího konektoru – zda kabeláž vede paralelně s kartou (workstation), nebo bude trčet do víka či bočnice skříně (consumer)
• Napájecí zdroj (PSU) – dostatečná kapacita a max. proud na jednotlivých větvích vzhledem ke špičkovému odběru karty
• Typ chlazení – blower/turbína vs. open-air a jeho kompatibilita s front-to-back airflow serveru

V každém případě vždy nezapomínejte pečlivě studovat dokumentaci k serveru a ověřte si všechny potřebné parametry, protože každý server je trochu jiný.