AI PC s 2x RTX 3080

AI training server s 2X NVIDIA RTX 3080

Stavbou výpočetních serverů pro výpočty neuronových sítí v průmyslu se zabýváme již od roku 2018. V roce 2021 jsme sestavili první Training server, který je postaven na dvou grafických kartách NVIDIA RTX 3080. Tento PC byl vyvinut pro našeho významného partnera, českou společnost Smart View s.r.o., která se specializuje na oblast strojového vidění a automatizace. Smart View je oficiálním partnerem společnosti COGNEX a Ricoh Machin Vision a také tuzemským výrobcem osvětlení strojového vidění.

Našim zadáním bylo postavit velmi výkonný výpočetní server pro výpočty neuronových sítí a AI. Hlavní požadavky ze strany zákazníka byly dodat server se dvěma grafickými kartami NVIDIA RTX 3080 spolu s grabovací kartou COGNEX a PoE IEEE 802.3af kartou iEi do 4U RACKového šasi. Z počátku tento úkol mohl znít jednoduše, ale při návrhu se vyskytlo několik komplikací, které jsme museli vyřešit. Původně požadované umístění do RACKového šasi jsme museli změnit na šasi herní, konkrétně Fractal Desingn Define, abychom získali dostatek prostoru pro montáž všech karet a také abychom měli prostor pro vyřešení chlazení všech zařízení. Základní desku jsme zvolili tak, aby splňovala požadavky na dostatek PCIe slotů a spolu s procesorem Intel® Core™ i7-9800X měla dostatek PCIe linek pro chod všech karet.

Grafické karty jsme vybírali hlavně s ohledem na jejich velikost, abychom mohli PC osadit i dalšími přídavnými kartami. Zvolili jsme tedy ty nejmenší ventilované RTX 3080 na trhu, a to EVGA GeForce RTX 3080 XC3 Ultra Gaming. Tyto karty nabízí dostatečný výkon při oveclocku a při zapojení dvou karet vedle sebe je k dispozici prostor pro jejich uchlazení.

Ostatně i chlazení nám dalo trochu zabrat – sestava je chlazena okolním vzduchem, který je do šasi nasáván třemi výkonnými 120 mm ventilátory přes přední ventilační otvor. Pro lepší přístup chladného vzduchu ke grafickým kartám jsme navíc instalovali jeden výkonný 120mm ventilátor tak, aby optimálně ventiloval prostor mezi grafickými kartami. Odvod vzduchu ze sestavy zajišťují tři 140mm ventilátory, které horký vzduch odvádí dostatečně.

O napájení celé sestavy se stará zdroj s výkonem 1200 W, efektivitou 92 % a platinovou certifikací s extrémním +12 V single rail designem. Při návrhu vhodného zdroje jsme si vypočetli, že by sestava měla trvale odebírat kolem 850 W . Nebyli jsme daleko od pravdy – při plném zatížení se trvalá spotřeba pohybovala kolem 870 W, ale překvapením byly výkyvy, kde jsme se dostali skoro až na limit zdroje a to 1190 W! Dlouhodobým testováním a zahořovacím procesem jsme se přesvědčili, že zdroj je navržen dostatečně.

Výsledkem naší práce je tak stroj, určen pro trvalý chod CPU na 100% zatížení společně s plným zatížením obou grafických karet, a to včetně overclocku z nominální frekvence 1440 MHz na stabilních 1700 MHz při stále okolní teplotě 25 °C.

Pevně věříme, že tento stroj bude svému hlavnímu účelu sloužit dlouhodobě. Také věříme, že bude koncový zákazník velmi spokojen s jeho extrémním výkonem pro výpočty neuronových sítí a jejich zpracovávání.

Další podobné typy těchto PC se u nás již pomalu připravují. Pokud byste měli zájem o dodávku podobných výpočetních strojů, neváhejte se na nás obrátit.