AI training server s 2X NVIDIA RTX 3080
Stavbou výpočtových serverov pre výpočty neurónových sietí v priemysle sa zaoberáme už od roku 2018. V roku 2021 sme zostavili prvý Training server, ktorý je postavený na dvoch grafických kartách NVIDIA RTX 3080. Tento PC bol vyvinutý pre nášho významného partnera, českú spoločnosť Smart View s.r.o. , ktorá sa špecializuje na oblasť strojového videnia a automatizácie. Smart View je oficiálnym partnerom spoločnosti COGNEX a Ricoh Machin Vision a taktiež tuzemským výrobcom osvetlenia strojového videnia.
Našim zadaním bolo postaviť veľmi výkonný výpočtový server pre výpočty neurónových sietí a AI. Hlavné požiadavky zo strany zákazníka boli dodať server s dvoma grafickými kartami NVIDIA RTX 3080 spolu s grabačnou kartou COGNEX a PoE IEEE 802.3af kartou iEi do 4U RACKového šasi. Zo začiatku túto úlohu mohla znieť jednoducho, ale pri návrhu sa vyskytlo niekoľko komplikácií, ktoré sme museli vyriešiť. Pôvodne požadované umiestnenie do RACKového šasi sme museli zmeniť na šasi herné, konkrétne Fractal Desingn Define, aby sme získali dostatok priestoru na montáž všetkých kariet a tiež aby sme mali priestor na vyriešenie chladenia všetkých zariadení. Základnú dosku sme zvolili tak, aby spĺňala požiadavky na dostatok PCIe slotov a spolu s procesorom Intel Core i7-9800X mala dostatok PCIe liniek pre chod všetkých kariet.
Grafické karty sme vyberali hlavne s ohľadom na ich veľkosť, aby sme mohli PC osadiť aj ďalšími prídavnými kartami. Zvolili sme teda tie najmenšie ventilované RTX 3080 na trhu, a to EVGA GeForce RTX 3080 XC3 Ultra Gaming. Tieto karty ponúkajú dostatočný výkon pri oveclocku a pri zapojení dvoch kariet vedľa seba je k dispozícii priestor na ich uchladenie.
Ostatne aj chladenie nám dalo trochu zabrať – zostava je chladená okolitým vzduchom, ktorý je do šasi nasávaný tromi výkonnými 120 mm ventilátormi cez predný ventilačný otvor. Pre lepší prístup chladného vzduchu ku grafickým kartám sme naviac inštalovali jeden výkonný 120mm ventilátor tak, aby optimálne ventiloval priestor medzi grafickými kartami. Odvod vzduchu zo zostavy zaisťujú tri 140mm ventilátory, ktoré horúci vzduch odvádza dostatočne.
O napájanie celej zostavy sa stará zdroj s výkonom 1200 W, efektivitou 92 % a platinovou certifikáciou s extrémnym +12 V single rail dizajnom. Pri návrhu vhodného zdroja sme si vypočítali, že by zostava mala trvalo odoberať okolo 850 W . Neboli sme ďaleko od pravdy – pri plnom zaťažení sa trvalá spotreba pohybovala okolo 870 W, ale prekvapením boli výkyvy, kde sme sa dostali skoro až na limit zdroja a to 1190 W! Dlhodobým testovaním a zahorovacím procesom sme sa presvedčili, že zdroj je navrhnutý dostatočne.
Výsledkom našej práce je tak stroj, určený pre trvalý chod CPU na 100% zaťaženie spoločne s plným zaťažením oboch grafických kariet, a to vrátane overclocku z nominálnej frekvencie 1440 MHz na stabilných 1700 MHz pri stále okolitej teplote 25 °C.
Pevne veríme, že tento stroj bude svojmu hlavnému účelu slúžiť dlhodobo. Tiež veríme, že bude koncový zákazník veľmi spokojný s jeho extrémnym výkonom pre výpočty neurónových sietí a ich spracovávanie.
Ďalšie podobné typy týchto PC sa u nás už pomaly pripravujú. Pokiaľ by ste mali záujem o dodávku podobných výpočtových strojov, neváhajte sa na nás obrátiť.