Grafické karty pro AI/GPU služby

Srovnání GPU požívaných v našich službách

Grafická karta	Výkon (FP32 TFLOPS)	Paměť (GB)	Počet jader	Tensor cores	Architektura	Šířka sběrnice (bit)	Další specifikace
NVIDIA RTX 4090	82.58	24	16,384 CUDA	512	Ada Lovelace	384	PCIe 4.0, 4K a 8K gaming
AMD RX 7900 XTX	61.44	24	6,144 RDNA 3	N/A	RDNA 3	384	AV1 Encode/Decode, Ray Tracing
NVIDIA RTX 5000 Ada	~64	32	9,728 CUDA	304	Ada Lovelace	256	Profesionální grafika, PCIe 4.0
AMD W7900 PRO	61	48	14,080 RDNA 3	N/A	RDNA 3	384	AV1 Encode/Decode, Ray Tracing
NVIDIA RTX 6000 Ada	91.06	48	18,176 CUDA	568	Ada Lovelace	384	48 GB paměť, PCIe 4.0
NVIDIA H100	1450 (TF32 Matrix Ops)	80	114,000 CUDA	640	Hopper	512	AI/ML akcelerátor, NVLink
NVIDIA H200	~1600 (TF32 Matrix Ops)	96	Neupřesněno	Neupřesněno	Hopper	512	AI/ML, pokročilý NVLink

Výkon (TFLOPS): Hodnoty jsou uvedené pro jednoduché výpočty s plovoucí desetinnou čárkou (FP32), což je relevantní jak pro hry, tak pro vědecké výpočty. U H100 a H200 jsou zahrnuty i TF32 výkon pro AI výpočty, které jsou akcelerovány tensor jádry.
Paměť (GB): Kolik grafické paměti má karta k dispozici. Více paměti je výhodné pro práci s velkými datovými sadami (AI, rendering).
Počet jader: Počet výpočetních jader na kartě (CUDA pro NVIDIA, RDNA pro AMD). Čím více jader, tím vyšší potenciální paralelní výkon.
Tensor cores: Speciální jádra navržená pro akceleraci výpočtů v oblasti strojového učení (AI), především pro trénink a inferenci neuronových sítí. Jsou přítomna pouze u grafických karet NVIDIA.
Architektura: Základní technologická platforma, na které je karta postavena. Novější architektury (Ada Lovelace, Hopper) přináší vylepšení ve výkonu a efektivitě.
Šířka sběrnice (bit): Šířka paměťového rozhraní, které ovlivňuje rychlost přístupu k datům v paměti.

Nabídka našich AI/GPU služeb