AIME A8005P - Der Deep-Learning Trainings- und Inferenz-Server

Der für den Betrieb von mehreren GPUs optimierte Design des AIME A8005P, mit Temperatur geregelten Hochleistungslüfter für alle kritischen Komponenten und dedizierten Lüftungskanälen, ermöglicht den Einsatz von acht High-End-Double-Slot-GPUs der neuesten Generation: NVIDIA H200 NVL, NVIDIA H100 NVL, RTX Pro 6000 Blackwell, NVIDIA L40S, RTX 6000 Ada und RTX 5000 Ada.

Wählbare GPU-Konfiguration

Wählen sie aus den leistungsstärksten NVIDIA-GPUs für Deep Learning und Inferenz von großen Sprachmodellen (LLM) die gewünschte Konfiguration aus:

Bis zu 8x NVIDIA H200 141GB

Die NVIDIA H200 mit 141 GB ist die aktuell leistungsstärkte Deep-Learning-Beschleunigungskarte der Hopper-Generation und ein direkter Nachfolger der H100 80 GB. Die NVIDIA H200 basiert auf dem GH-100-Prozessor in 5-nm-Fertigung mit 16.896 CUDA-Kernen, Tensor-Kernen der vierten Generation und 141 GB HBM3e-Speicher mit Datenübertragungsraten von 4,8 TB/s.
Zusätzlich können bis zu 4x NVIDIA H200 über einen NVLink-Stecker verbunden werden um Daten zwischen den Karten mit einer Datenübertragungsraten von bis zu 900 GB/s auszutauschen.

Bis zu 8x NVIDIA H100 NVL 94GB

Eine aktualisierte Version der NVIDIA Hopper H100 80GB ist die NVIDIA H100 NVL mit einem großen Leistungssprung zu einer A100 der Ampere Generation. Die NVIDIA H100 NVL basiert auf dem GH-100 Prozessor in 5nm Fertigung mit 16.896 CUDA-Kernen, Tensorkernen der vierten Generation und 94 GB HBM3-Speicher mit Datentransferraten bis zu 3,9 TB/s. Eine einzelne NVIDIA H100 NVL Beschleuniger leistet 1,67 FP16 Peta-TOPS. Acht H100 NVL Beschleuniger liefern mehr als 8000 teraFLOPS FP32-Leistung. Die NVIDIA-H100-Generation ist die erste GPU, die PCIe 5.0 unterstützt, was die PCIe Datenübertragungsraten auf bis zu 128 GB/s verdoppelt. Die NVIDIA H100 NVL ist aktuell die effizienteste (Perf/Watt) Deep-Learning Beschleunigerkarte am Markt.

Bis zu 8x NVIDIA RTX Pro 6000 Blackwell Server 96 GB

Die erste GPU der neusten NVIDIAs Generation "Blackwell" ist die RTX Pro 6000 Blackwell Server mit unschlagbaren 24.064 CUDA und 752 Tensor Kerne der 5. Generation.
Die RTX Pro 6000 Blackwell Server Edition ist passiv gekühlt, was dem Server ermöglicht bis zu 8 Stück parallel zu kühlen. Mit der Erhöhung des GPU-Speichers auf 96 GB GDDR7 Speicher mit einer beeindruckenden Bandbreite von 1.6 TB/s, legt sie neue Maßstäbe beim Rendering und AI GPU-Computing.

Bis zu 4x NVIDIA L40S 48GB

Die NVIDIA L40S basiert auf der neuesten NVIDIA-GPU-Architektur: Ada Lovelace. Sie ist der direkte Nachfolger der RTX A40 und die passiv gekühlte Version der RTX 6000 Ada. Die L40S kombiniert 568 Tensor-Kerne der vierten Generation und 18.176 next-gen CUDA®-Kerne mit 48 GB GDDR6 Grafikspeicher für beispiellose Leistung für Rendering, Grafik und KI.

Bis zu 4x NVIDIA RTX 6000 Ada 48GB

Die RTX™ 6000 Ada basiert auf der neuesten NVIDIA-GPU-Architektur: Ada Lovelace. Sie ist der direkte Nachfolger der RTX A6000 und der Quadro RTX 6000. Die RTX 6000 Ada kombiniert 568 Tensor-Kerne der vierten Generation und 18.176 next-gen CUDA®-Kerne mit 48 GB Grafikspeicher für beispiellose Leistung für Rendering, Grafik und KI.

Bis zu 4x NVIDIA RTX 5000 Ada 32GB

Die RTX ™ 5000 Ada basiert auf der neuesten NVIDIA GPU-Architektur: Ada Lovelace. Sie ist die direkte Nachfolgerin der RTX A5500. Die RTX 5000 Ada kombiniert 400 Tensor Cores der vierten Generation und 12.800 CUDA® Kerne der nächsten Generation mit 32 GB Grafikspeicher für eine überzeugende Rendering-, KI-, Grafik- und Rechenleistung.

Alle NVIDIA-GPUs werden von NVIDIAs CUDA-X AI SDK unterstützt, einschließlich cuDNN und TensorRT und sind damit kompatibel zu allen gängigen Deep-Learning-Frameworks.

Dual EPYC Turin CPU Leistung

Die neuesten Dual AMD EPYC Turin Server-CPUs mit Unterstützung für DDR5 5600 MHz RAM und PCIe 5.0 bieten bis zu 2 x 196 CPU-Kerne mit insgesamt 768 CPU-Threads. Unglaubliche CPU-Leistung mit einem ungeschlagenen Preis-Leistungs-Verhältnis.

Die verfügbaren 2 x 128 PCIe 5.0 Lanes der AMD EPYC CPU ermöglichen die höchsten Verbindungs- und Datenübertragungsraten zwischen der CPU und den GPUs und stellen sicher, dass alle GPUs mit voller x16 PCIe 5.0-Bandbreite verbunden sind.

Eine hohe Anzahl verfügbarer CPU-Kerne kann die Leistung erheblich verbessern, wenn die CPUs für die Vorverarbeitung und die Datenaufbereitung eingesetzt werden, um die GPUs optimal mit Arbeit zu versorgen.

Bis zu 8x 30 TB Direct PCIe 5.0 NVMe SSD Speicher

Deep Learning ist meist mit einer großen Menge an zu verarbeitenden und zu speichernden Daten verbunden. Hohe Durchsatzraten und schnelle Zugriffszeiten auf die Daten sind für schnelle Bearbeitungszeiten entscheidend.

Das AIME A8005P kann mit bis zu acht austauschbaren U.3 PCIe 5.0 NVMe Triple-Level-Cell (TLC) SSDs mit einer Kapazität von bis zu 30,36 TB pro SSD konfiguriert werden, was zu einer Gesamtkapazität von 240 TB des schnellsten NVMe-SSD-Speichers führt.

Da jede der SSDs über PCIe 5.0-Lanes mit dem Hauptspeicher verbunden ist, erreichen sie konsistente hohe Lese- und Schreibraten von mehr als 5000 MB/s.

Wie üblich im Serverbereich haben die SSDs eine MTBF von 2.500.000 Stunden bei 1 DWPD (Disk Write per Day) und eine 5-jährige Herstellergarantie.

Optionales Hardware RAID

Falls ein Hardware-RAID-Speicher erforderlich ist, bietet das A8005P die Option, sechs seiner Laufwerksschächte mit einer zuverlässigen Hardware-RAID-Controller zu nutzen. Bis zu 120 TB schnellster NVMe-RAID-SSD-Speicher mit RAID-Leveln 0 / 1 / 5 / 10 und 50 sind möglich.

Hohe Konnektivität und Management-Interface

Das A8005P ist mit 2x 10-Gbit/s-RJ45+ LAN-Ports Onboard ausgestattet und kann mit Netzwerkadaptern bis zu 400 Gbit/s (GBE) für die höchste Netzwerkübertragungsraten zu NAS-Ressourcen und Big-Data-Sammlungen ausgestattet werden. Auch für den Datenaustausch in einem verteilten Rechencluster ist die höchste verfügbare LAN-Konnektivität ein Muss.

Das AIME A8005P ist vollständig über ASMB12-iKVM IPMI/BMC, angetrieben von einem AST2600 BMC, remote verwaltbar, was eine erfolgreiche Integration des AIME A8005P in größere Servercluster ermöglicht.

Optimiert für Multi-GPU Server Anwendungen

Der AIME A8005P bietet Energieeffizienz mit redundanten Netzteilen der Titanium Effizienz-Klasse, welche einen langfristigen und ausfallsicheren Betrieb ermöglichen. Seine thermische Lüfterregelung sorgt für einen effizienteren Stromnutzung und optimierte Kühlleistung.

Eingestellt, konfiguriert und optimiert für die perfekte Multi-GPU- und höchste Deep-Learning-Leistung durch AIME.

Der AIME A8005P kommt mit vorinstalliertem Ubuntu-Betriebssystem, mit den neuesten Treibern und optimiert für die Frameworks TensorFlow und PyTorch. Nach dem Hochfahren sofort einsatzbereit, um Ihre Deep-Learning-Anwendungen zu beschleunigen.