AIME R500 - Machine Learning Server

Für Deep-Learning-Anwendungen wird ein neuartiger Typ von Server benötigt. Der AIME R500 Server ist bereit für diese Aufgabe: Mit seiner Multi-GPU-Architektur erreicht er maximale Deep-Learning-Trainings und -Inferenzleistung.

Mit einer auf hohen Luftdurchsatz optimiert Kühlung hält der AIME R500 auch unter Volllast im 24/7-Dauerbetrieb seine höchste Leistung. Sieben aufeinander abgestimmt Hochleistungslüfter erzeugen einen kühlenden Luftstrom durch das System, welche die CPU und GPUs kühlt und vor Überhitzung schützt. Diese Konfiguration hält das System kühler, leistungsfähiger und ist insgesamt langlebiger, als klassische Rack System, welches meist auf höchste Kompaktheit ausgelegt ist und die Anforderungen an die Kühlung vernachlässigt.

Wählbare Quad GPU Konfigurationen

Wählen sie für die Konfiguration aus den leistungsfähigsten NVIDIA Deep-Learning GPUs:

4 x Nvidia RTX 2080TI

Jede NVIDIA RTX 2080 TI trainiert AI-Modelle mit 544 NVIDIA Turing mixed-precision Tensor Cores, die eine AI-Leistung von 107 Terra Tensor FLOPS liefern und bietet 11 GB ultra-schnellen GDDR6 Speicher.

Mit dem AIME R500 erhalten Sie die kombinierte Leistung von vier NVIDIA RTX 2080TI und erreichen damit eine AI-Leistung von mehr als 400 Billionen Tensor-Operationen pro Sekunde.

4 x Nvidia Quadro RTX 6000

Die Quadro RTX 6000 ist die Pro-Version der Nvidia Titan RTX, mit einer auf für multi GPU-Systeme optimierten Belüftung, zusätzlichen Virtualisierungsfunktionen und ECC-Speicher.

Die Quadro RTX 6000 wird von demselben Turing™ Chip mit 576 Tensorkerne wie die Titan RTX angetrieben und bietet 130 Tensor-TFLOPs Leistung und 24 GB ultraschnellen GDDR6-ECC-Speicher.

Mit dem AIME R500 erhalten Sie die kombinierte Leistung von vier Nvidia Quadro RTX 6000 und erreichen damit eine AI-Leistung von mehr als 500 Billionen Tensor-Operationen pro Sekunde.

4 X Nvidia Quadro GV100

Die Quadro GV100 basiert auf dem selben Volta-GPU-Prozessor wie die Nvidia Tesla V100, bietet jedoch Videofunktionen und eine zuverlässigere, lüfterbasierte Kühlung als eine Tesla V100.

Mit ihren 640 Tensor Cores und 32 GB HBM2-Speicher sind Nvidia Quadro GV100 GPUs die schnellsten derzeit erhältlich GPUs und damit optimal für die anspruchvollsten Deep-Learning-Anwendungen geeignet.

Alle angeboten NVIDIA GPUs werden von NVIDIAs CUDA-X AI SDK inkl. cuDNN und TensorRT angetrieben und werden damit in alle gängigen Deep-Learning-Frameworks unterstützt.

EPYC CPU-Leistung

Die High-End AMD EPYC Server-CPU arbeitet mit bis zu 32 Cores und insgesamt 64 Threads pro CPU. Die 128 verfügbaren PCI 3.0-Lanes der AMD EPYC-CPU ermöglichen es, dass alle GPUs mit der maximalen Anzahl PCI Lanes angebunden sind. Dadurch wird die höchste Datenübertragungsrate zwischen der CPU und den GPUs erreicht.

Der Datendurchsatz kann durch die hohe Anzahl verfügbarer CPU-Kerne erheblich verbessert werden, da hierdurch die GPUs optimal mit Aufgaben versorgt werden können, wenn diese für das Preprocessing und die Bereitstellung von Daten genutzt werden.

Bis zu 8 TB High-Speed-SSD-Speicher

Beim Deep Learning müssen hohe Datenmengen verarbeitet und gespeichert werden. Ein hoher Datendurchsatz und schnelle Zugriffszeiten auf die Daten sind daher für schnelle Turnaround-Zeiten unerlässlich. Der AIME R500 kann mit zwei NVMe-SSDs konfiguriert werden, die über PCI-Lanes direkt mit der CPU und dem Hauptspeicher verbunden sind. Wir bieten die folgenden drei zu konfigurierenden SSD-Klassen an:

• QLC-Typ: Hohe Leseraten, durchschnittliche Schreibgeschwindigkeit - am besten zum Lesen von statischen Datenbibliotheken oder Archiven geeignet
• TLC-Typ: Höchste Lese- und Schreibgeschwindigkeit - am besten geeignet für schnellen Lese- / Schreibzugriff auf Dateien
• MLC-Typ: Höchste Lese- und Schreibgeschwindigkeit - am besten geeignet für Hochleistungsdatenbanken, Datenstreaming und Virtualisierung

Höchste Konnektivität mit Managment Interface

Mit den zwei verfügbaren 10-Gbit/s LAN-Ports sind die schnellsten Verbindungen zu NAS-Ressourcen und Big Data Datenbanken möglich. Auch für den Datenaustausch in einem verteilten Compute Cluster ist die höchste verfügbare LAN-Konnektivität ein Muss.

Der AIME R500 ist mit einer dedizierten IPMI-LAN-Schnittstelle ausgestattet. Mit seinem fortschrittlichen BMC kann er fernüberwacht und gesteuert werden (Wake-up / Reset). Diese Eigenschaften ermöglichen eine erfolgreiche Integration des AIME R500 in ein Server-Rack-Cluster.

Aufeinander abgestimmte Komponenten

All unsere Komponenten wurden aufgrund ihrer Energieeffizienz, Haltbarkeit, Kompatibilität und hohen Leistung ausgewählt. Sie sind perfekt aufeinander abgestimmt, so dass keine Leistungsengpässe entstehen. Wir optimieren unsere Hardware im Hinblick auf Kosten pro Leistung, ohne Kompromisse bei der Langlebigkeit und Zuverlässigkeit einzugehen.

Für Machine-Learning-Anwendungen entwickelt

Der AIME R500 wurde zuerst für unsere eigenen Anforderungen für Machine-Learning-Anwendungen entwickelt und hat sich aus jahrelanger Erfahrung mit Deep-Learning-Frameworks und dem Aufbau von PC-Hardware entwickelt.

Unsere Maschinen werden mit vorinstalliertem Linux-Betriebssystem geliefert und sind mit den neuesten Treibern und Frameworks wie Tensorflow, Keras, PyTorch und Mxnet vorkonfiguriert. Loggen Sie sich direkt nach dem Auspacken ein und starten Sie sofort mit Ihrem bevorzugten Machine-Learning-Framework mit der Entwicklung.