Leistungen

Hardware und Installation

Wir liefern Server und GPU-Systeme, richten sie ein und nehmen das Modell bei Ihnen in Betrieb. Feintuning und Betrieb laufen bevorzugt auf Ihrer Hardware.

Beschaffung und Installation

Server und GPU-Systeme, vom Kompaktgerät bis zum HPC-GPU-Server nach Maß
Installation mit Inbetriebnahme: Einrichtung des Modells auf Ihrer Hardware
Sie können auch Ihre eigene Hardware einsetzen

Empfohlene Hardware

Die folgenden NVIDIA-Systeme dienen als Orientierung für den Betrieb auf eigener Hardware. Sie wählen die Hardware frei, oder wir planen und liefern Ihren Server, von diesen Systemen bis zu individuell ausgelegten HPC-GPU-Servern.

Empfehlung

NVIDIA DGX Spark

GB10 Grace-Blackwell-Superchip

Unsere Empfehlung für die meisten: kompakt wie ein Buch, leise, steht im Regal und trägt Ihr feingetuntes Modell mit Reserven.

KI-Leistung: bis 1 PetaFLOP (FP4)
Speicher: 128 GB einheitlich (CPU + GPU, LPDDR5X)
Prozessor: 20 Arm-Kerne (GB10)
Gleichzeitige Nutzer: kleine Teams, ca. 5–15 aktive Chats flüssig
Massenspeicher: 4 TB NVMe
Netzwerk: 10 GbE, WLAN 7, ConnectX-7 (200 Gb/s)
Mehrbenutzer: eine gemeinsame Instanz
Format: 150 × 150 × 50,5 mm, ca. 1,1 Liter

Mehr Compute

NVIDIA DGX Station

GB300 Grace-Blackwell-Ultra-Superchip

Für deutlich mehr Compute: mehrere Teams, größere Modelle, ein Gerät. Rechenzentrums-Klasse als Tower unter dem Schreibtisch.

KI-Leistung: bis 20 PetaFLOPS (FP4)
Speicher: 748 GB kohärent (inkl. HBM3e-GPU-Speicher)
Prozessor: 72-Kern NVIDIA Grace
Gleichzeitige Nutzer: ganze Abteilungen, 100+ aktive Chats flüssig
Massenspeicher: NVMe-SSD, konfigurationsabhängig
Netzwerk: ConnectX-8, bis 800 Gb/s
Mehrbenutzer: bis 7 getrennte Instanzen (MIG)
Format: Tower, flüssigkeitsgekühlt

Nutzerangaben: gleichzeitig aktive Chats bei unseren Modellgrößen (9B–27B), konservativ geschätzt. Die Systeme dienen als Orientierung.

Sie möchten die Hardware nicht selbst beschaffen? Wir liefern sie fertig eingerichtet. Hardware von IonKon

Gespräch vereinbaren

Speicherbedarf und Geräteklassen im Detail