Hardware-Infrastruktur

Das IT Center der RWTH Aachen verfügt über jahrzehntelange Expertise im Bereich HPC. Neben dem zuverlässigen Betrieb unserer Rechencluster übernehmen wir die kontinuierliche Pflege und Modernisierung des Software-Stacks sowie die fortlaufende Weiterentwicklung unserer Infrastruktur, stets mit Fokus auf aktuelle Anforderungen und zukunftsorientierte Lösungen.

Spezialisierte GPU-Recheninfrastruktur

Für KI-Inferenzaufgaben im KI:Expertisezentrum.nrw stellt die RWTH Aachen eine spezialisierte GPU-Recheninfrastruktur in den Partitionen CLAIX-2023 und CLAIX-2025 bereit, die auf die effiziente Ausführung mittelgroßer bis großer KI-Modelle ausgelegt ist. Aktuell stehen 6 Hochleistungs-Server mit modernen NVIDIA-GPU-Technologie zur Verfügung. Diese Server werden im Rahmen des nationalen KI-Servicezentrums WestAI betrieben und sind jeweils mit vier NVIDIA H100-Grafikprozessoren ausgestattet. Dank ihrer hochmodernen Architektur und herausragenden Rechenleistung bieten sie ideale Voraussetzungen für anspruchsvolle KI-Anwendungen und KI-Inferenz. Um die Kapazitäten in Nordrhein-Westfalen weiter auszubauen und das Modellportfolio zu erweitern, ist für 2027 die Inbetriebnahme einer zusätzlichen dedizierten Inferenz-Partition mit NVIDIA B200-Systemen vorgesehen.

Der Hochleistungsrechner RAMSES der Universität zu Köln (UzK) verbindet klassische HPC-Aufgaben mit modernen, containerisierten und KI-basierten Diensten. RAMSES wird vom IT-Center University of Cologne (ITCC) betrieben und stellt eine Rechenleistung von rund 4,8 PFLOPS zur Verfügung. Die Besonderheit des Systems ist seine Auslegung für die sichere Speicherung und Verarbeitung sensibler Daten, wie sie beispielsweise in den Lebenswissenschaften häufig vorkommen. Das System kann damit den hohen Anforderungen solcher Forschungsbereiche entsprechen.

Für den Inferenzbetrieb des KI:Expertisezentrums.nrw stellt die UzK Partitionen mit NVIDIA-H100- bzw. L40S-GPUs bereit. Als Besonderheit bietet RAMSES dedizierte Kubernetes-Knoten für dauerhaft in Containern laufende, serviceorientierte Workloads an. Mit diesem Setup ist es möglich, neben dem Batch-System Slurm dynamisch skalierbare, von außerhalb erreichbare KI-Dienste zu betreiben, deren Anfragen und Ergebnisse auf RAMSES verschlüsselt gespeichert werden. Damit schafft RAMSES eine integrierte Plattform für moderne Forschungsanwendungen und leistet zugleich einen konkreten Beitrag zur digitalen Souveränität im Bereich KI, da der gesamte Dienst auf eigener Infrastruktur läuft.

Die Universität zu Köln verwendet für die KI-Inferenzaufgaben im KI:Expertisezentrum.nrw zunächst die für das Vorprojekt „Open Source-KI.nrw“ beschaffte Hardware weiter. Hierfür kommen auf RAMSES zwei spezialisierte Partitionen zum Einsatz, welche für kleine, als auch mittelgroße bis große KI-Modelle ausgelegt sind. Diese setzen sich aus 3 Hochleistungs-Servern mit modernen NVIDIA-GPUs zusammen, darunter NVIDIA L40S und NVIDIA H100-Grafikprozessoren. Für 2026 ist eine Erweiterung um mehrere Partitionen mit NVIDIA B200-Systemen vorgesehen, um den für 2027 in Aachen und den für 2028 in Köln geplanten Ausbau von KI-Rechenressourcen zu überbrücken. Somit kann das Modellportfolio sukzessive erweitert und das wachsende Anfrageaufkommen latenzarm bedient werden.