Skip to main content

MEGWARE erhält Auftrag zur Installation des neuen heißwassergekühlten Hochleistungsrechners „CooLMUC3“ am Leibniz-Rechenzentrum (LRZ) in Garching

|   Referenzen

Chemnitz, 30.1.2017 – MEGWARE Stammsitz

 

Das Leibniz-Rechenzentrum der Bayerischen Akademie der Wissenschaften erhält die 3. Generation des CooLMUC Rechenclusters am Forschungsstandort Garching. Die MEGWARE Computer Vertrieb und Service GmbH liefert zum zweiten Mal ein System der CooLMUC-Reihe, welches sich durch seine besonders hohe Energieeffizienz auszeichnet. Das System wurde am firmeneigenen Technologieentwicklungszentrum in Chemnitz, basierend auf eigener Hard- und Software, entwickelt und unterstreicht damit den Anspruch von MEGWARE, weltweit federführend im Bereich hochenergieeffizienter Hochleistungsrechner zu sein.
Beim CooLMUC der ersten Generation hatte MEGWARE schon im Jahr 2011 aufgezeigt, dass verschiedene Prozessortechnologien direkt mit heißem Wasser gekühlt werden können. Zudem wurde die Restwärme mit Hilfe einer Adsorptionskältemaschine effizient zur Erzeugung von Prozesskälte nachgenutzt um bestehende Server in weiteren Racks zu kühlen.

"Das neue System „CooLMUC 3“ übertrifft seine Vorgängersysteme in mehreren Hinsichten und der Clou am neuen System ist, dass wir in wärmegedämmten Serverschränken alle Compute- und Login-Knoten, Netzteile und Omni-Path Switche direkt mit heißem Wasser kühlen, was es so in der Kombination noch nie gegeben hat. Selbst bei 40 Grad Celsius Kühlwassertemperatur und 25 Grad Celsius Raumtemperatur entsteht eine maximale Abwärme von nur 3% in die Raumluft. Wir haben sehr viel Entwicklungsarbeit geleistet und sind nun mehr denn je bereit, global hocheffiziente und umweltschonende HPC-Technologie zu liefern “ – so Axel Auweter HPC Entwicklungsleiter bei MEGWARE.  Außerdem werden im CooLMUC 3 nicht nur Rechenknoten mit Standard-Prozessoren direkt gekühlt, sondern auch die aktuellste Generation Intel Xeon Phi, welche sich durch eine integrierte Fabric auszeichnen und direkt über das Intel Omni-Path Hochleistungs-Netzwerk mit einander verbunden sind.

In der ersten Ausbaustufe des CooLMUC 3 werden die insgesamt 148 Knoten in den neu entwickelten MEGWARE SlideSX®-LC Chassis mit Intel Knights Landing (KNL) Xeon Phi 7210-F CPU - 64 Cores / 16GB MCDRAM sowie 96GB Hauptspeicher (6x 16GB DDR4-2133) und 2x 100Gbit/s Omni-Path ausgestattet. Die Intel KNL Prozessoren können selbstständig booten, benötigen daher keinen separaten Host-Prozessor und können ungebremst auf den Hauptspeicher zugreifen.

In der neuen Variante des SlideSX®-LC Chassis werden 10 Compute-Knoten auf 6 Höheneinheiten mit einer zentralen Stromversorgung und bis zu 5 Netzteilen komplett direkt wassergekühlt. Die Anbindung der Compute Nodes innerhalb der Omni-Path Fabric erfolgt über den in die CPU integrierten HFI mit 2 x 100 Gbit/s Ports und die gesamte Fabric ist mit einen Blocking Faktor von 1:2 vernetzt. Die Bandbreite innerhalb von Gruppen zu je 32 Knoten (pro 48 Port Edge-Switches) ist non-blocking mit 200 Gbit/s und beträgt darüber hinaus über alle 148 Knoten hinweg 100 Gbit/s pro Port.
MEGWARE hat die ColdCon®-Technologie in den vergangenen Jahren stetig weiter entwickelt und an verschiedenen Standorten in Europa bereits erfolgreich installiert. Am Forschungsstandort Garching wird nun die neue „Rack Cooling Unit“, – die neue hydraulische Einheit, in jedem Schrank integriert und liefert eine noch effizientere Separierung von gebäudeseitigem – und IT seitigem Wasser sowie einer noch genaueren Temperatur- und Wärmemengenerfassung.
Weiterhin wird das System durch die von MEGWARE entwickelten ClustSafe® PDUs mit jeweils 12 Ports und je 10A Leistung mit einer kalibrierten Leistungsmessung pro Port abgesichert und das System-Monitoring mit der von MEGWARE entwickelten Management Software ClustWare® betrieben.

Der neue Rechner kostet rund eine Million Euro, finanziert aus Mitteln der Deutschen Forschungsgemeinschaft (DFG) und des Freistaates Bayern. Die Rechenleistung steht akademischen Nutzern aus ganz Bayern zur Verfügung. Weitere Ausbaustufen und Erweiterungen sind bereits in Planung und die MEGWARE Ingenieure freuen sich auf den Ausbau des Systems in den kommenden Wochen.