newsonline24

Als Spezialist für Kubernetes-native KI-Infrastruktur ist Mirantis ist einer der ersten Design- und Integrationspartner, der mit Nvidia BlueField sichere Multi-Tenant-Netzwerke für KI bereitstellt. Durch die Kombination der deklarativen, Kubernetes-nativen Funktionen von Mirantis k0rdent AI mit den leistungsstarken Datenverarbeitungs- und Isolationsfunktionen von Nvidia BlueField können Unternehmen eine Infrastruktur aufbauen, die nicht nur für KI optimiert, sondern auch kontrolliert, flexibel und kosteneffektiv ist.

„KI-Workloads erfordern Präzision. Dies setzt spezialisierte Hardware, eng integrierte Netzwerke, sichere Multi-Tenant-Architekturen und Bereitstellung in Echtzeit voraus. Alles muss zudem effizient und skalierbar orchestriert werden“, sagt Shaun O’Meara, Chief Technology Officer bei Mirantis. „Mit der Integration von Mirantis k0rdent AI und Nvidia BlueField bieten wir Multi-Tenant-Kubernetes mit strikter Isolierung auf allen Ebenen. Dies bedeutet Unterstützung für komplexe Netzwerke und Abgrenzung, während Tenants dennoch voller Zugriff auf ihren Kubernetes-Cluster ermöglicht wird."

Die Bereitstellung einer Infrastruktur für KI-High-Performance-Computing bringt sehr spezielle Herausforderungen mit sich und erfordert besondere Feinabstimmung und Konfiguration. Dies umfasst beispielsweise die Zuweisung und Aufteilung von GPUs, die Aktivierung von RDMA-Netzwerken (Remote Direct Memory Access), die Erfüllung anspruchsvoller Planungsanforderungen, die Leistungsoptimierung und die effiziente Skalierung von Plattformen wie Kubernetes. Die Komplexität steigt, wenn Lösungen mehrere dynamische Workloads unterstützen müssen, welche von verschiedenen Benutzern gemeinsam genutzt werden.

Mirantis k0rdent AI und Nvidia BlueField bieten:

– Multi-Tenant-Unterstützung für Datensicherheit und gemeinsame Ressourcennutzung

– Datensouveränität für KI-Workloads, die auf vertraulichen Daten basieren und häufig proprietäre Modelle enthalten

– Möglichkeit zur gemeinsamen Nutzung von GPUs und anderen wichtigen Rechenressourcen

– Strenge Netzwerkisolierung auf Netzwerk-Schnittstellenebene, wobei Tenants ausschließlich Zugriff auf die ihnen zugewiesenen Schnittstellen haben – und diese Schnittstellen wiederum nur Zugriff auf die dem jeweiligen Mandanten zugewiesenen VLANs

– Hochgeschwindigkeitszugriff auf Datenspeicher

Mirantis bereitet sich außerdem auf die Unterstützung des neu angekündigten Nvidia BlueField-4 vor, welches im Vergleich zu BlueField-3 eine sechsmal höhere Rechenleistung und einen doppelt so hohen Netzwerkdurchsatz bietet. Mirantis geht davon aus, dass dadurch die zugrunde liegenden Switch-Konfigurationen vereinfacht und eine Echtzeit-Risikoerkennung ermöglicht werden.

Die Integration von Mirantis k0rdent AI und Nvidia BlueField bietet flexible, wiederholbare Muster für die Bereitstellung von Diensten für Endbenutzer über Templates. Dadurch kann eine konsistente Infrastruktur bereitgestellt werden und Konfigurationsabweichungen lassen sich verhindern. Diese Herangehensweise ermöglicht die Automatisierung der Infrastrukturbereitstellung als Service.

Weitere Informationen finden sich auch im Blogbeitrag Mirantis and NVIDIA BlueField Next-Generation.