Das neue DevOps: Cloud Native AI

Traditionell lädt die Cloud Native Computing Foundation (CNCF) zur europäischen Hausmesse ein. Über 12.000 Teilnehmende haben sich auf den Weg zur KubeCon + CloudNativeCon Europe 2024 nach Paris gemacht. Damit ist diese Veranstaltung die größte Open-Source-Konferenz der Welt. Bei diesem Ansturm hatte kurzzeitig sogar das System zum Ausdrucken der Teilnehmer-Badges ein paar Probleme. Nicht unerwartet ist Künstliche Intelligenz (KI) ein großes Thema und nimmt entsprechend Raum ein.

KI ist sehr präsent und birgt Herausforderungen

Während der Eröffnungsrede hatte so mancher das Gefühl, auf der "AICon" zu sein, so präsent war das Thema. Und das muss offenbar auch so sein. Denn mit der KI schlagen Kubernetes und die CNCF ein komplett neues Kapitel auf. Zum einen sind die technischen Anforderungen sehr speziell. Das übersteigt bei Weitem die normale Unterschiedlichkeit der Applikationen auf den Kubernetes-Clustern dieser Welt. Aber zum anderen gibt es auch im nicht-technischen Bereich eine neue Herausforderung: Wie erreicht man, dass die Infrastruktur-Ingenieure die Datenwissenschaftler/-analysten verstehen und umgekehrt? Doch dazu gleich mehr.

Kubernetes wird im Juni diesen Jahres zehn Jahre alt und hat eine gewaltige Entwicklung hinter sich. Geboren im Open-Source-Umfeld, gibt es für Kubernetes inzwischen eine Vielzahl an Werkzeugen, Abläufen, Ansätzen und Kooperationen. Das trifft leider nicht so auf die KI beziehungsweise deren Programme und Modelle zu. Themen sind hier: Lizenzen für den Zugriff auf die Modelle oder gar Daten, Herstellerunabhängigkeit bei den Werkzeugen und auch IT-Sicherheit. Hier lautet die klare Forderung an die CNCF und die Community: Helft bitte. Wiederholt die gute Arbeit im Kubernetes-Umfeld, aber diesmal zugeschnitten auf die KI und deren Anforderungen.

Die dynamische Allokierung von Ressourcen ist so eine Baustelle. Seit Version 1.26 ist diese für GPUs als Alpha-Version in Kubernetes enthalten. Hier gilt es nun, Nägel mit Köpfen zu machen. Baustelle Nummer zwei ist die Skalierung über GPU-Cluster-Grenzen hinaus. Hier ist Kubernetes noch ganz am Anfang. Nummer drei ist das Aufteilen der KI-Arbeitsschritte auf die Container und Pods. Das funktioniert zwar prinzipiell, aber die Integration muss besser sein und beispielsweise schneller den Ausfall eines Knotens erkennen.

Auf der nicht-technischen Seite scheint sich die Geschichte zu wiederholen. Laut den Experten haben die Infrastruktur-Leute und die Datenwissenschaftler noch keine ausreichend gute gemeinsame Sprache und Verständnis gefunden. Für die oben genannten Baustellen ist dies aber unumgänglich. Priyanka Sharma, die Chefin der CNCF, ist hier aber ganz optimistisch. Sie sieht hier eine Neuauflage der DevOps-Bewegung. Diese brachte einst die Leute aus dem Betrieb und die Entwickler der zu betreuenden Anwendungen zusammen.

Auf jeden Fall kommen hier einige Aufgaben auf die CNCF zu. Erste Taten und Ergebnisse sind auch schon zu verzeichnen. Seit Oktober letzten Jahres gibt es eine eigene Arbeitsgruppe zum Thema KI, die CNCF Cloud Native AI Working Group. Diese hat im Rahmen der Konferenz ihr erstes Whitepaper veröffentlicht. Auf knapp 30 Seiten beschreibt dieses den aktuellen Stand von KI, wie Technologien aus dem Cloud-Native-Umfeld die noch bestehenden Lücken schließen können und welche weiteren Entwicklungen sich abzeichnen.

Partnerschaft mit Udemy und neue Zertifizierungen

Doch auch außerhalb von KI gibt es Neues aus dem CNCF-Umfeld. Manche davon sind "nur" natürliche Weiterentwicklungen und keine Revolution. Für Trainings gibt es nun eine Zusammenarbeit mit der Lernplattform Udemy, was das Lernen für Entwicklerinnen und Entwickler der CNCF-Community vereinfachen soll. Wer ein Tausendsassa beim Thema Zertifizierung ist, kann Teil des Kubestronauten-Programms werden. Dafür muss die Person alle Kubernetes-relevanten Kurse inklusive Prüfung gemeistert haben. Das sind dann insgesamt 5 Zertifikate (CKA, CKAD, CKS, KCNA und KCSA), die gleichzeitig gültig sein müssen. Als Dankeschön gibt es ein Geschenk von der CNCF in Form einer speziellen Jacke.

Außerdem gibt es neue Kurse ebenso wie neue Zertifikate. Zu den Letzteren gehören: Certified Argo Project Associate, Certified Cilium Associate, Kubernetes and Cloud Native Security Associate und Certified GitOps Associate.

(mai)