Rettet uns KI aus der Software-Komplexitätsfalle?

Software ist das digitale Nervensystem der modernen Gesellschaft. Implementierung und Wartung aber sind seit Beginn von Krisen begleitet. Die Fähigkeiten von Hard- und Software wachsen schneller als die Kompetenz menschlicher Ingenieure. Aus dieser Krise, die sich entlang der gesamten Software Supply Chain zieht, sind wir bis heute nicht herausgekommen.

Ein paar Beispiele: Millionen Computer weltweit fallen im Juli 2024 aus, weil ein fehlerhaftes Update ausgeliefert wird; im britischen Post-Office-Skandal werden Existenzen zerstört und Menschen inhaftiert, weil Software über Jahrzehnte falsch rechnet. Bei Solarwinds wurde das Build-Environment kompromittiert und Atlassian Tools waren tagelang wegen Softwarefehlern beziehungsweise mangelhafter Backup-Strategie offline; die Software in Autos ist so schlecht, dass sich sicherheitskritische Angriffe bei fast allen Anbietern durchführen lassen; im Jahr 2022 geben Facebook-Techniker zu, dass sie im Kern keine Ahnung haben, wie ihr System funktioniert; Gesundheitsdaten werden in großem Umfang ins Internet geleakt; in Florida gelingt es Hackern Zugang zum Wassersystem einer Stadt zu gelangen und versuchen gefährliche Chemikalien einzuleiten, dies kann nur mit Glück verhindert werden; ein deutscher Einzelhändler versenkt 500 Millionen Euro in einer gescheiterten SAP-Umstellung. Dies ist nur eine kleine Auswahl von Beispielen, die sich beliebig fortsetzen ließen.

Wir stecken in der Komplexitätsfalle und verlieren die Kontrolle. Software wird immer schneller und in größerem Umfang bei gleichbleibend schlechter Qualität produziert – alle Arbeiten entlang der Software Supply Chain erfolgen agil und kontinuierlich. Nun betritt KI die Bühne und verspricht, den Softwareprozess wesentlich zu verändern. Die Frage ist: zum Besseren oder zum Schlechteren? Wenn Menschen überfordert sind, kann KI uns aus der Komplexitätsfalle herausführen? Sollten sich menschliche Programmierer schon mal nach neuen Jobs umsehen? Oder ist dies nur wieder ein Hype, der bald von der Realität eingeholt wird?