Digitales Leben: Kommt die Software-Apokalypse?
Von Sebastian Hofer
Am 4. Oktober 2021 erlebten einige Millionen Menschen auf dieser Welt die längsten sechs Stunden ihres Lebens. Nach einem Serverausfall in einem zentralen Rechenzentrum des Online-Konzerns Facebook waren dessen soziales Netzwerk sowie die assoziierten Dienste WhatsApp, Messenger und Instagram vorübergehend nicht mehr zu erreichen. Das halbe Leben: plötzlich weg, plötzlich Freizeit. Betroffen waren nicht nur die rund 3,5 Milliarden regelmäßigen User der verschiedenen Facebook-Plattformen, sondern auch Millionen von Unternehmen, deren Kunden sich etwa in Online-Shops oder Service-Zentralen per Facebook-Zugang einloggen oder kommunizieren. Auch die internen Mail-und Datenserver von Facebook waren von dem Ausfall betroffen, was die schnelle Fehlerbehebung nicht gerade erleichterte. Eine Gruppe von Netzwerkspezialisten, die in dem betroffenen Rechenzentrum einen händischen Serverneustart durchführen wollte, musste zuvor erst einen Weg finden, die-ebenfalls ausgefallene-Zutrittskontrolle zu überwinden. Ein im Grunde wohl sehr schlichter Konfigurationsfehler hatte einen Dominoeffekt durch die komplette Netzwerkstruktur des Konzerns angestoßen-mit Folgen, die bis in die hintersten Winkel dieser Welt zu erleben waren.
In diesen sechs Stunden wurde wieder einmal klar, wie sehr das moderne Leben von Software-und deren reibungslosem Funktionieren-abhängt. Kommunikation, Handel, Freizeit, Gesundheit-kaum ein Bereich, der für IT-Störungen nicht anfällig wäre. Wenn dein schwacher Code es will, stehen alle Räder still. Immerhin betraf der Facebook-Blackout vom Oktober keine allzu kritische Infrastruktur-anders als etwa die Softwareprobleme in der österreichischen elektronischen Gesundheitsakte ELGA, die, ebenfalls im Oktober, falsche Dosierungsinformationen für bestimmte Medikamente an die Apotheken übermittelt hatte. Rund 1000 Patientinnen und Patienten waren betroffen, der Fehler zum Glück schnell aufgeklärt. In Frankreich waren die Notrufnummern der Rettungsdienste am Abend des 2. Juni nach einer Softwarepanne für mehrere Stunden nicht erreichbar. Drei Todesfälle in dem Zeitraum hätten ohne diesen Fehler mutmaßlich verhindert werden können, die Justiz ermittelt. In Deutschland waren am 11. November nach einem ähnlichen Problem die Notrufnummern der Polizei und der Feuerwehren bundesweit nicht erreichbar.
In Anbetracht der Häufigkeit, mit der Software insgesamt zum Einsatz kommt, sind diese-jeder für sich hochdramatischen-Ausfälle tatsächlich extrem selten. Die Wahrscheinlichkeit einer Panne bleibt niedrig. Aber in Systemen, in denen Millionen Rechnungen pro Sekunde stattfinden, sind auch außergewöhnlich seltene Vorfälle keineswegs unwahrscheinlich.
Gleichzeitig wird Software immer dichter mit unserem Alltag verwoben, und die entscheidenden Knotenpunkte werden dabei immer größer. Plattformen wie die chinesische App WeChat fungieren längst als Omnibus-Anwendungen, die Zahlungsdienstleistungen, Kommunikation, Behördenwege, Essenbestellungen und Arzttermine abwickeln, sowie zig andere Bereiche des täglichen Bedarfs. Mehr als 1,2 Milliarden Menschen verwenden WeChat monatlich. Ein Softwareproblem an dieser Stelle könnte tatsächlich unerhörte Folgen haben. Müssen wir die Software-Apokalypse fürchten? Den völligen Blackout, den Einsturz des Kartenhauses?
Ein banger Anruf bei Viktor Mayer-Schönberger in Oxford. Die Videotelefonie funktioniert zum Glück einwandfrei, Professor Mayer-Schönberger hat also Gelegenheit, uns zu beruhigen.
Der gebürtige Salzburger hält den Lehrstuhl für Internet Governance and Regulation an der Universität von Oxford; zuvor lehrte und forschte er zehn Jahre lang an der Harvard University. Er ist Autor von elf Büchern, darunter die internationalen Bestseller "Big Data" und "Delete-Die Tugend des Vergessens in digitalen Zeiten". Soeben erschien auf Deutsch die Studie "Framers" über die Vorteile des menschlichen Denkens gegenüber der künstlichen Intelligenz. Vor seiner akademischen Karriere hatte Mayer-Schönberger in Österreich das Softwareunternehmen Ikarus gegründet und geleitet. Von 2018 bis 2020 gehörte er dem Digitalrat der deutschen Bundesregierung an.
profil: In der Comedy-Serie "Little Britain" gibt es den schönen Sketch, in dem eine Empfangsdame im Krankenhaus jede Patientenanfrage mit dem süffisant bedauernden Satz abwehrt: "Computer says no."Handelt es sich um eine realistische Zukunftsperspektive?
Mayer-Schönberger: Dass wir von Software abhängig sind und dass Software, dass Technologie generell schiefgehen kann, ist ein Thema, das uns seit Jahrzehnten beschäftigt. Natürlich hat unsere Abhängigkeit von Software zugenommen, aber es gab sie doch auch früher schon. Auch vor 20 Jahren konnte man keine Abbuchung vornehmen, wenn der Zentralcomputer der Bank streikte. Das Spannende ist aber, dass wir heute in einer Welt leben, in der morgen nicht mehr die Fortschreibung von gestern ist. Die Veränderung vollzieht sich rasant-und permanent.
profil: Was bedeutet das für die Software?
Mayer-Schönberger: Früher wurde Software entwickelt, indem man ein Programm entwarf und ein Pflichtenheft erstellte, das anschließend von Programmierern umgesetzt wurde. Diese Praxis nennt man die Wasserfall-Methode. Sie stößt an ihre Grenzen, wenn sich die Situation ständig verändert. Man ist mit dem Programmieren fertig, und die Welt ist längst eine andere geworden. Seit mindestens zehn Jahren gibt es deshalb-und Google war da ein Vorreiter-ein neues Designparadigma: die agile Software. Im Grunde bedeutet das, dass man ein neues Programm nicht durch und durch testet und anschließend veröffentlicht, sondern dass man ständig neue Versionen produziert. Das kennen Sie von Ihrem Smartphone: Dauernd werden neue Updates geladen. Das ist deshalb nötig, weil niemand mehr alles bis zur letzten Konsequenz durchdenken kann. Man gibt das Prinzip der Wasserfallmethode auf, alles im Vorhinein zu verstehen. Das System ist so komplex, dass ich es gar nicht mehr komplett verstehen kann. Aber ich kann es agil an eine neue Situation anpassen. Wenn ein Problem auftaucht, kümmere ich mich darum.
profil: Sie meinen, dass auch der Chief Technology Officer von Google in seinem Algorithmus den Überblick verloren hat?
Mayer-Schönberger: Total. Das geht auch gar nicht anders. Sie haben bei diesen großen Systemen 20 bis 30, manchmal 60 Millionen Zeilen Code. Wenn die Leute von intransparenten Algorithmen reden und von der Black Box der künstlichen Intelligenz, muss ich lachen. Das Programmieren selbst ist eine Black Box-nicht nur für die Benutzerinnen, sondern für die Programmiererinnen und Programmierer. Im Sinne der Agilität geht man deshalb sehr schnell mit einer ersten Version an die Öffentlichkeit und sagt: Schauen wir einmal, bleiben wir offen für Feedback. Wir wissen, dass wir Fehler machen, aber wir garantieren, dass die Fehler schnell behoben werden. Bei der Wasserfallmethode versucht man dagegen, Fehler von vornherein zu vermeiden. Wenn dann aber doch ein Problem auftritt, dauert es Monate, bis es behoben ist.
profil: Weil man wieder ganz am Anfang beginnen muss?
Mayer-Schönberger: Genau. Das alte Denken geht davon aus, dass die Zukunft so ähnlich funktioniert wie die Gegenwart. Also kann ich meine Software vorausschauend bauen. Der neue Ansatz ist: Die Zukunft unterscheidet sich grundsätzlich von der Gegenwart, also beginne ich in der Gegenwart und reagiere, sobald sich in Zukunft etwas verändert. Das ist die richtige Methode für unsere Zeit. Andererseits haben wir immer noch den alten Anspruch der Wasserfallmethode, dass Software stets funktionieren muss, weil sie bis zur letzten Zeile ausgetestet wurde. Dieser Anspruch ist weit entfernt von der dynamischen Wirklichkeit, in der wir leben.
profil: Aber was ist mit Software in der kritischen Infrastruktur? Wenn Fehler tragische Folgen haben können, muss ich doch auf Fehlerlosigkeit bestehen.
Mayer-Schönberger: Fehlerlos ist ein großes Wort. Und es bedeutet im Rahmen einer Norm nur: fehlerlos nach den Spezifikationen, die ich irgendwann einmal festgelegt habe. Wenn sich aber die Welt verändert, kann ein System nach der Spezifikation von damals fehlerlos funktionieren und trotzdem in die falsche Richtung laufen. Fehlerlosigkeit nach einem Pflichtenheft von vor 15 Jahren kann trotzdem zum Flugzeugzusammenstoß führen. Weil sich die Situation eben verändert hat. Wir brauchen in der Software Strukturen, die flexibel und schnell anpassbar sind. Dabei werden auch Fehler auftreten. Deshalb müssen wir unsere Fehlertoleranz erhöhen und statt der Effizienz die Resilienz betonen. Auch wenn das mehr kostet, weil es bedeutet, dass ich zwei Mobiltelefone zu Hause haben muss, oder neben meiner Breitbandverbindung auch eine 5G-Box vorhalte. Das ist kostenintensiv, aber dafür bin ich gewappnet für mögliche Veränderungen. Im Bereich der kritischen Infrastruktur bedeutet das, dass wir mehr als nur eine Infrastruktur brauchen werden.
profil: Sprich: Zusätzlich zum automatisierten Chatbot brauche ich beim Gesundheitsamt immer auch noch das Callcenter mit echten Menschen, die mir weiterhelfen können?
Mayer-Schönberger: Ich muss mir als Organisation überlegen, wie ich damit umgehe, wenn ein bestimmter Teil meiner Infrastruktur zusammenbricht. Wenn mein Computer im Hotel ausfällt: Wie kann ich trotzdem noch Schlüssel ausgeben, um die Leute auf ihre Zimmer zu lassen?
profil: Gleichzeitig wird die Expertise aber immer weiter ausgelagert. Im Hotel weiß niemand mehr, wie die eigene Zutritts-Software funktioniert. Das Know-how verdichtet sich an einigen wenigen, zentralen Knotenpunkten-und wenn diese ein Problem haben, gibt es eine Problemkaskade in alle erdenklichen Richtungen. Dann kann einem niemand mehr helfen.
Mayer-Schönberger: Das ist ein wichtiger Punkt, aber das Problem ist nicht die Konzentration bei den großen Anbietern wie Amazon Cloud Services. Diese nehmen Resilienz sehr ernst und bauen Dutzende von Datencentern. Die Resilienz fehlt uns zwei Stufen vorher, bei der Softwareprogrammierung. Das Hauptproblem ist nicht die Komplexität der Technik oder der Software, sondern das institutionelle Beharrungsvermögen. Staatliche Behörden oder große Banken haben keine eigenen IT-Abteilungen mehr, die ihre Software programmieren. Das ist zu kompliziert. Also gehen sie zu Unternehmen wie Capgemini oder Deloitte oder PWC und lassen sich das programmieren-und kommen sehr oft mit einem Pflichtenheft daher. Beim Auftraggeber herrscht also noch die alte Wasserfallmethode vor, bei den Programmieren arbeitet man schon agil. Das stimmt dann nicht mehr zusammen.
profil: Aber wie kann in einem agilen System so etwas wie Stabilität entstehen? Eine katastrophale Fehlerkaskade ist darin ja keineswegs ausgeschlossen.
Mayer-Schönberger: Ich unterstelle, dass Ihre Vorstellung von Software möglicherweise eine ingenieurhafte Vorstellung ist. Also die von einer Maschine, in der man, wenn etwas nicht rundläuft, eben eine Schraube austauscht. Stellen Sie sich Software aber einmal nicht wie einen physikalischen Prozess, sondern wie einen biologischen Vorgang vor. Es gibt in der vernetzten Software ständig so etwas wie Homöostase, also ein dynamisches Gleichgewicht, fast wie bei einem Lebewesen.
profil: Was heißt das nun für meine Angst vor Software-Fehlern?
Mayer-Schönberger: Wenn irgendwo ein Problem auftritt, wäre unser erster instinktiver Gedanke: Fahren wir alles herunter, korrigieren wir den Fehler und fahren das System dann wieder hoch. In modernen dynamischen Netzwerken ist das aber gar nicht mehr möglich. Das Elektrizitätsnetz der USA zum Beispiel ist in seiner Steuerung derart komplex, dass es, sobald es heruntergefahren wäre, einfach nicht mehr hochzufahren wäre. Weil es eben wie ein lebendes, homöostatisches System funktioniert, das nur im Gleichgewicht existieren kann. Das ist natürlich eine dramatische Tatsache. Wir sind von Systemen umgeben, die wie Lebewesen funktionieren und als solche natürlich auch aus dem Ruder laufen können. Es kann Krebs auftreten, oder ein Herzinfarkt.
profil: Aber im Grunde bewirkt Komplexität Stabilität? Das Kartenhaus hält sich selbst im Gleichgewicht?
Mayer-Schönberger: Ja, aber leider weiß ich nicht genau, wie es das macht. Und falls es einmal doch zusammenbricht, habe ich keine Möglichkeit, es wieder aufzubauen. Agilität bedeutet auch Fehlerakzeptanz. Darin sind wir als Spezies leider ganz schlecht. Ich übrigens auch.
