KI wird zum unverzichtbaren Bestandteil von Unternehmen und Infrastruktur. Norman Müller warnt vor einem Punkt, an dem Abschalten kaum noch möglich ist.
Norman Müller beschäftigt sich als Autor des Venture AI Stack mit den Folgen zunehmender KI-Abhängigkeit. Seine zentrale These: Der kritische Punkt ist nicht erreicht, wenn KI technisch nicht mehr abgeschaltet werden kann, sondern wenn eine Gesellschaft die wirtschaftlichen, organisatorischen oder sicherheitspolitischen Folgen einer Abschaltung nicht mehr tragen könnte.
Müller nennt diesen Zustand Dependency Horizon. Unternehmen könnten schrittweise Prozesse um KI herum organisieren, Personalplanung und Preise an die höhere Leistungsfähigkeit anpassen und damit Alternativen abbauen. Jeder einzelne Schritt mag wirtschaftlich sinnvoll sein. In der Summe könne daraus jedoch eine Abhängigkeit entstehen, weil Mitarbeiter und Prozesse die frühere Leistungsfähigkeit ohne KI nicht mehr erreichen.
Dabei sei Abhängigkeit von Technologie zunächst kein Argument gegen Fortschritt. Entscheidend sei vielmehr, ob Unternehmen Fehler begrenzen, Ausfälle auffangen und auf Ersatzlösungen zurückgreifen können. Ein leistungsfähiges Modell müsse nicht kritisch sein – ein vergleichsweise einfaches System könne dagegen unverzichtbar werden, wenn ein Unternehmen einen wesentlichen Prozess darauf aufbaut und keine Alternative vorhält.
Besonders trügerisch sei deshalb die Annahme, im Notfall könnten Mitarbeiter einfach übernehmen. Zuständigkeit ist nicht gleich Fähigkeit: Ein Team, das zehn schwierige Fälle pro Tag bewältigt, kann nicht automatisch zehntausend automatisierte Vorgänge übernehmen.
Risiko liegt auch zwischen den Systemen
Die Abhängigkeit endet zudem nicht an Unternehmensgrenzen. Wenn Logistik, Produktion, Banken und Energieversorger ihre Entscheidungen zunehmend aufeinander abstimmen, können sich einzelne, für sich betrachtet nachvollziehbare Optimierungen zu einem systemischen Risiko entwickeln. Das Financial Stability Board verwies bereits auf Konzentrationsrisiken bei KI-Dienstleistern und mögliche stärkere Korrelationen an den Märkten.
Auch bei Cyberabwehr und militärischer Nutzung kann daraus ein zusätzlicher Abhängigkeitstreiber entstehen. Wer KI benötigt, um Angriffe schnell genug abzuwehren, wird einen Verzicht möglicherweise als Sicherheitsrisiko betrachten. Zugleich können automatisierte Abwehrmaßnahmen selbst Schäden verursachen.
Abschalten muss echte Option bleiben
Müllers Schlussfolgerung ist deshalb weniger ein Plädoyer gegen KI als für Resilienz. Unternehmen sollten Ausfälle simulieren und prüfen, welche Aufgaben Menschen tatsächlich übernehmen könnten, welche Daten verfügbar blieben und wie lange ein eingeschränkter Betrieb aufrechterhalten werden könnte.
Solche Reserven kosten zunächst Geld und wirken im normalen Betrieb möglicherweise unproduktiv. Sie schaffen jedoch Handlungsspielraum. Wer über eine tragfähige Alternative verfügt, kann ein problematisches System begrenzen, ersetzen oder abschalten. Wer diese Alternative aufgegeben hat, muss womöglich weiterlaufen lassen und hoffen, dass der nächste Fehler beherrschbar bleibt.
Essayist Norman Müller
Der entscheidende Punkt liegt damit nicht bei der Frage, ob KI abgeschaltet werden kann. Sondern ob wir uns den Luxus erhalten, es tatsächlich zu tun. Genau dort beginnt der Dependency Horizon.
Norman Müller engagiert sich im Bundesverband für KI-Transformation e.V.. Dessen Ansatz: Der Mittelstand brauche weniger Modellschau und mehr Orientierung bei Anwendungsfällen, Verantwortung und Umsetzung von KI und AI.
———-
BondGuide nutzt KI zum Orthografie-Check sowie bei Bildern, Kollagen oder Grafiken.
! NEU ! Die erste BondGuide Jahresausgabe 2026 ist erschienen (12.Mai): ‚Green & Transition Finance 2026‘ kann wie gewohnt kostenlos als e-Magazin oder pdf heruntergeladen werden.
Bitte nutzen Sie für Fragen und Meinungen Twitter – damit die gesamte Community davon profitiert. Verfolgen Sie alle Diskussionen & News zeitnaher auf Twitter@bondguide !