
Je leistungsfähiger KI wird, desto weniger reicht Vertrauen allein: Gefährliche Fähigkeiten brauchen überprüfbare Grenzen und menschliche Kontrolle.
Norman Müller, Bundesverband für KI-Transformation e.V., plädiert für einen nüchternen Umgang mit den Sicherheitsrisiken leistungsfähiger KI-Systeme. Die entscheidende Frage sei nicht, ob jede KI bereits als Waffe gelten müsse, sondern welche Fähigkeiten entstehen, wie weit deren Wirkung reicht und ob die menschliche Kontrolle damit Schritt hält.
Noch werde KI häufig wie besonders leistungsfähige Bürosoftware betrachtet: Sie schreibt, programmiert und recherchiert. Sobald Systeme jedoch eigenständig handeln, auf andere Systeme zugreifen oder in militärische Entscheidungen eingebunden werden, geht es laut Müller um reale Entscheidungsmacht – und damit um die Frage, wer diese Macht begrenzt und was bei einem Kontrollverlust geschieht.
Wie ernst die Diskussion genommen werden sollte, zeigen auch Stimmen aus der KI-Forschung. Der Forscher Jacob Coxon warf Anthropic und OpenAI vor, im Rennen um immer leistungsfähigere Systeme zu weit zu gehen. Anthropic-Forscher Evan Hubinger bezifferte seine persönliche Einschätzung eines existenziellen KI-Risikos innerhalb des kommenden Jahrzehnts auf mehr als 10%. Müller betont allerdings ausdrücklich, dass dies keine wissenschaftlich gemessene Wahrscheinlichkeit darstellt.
Auch Anthropic-Chef Dario Amodei fordert inzwischen, die Verbesserung der leistungsfähigsten Modelle zu verlangsamen, damit die Sicherheitsarbeit Schritt halten kann. Vorgeschlagen werden dauerhaft eingebundene externe Prüfer. Eine freiwillige Selbstverpflichtung sei allerdings etwas anderes als eine verbindliche Kontrollordnung.
Besonders deutlich wird die Problematik bei autonomen Waffensystemen. Das Internationale Komitee vom Roten Kreuz fordert verbindliche internationale Regeln für Systeme, die nach ihrer Aktivierung Ziele ohne weiteres menschliches Eingreifen auswählen und bekämpfen können. Ein fehlerhafter Text lasse sich korrigieren, die Folgen eines tödlichen Angriffs dagegen nicht rückgängig machen.
Müller sieht dabei Parallelen zur nuklearen Kontrolle. Uran und Software seien zwar grundverschieden, die dahinterliegende Einsicht sei aber übertragbar: Technologien mit friedlichen Einsatzmöglichkeiten können zugleich Fähigkeiten hervorbringen, deren Missbrauch besondere internationale Kontrolle rechtfertigt. Bei KI müsse die Prüfung daher an konkreten Fähigkeiten und Einsatzbedingungen ansetzen – eine Schreibassistenz sei anders zu behandeln als ein autonom handelndes System mit Zugriff auf kritische Infrastruktur.
Für Müller gehören Innovation und Kontrolle deshalb zusammen. Wer jede Aufsicht als Innovationsfeindlichkeit abtue, gefährde langfristig auch die Akzeptanz der Technologie. Sicherheit könne Veröffentlichungen verzögern, Einsatzmöglichkeiten begrenzen oder Kosten verursachen – genau dann müsse sich zeigen, ob Verantwortung mehr sei als ein Versprechen.
Norman Müller ist im Bundesverband für KI-Transformation e.V. aktiv. Sein Plädoyer: Wer KI mit potenziell katastrophaler Wirkung entwickelt, darf ihre Grenzen nicht allein bestimmen – menschliche Kontrolle muss nachweisbar sein, bevor ihr Verlust zum Beweis wird.
———-
BondGuide nutzt KI zum Orthografie-Check sowie bei Bildern, Kollagen oder Grafiken.
! NEU ! Die erste BondGuide Jahresausgabe 2026 ist erschienen (12.Mai): ‚Green & Transition Finance 2026‘ kann wie gewohnt kostenlos als e-Magazin oder pdf heruntergeladen werden.
Bitte nutzen Sie für Fragen und Meinungen Twitter – damit die gesamte Community davon profitiert. Verfolgen Sie alle Diskussionen & News zeitnaher auf Twitter@bondguide !

