Künstliche Intelligenz eröffnet Unternehmen enorme Chancen, stellt Führungskräfte aber auch vor neue Herausforderungen. Besonders die Themen Verantwortung, Kontrolle und Governance gewinnen zunehmend an Bedeutung. Im Gespräch mit Mathias Herrmann sprechen wir darüber, warum Ownership auch im Zeitalter von KI eine zentrale Führungsaufgabe bleibt und wie Unternehmen Innovation und Vertrauen erfolgreich verbinden können.
Frage 1: Viele Unternehmen experimentieren derzeit mit KI. Warum wird die Frage der Kontrolle und Governance Ihrer Meinung nach wichtiger als die Frage der reinen Technologie?
Mathias Herrmann: Weil die technologische Leistungsfähigkeit inzwischen nicht mehr der eigentliche Bottleneck ist. Die Modelle werden besser, die Tools zugänglicher, und fast jedes Unternehmen kann heute mit KI experimentieren. Die eigentliche Frage ist aber nicht mehr, ob KI etwas kann, sondern unter welchen Bedingungen sie sich produktiv, verantwortbar und dauerhaft im Unternehmen einsetzen lässt. Sobald KI nicht nur assistiert, sondern vorbereitet, entscheidet oder auf bestehende Systeme einwirkt, verschiebt sich der Fokus automatisch auf Kontrolle. Dann geht es um Freigaben, Nachvollziehbarkeit, Datenflüsse, erlaubte Aktionen und Verantwortlichkeiten. Genau dort trennt sich Spielerei von echter Unternehmensfähigkeit. Ich glaube deshalb, dass Governance nicht der Bremsklotz der KI-Einführung ist, sondern ihre Voraussetzung. Wer nur auf Modellleistung schaut, baut Demos. Wer Kontrolle, Auditierbarkeit und Governance mitdenkt, baut belastbare Infrastruktur.
Frage 2: Der EU AI Act wird oft als regulatorische Herausforderung betrachtet. Welche Chancen bietet er Unternehmen, die sich frühzeitig mit KI-Governance und verantwortungsvollen Strukturen beschäftigen?
Mathias Herrmann: Der EU AI Act wird häufig als Einschränkung gelesen. Ich halte das für zu kurz gedacht. Für Unternehmen, die früh saubere Governance-Strukturen aufbauen, ist Regulierung vor allem ein Hebel zur Professionalisierung und Differenzierung. Denn am Ende schafft Regulierung einen Markt, in dem nicht der gewinnt, der am schnellsten irgendeinen KI-Use-Case live stellt, sondern derjenige, der KI belastbar, nachvollziehbar und dauerhaft anschlussfähig an reale Unternehmensprozesse einführen kann. Genau das ist für große Organisationen entscheidend. Frühzeitige KI-Governance schafft deshalb mehrere Vorteile: Sie reduziert spätere Umbaukosten, erhöht die interne Handlungsfähigkeit, und stärkt Vertrauen bei Kunden, Partnern und Aufsichtsbehörden. Vor allem aber verhindert sie, dass Unternehmen in einen wilden Flickenteppich aus KI-Tools hineinlaufen, den sie später teuer wieder aufräumen müssen.
Frage 3: Agentische KI-Systeme können zunehmend eigenständig Aufgaben übernehmen und Entscheidungen vorbereiten. Welche Verantwortung bleibt dabei bei Führungskräften und wo liegen die Grenzen der Delegation an KI?
Matthias Herrmann: Verantwortung bleibt immer beim Unternehmen und damit letztlich bei den Menschen, die Systeme freigeben, einsetzen und steuern. KI verschiebt Teile der eigentlichen Arbeit und Leistungserbringung, aber sie verschiebt nicht Verantwortung. Führungskräfte müssen deshalb vor allem drei Dinge klären: Erstens, welche Entscheidungen überhaupt delegierbar sind. Zweitens, unter welchen Regeln, Freigaben und Kontrollmechanismen das geschieht. Und drittens, wo die logische und regulatorische Grenze erreicht ist, an der ein menschliches Urteil unverzichtbar bleibt. Die Delegation an KI ist dort sinnvoll, wo Prozesse wiederkehrend, regelgebunden und kontrollierbar sind. Sie endet dort, wo rechtliche, ethische oder wirtschaftlich wesentliche Entscheidungen ohne ausreichende Nachvollziehbarkeit getroffen würden. Die Kernfrage lautet also nicht: „Kann die KI das?“ Sondern: „Dürfen wir das in diesem Kontext delegieren – und können wir es im Zweifel erklären?“
Frage 4: Welche Fehler beobachten Sie aktuell bei Unternehmen im Umgang mit Künstlicher Intelligenz – und welche Maßnahmen sollten Entscheider jetzt ergreifen, um langfristig wettbewerbsfähig zu bleiben?
Matthias Herrmann: Der häufigste Fehler ist aus meiner Sicht, KI als reines Tool-Thema zu behandeln. Viele Unternehmen diskutieren Modelle, Plattformen und Lizenzen, aber nicht die Frage, wie KI kontrolliert in ihre reale Wertschöpfung eingebettet wird. Der zweite Fehler ist, dass man zu stark auf Assistenz-Use-Cases schaut und zu wenig auf die eigentlichen operativen Hebel. Die großen Effizienz- und Transformationspotenziale liegen oft nicht in netten Oberflächen oder generischen Copiloten, sondern in Ausnahmefällen, Freigabeprozessen, komplexem Casework und systemübergreifender Bearbeitung. Und der dritte Fehler ist fehlende Investitionslogik. Viele Unternehmen binden ihre Prozessintelligenz heute implizit an einzelne Plattformen oder Anbieter, obwohl völlig offen ist, welche Technologien oder Agenten-Stacks sich in zwei oder drei Jahren schlussendlich durchsetzen. Entscheider sollten jetzt vor allem drei Dinge tun: Erstens, eine klare Governance-Architektur für KI aufbauen. Zweitens, die richtigen operativen Use Cases priorisieren – also dort anfangen, wo echter Wert und echte Komplexität liegen. Und drittens, ihre Investitionen so strukturieren, dass Skills, Workflows und Kontrolllogiken nicht an eine einzelne Agentenplattform verloren gehen.
Frage 5: Wenn Sie Geschäftsführern und Führungskräften nur einen Rat für die nächsten zwölf Monate geben könnten: Was sollten sie heute tun, um Innovation, Compliance und Vertrauen erfolgreich miteinander zu verbinden?
Matthias Herrmann: Mein Rat wäre: Bauen Sie nicht einfach KI ein – bauen Sie Kontrollfähigkeit auf und fokussieren Sie dabei auf Erklärbarkeit und Nachvollziehbarkeit. Die entscheidende Fähigkeit der nächsten zwölf Monate wird nicht sein, möglichst viele KI-Experimente zu starten; sondern, ob ein Unternehmen in der Lage ist, KI so einzusetzen, dass Innovation, Compliance und Vertrauen im Tagesgeschäft verlässlich zusammen funktionieren und sich nicht gegenseitig blockieren. Wer das ernst meint, braucht einen klaren Rahmen für Governance, Datenzugriffe, Verantwortlichkeiten, Freigaben und Auditierbarkeit. Nur dann wird aus KI ein nachhaltig produktiver Bestandteil des Unternehmens und nicht ein kurzfristiger Hype mit langfristigem Risiko. Innovation und Vertrauen sind kein Widerspruch. Aber sie kommen nicht automatisch zusammen. Man muss die Infrastruktur dafür bewusst bauen.
