In meinem früheren Unternehmen unterschrieb ich mit „i.V.“.

Das war kein hübscher Zusatz vor meinem Namen.

Damit waren Befugnisse verbunden. Verantwortung. Und Grenzen.

Es war festgelegt, wofür ich das Unternehmen auch nach außen hin vertreten durfte, welche Prozesse galten und wann eine zweite Person mitzeichnen musste. Das Vier-Augen-Prinzip gehörte einfach dazu.

 
Manche Regel kostete Zeit. Und wahrscheinlich habe nicht nur ich das eine oder andere Mal darüber gestöhnt. Doch das hatte auch sein Gutes.

Denn stellen wir uns kurz das Gegenteil vor:

Jede und jeder könnte einfach im Namen des Unternehmens Verträge schließen, Verpflichtungen eingehen oder Entscheidungen nach außen vertreten.

Das würde vermutlich sehr teuer werden.

Unternehmen haben deshalb über Jahrzehnte sehr genau festgelegt, wer was in ihrem Namen tun darf.

Und jetzt kommen agentische KI-Systeme.

Sie können längst mehr, als nur Fragen zu beantworten oder Texte zu erstellen.

Sie können Aufgaben verfolgen, Informationen beschaffen, andere Systeme aufrufen und mehrere Schritte nacheinander ausführen. Und auch nach außen auftreten.

Bisher lautete eine typische Frage:
„Worauf kann das System technisch zugreifen?“

Bei agentischer KI kommt jetzt eine weitere hinzu:
„Welche Handlungsvollmacht geben wir ihm?“

Einem Menschen würde ein Unternehmen normalerweise nicht sagen:

„Hier sind unsere Daten & Systeme. Hier ist das Ziel. Such Dir den besten Weg, Hauptsache es geht schnell und das Ergebnis stimmt.“

Zumindest hoffe ich das.

Bei einem Menschen überlegen wir, welche Befugnisse er braucht. Welche Grenzen gelten. Wann jemand anderes zustimmen muss. Und was zu tun ist, wenn die Situation vom vorgesehenen Ablauf abweicht.

Bei einem KI-Agenten sollten wir mindestens genauso exakt festlegen, was er darf.

Denn ein agentisches System kann sehr konsequent das Ziel verfolgen, das wir ihm gegeben haben. 

Jeder einzelne Prozessschritt kann für sich betrachtet erlaubt sein.

Trotzdem kann die Folge mehrerer Schritte zu einem Ergebnis führen, das niemand so gewollt hat.

Dann hilft der Satz „Das System durfte das doch“ leider überhaupt nicht.

Doch die spannendere Frage lautet in diesem Zusammenhang:

Wer hat eigentlich entschieden, dass es all diese Schritte miteinander verbinden darf?

Da hilft auch das Etikett „Human in the Loop“ wenig, wenn niemand festgelegt hat, was dieser Mensch tun darf.

Denn ein Mensch, der am Ende nur noch nebenbei auf „Bestätigen“ klickt, ist keine wirksame Kontrolle. 

Er muss wissen, was er im System prüfen soll. Er braucht Informationen. Und er braucht die Befugnis, Nein zu sagen oder einen Vorgang zu stoppen. 

Unternehmen kennen solche Prinzipien seit Jahrzehnten:
Befugnisse, Freigabegrenzen, Gegenzeichnung, Eskalation, Vertretungsregeln.

Wer früher über genaue Prozesse, Rollen und Vier-Augen-Prinzipien gestöhnt hat, sollte sich deshalb bewusst sein:

Das war nur die Vorübung.

Und wer bei Befugnissen, Zuständigkeiten und Verantwortlichkeiten bisher schon großzügig gearbeitet hat, bekommt mit agentischen Systemen kein neues IT-Problem.

Er bekommt schlicht und ergreifend die Quittung für alte Versäumnisse präsentiert.

Agentische KI zwingt Unternehmen deshalb zu einer Frage, die weit über Technik hinausgeht:

Wer oder was darf in unserem Namen nach außen wirksam handeln. Und bis wohin?

Zum Weiterdenken:
Welche Entscheidungen Unternehmen beim Einsatz von KI selbst behalten sollten, behandle ich ausführlicher in meinem Executive Briefing „KI einführen, ohne das Steuer aus der Hand zu geben“.