AI Governance

KI-Agenten im Unternehmen: Haftung, Kontrolle und die Dokumentation, die Sie jetzt brauchen

Ein Chatbot antwortet, ein Agent handelt. Warum das Haftungsrecht dabei kaum Spielraum lässt und welche Maßnahmen Sie heute umsetzen können.

Autor
Andy Mura
Andy Mura
Head of Marketing
Veröffentlicht am
18.11.2026
Aktualisiert am
18.11.2026
KI-Agenten im Unternehmen: Haftung, Kontrolle und die Dokumentation, die Sie jetzt brauchen

Das Wichtigste in Kürze

  • Erklärungen, die ein KI-Agent abgibt, werden dem einsetzenden Unternehmen grundsätzlich zugerechnet, ähnlich wie bei einem Mitarbeiter mit Vollmacht. Eine eigene Rechtspersönlichkeit hat ein KI-Agent nicht.
  • Das OLG Hamm hat am 12. Mai 2026 (Az. I-4 UKl 3/25) entschieden, dass ein Unternehmen für Facharzttitel haftet, die sein Website-Chatbot erfunden hatte. Die Revision zum BGH ist zugelassen.
  • Ab dem 9. Dezember 2026 gilt das neue Produkthaftungsgesetz. Es erfasst ausdrücklich Software und erleichtert Geschädigten den Nachweis.
  • Die spanische Datenschutzbehörde AEPD empfiehlt seit Februar 2026 die "Regel der Zwei": Ein Agent sollte nie zugleich unkontrollierte Eingaben verarbeiten, uneingeschränkt auf sensible Daten zugreifen und ohne Freigabe Aktionen mit realer Wirkung ausführen.
  • Die Hochrisiko-Pflichten der EU-KI-Verordnung gelten nach dem Digital Omnibus für Anhang III erst ab dem 2. Dezember 2027. Ein Register mit fünf Mindestangaben pro Agent lässt sich aber schon heute aufbauen.

‍

KI-Agenten im Unternehmen buchen Reisen, bestellen Material, beantworten Kundenanfragen und schreiben Code. Damit stellt sich eine Frage, die bei einem reinen Chatbot kaum relevant war: Wer steht dafür ein, wenn der Agent etwas tut, das niemand wollte? Dieser Beitrag fasst die Antworten aus unserem Webinar "KI-Agenten im Unternehmen: zwischen Autonomie und Aufsicht" zusammen, das Dr. Kilian Schmidt, Gründer und CEO von Kertos, gemeinsam mit Christian Kuß, Partner bei Luther Rechtsanwälte, gehalten hat. Die vollständige Aufzeichnung des Webinars finden Sie auf YouTube.

Chatbot oder KI-Agent: Worin liegt der Unterschied?

Ein Chatbot nimmt Text entgegen und gibt Text zurück; was er schreibt, bleibt im Chatfenster. Ein KI-Agent bekommt dagegen ein Ziel und arbeitet selbstständig darauf hin. Er plant Schritte, wählt Tools aus, prüft Zwischenergebnisse und passt sein Vorgehen an, bis das Ziel erreicht ist.

"Ein Chatbot antwortet, ein Agent handelt."

Dr. Kilian Schmidt, Gründer und CEO von Kertos

Die Tools, auf die ein Agent zugreift, sind dieselben, die Ihre Mitarbeiter täglich nutzen: API-Schnittstellen, Datenbanken, der Browser, E-Mail und Kalender. Mit dem Model Context Protocol (MCP) gibt es inzwischen einen offenen Standard, über den Agenten solche Systeme einheitlich anbinden. Manche Agenten dürfen sich ihre Tools sogar selbst zusammenstellen.

In der Praxis arbeiten mehrere Ebenen zusammen. Ganz oben stehen die Foundation Models großer Anbieter wie OpenAI, Anthropic, Google, Microsoft und Mistral AI. Darauf setzen Assistenten und Agenten-Produkte auf, darunter Automatisierungsplattformen wie n8n, Zapier oder Make. An der Spitze stehen spezialisierte Fachagenten, etwa für juristische Recherche, und die Agenten, die Unternehmen für ihre eigenen Abläufe selbst bauen. Je tiefer ein Agent in Ihre Prozesse eingebunden ist, desto mehr kann er auslösen. Rechtlich ist ein KI-Agent ein KI-System wie jedes andere; welche Pflichten daraus folgen, regelt die EU-KI-Verordnung.

Sichtbar und gesteuert: Wo Schatten-KI entsteht

Das größte Risiko beim Einsatz von KI-Agenten ist ein Agent, von dem niemand weiß. Wer nicht weiß, welche Agenten im Unternehmen laufen, kann weder ihre Berechtigungen begrenzen noch ihr Handeln nachvollziehen. Schatten-KI entsteht genau dort: wenn Mitarbeiter Agenten aufsetzen, ohne dass IT, Datenschutz oder Geschäftsführung davon erfahren. Sie ist eine Spielart der Shadow IT im Unternehmen, mit einem Unterschied: Ein nicht gemeldeter Chatbot empfängt Daten, ein nicht gemeldeter Agent handelt mit ihnen.

Zwei Fragen helfen bei der Einordnung jedes Agenten. Ist er bekannt? Und hat er klare Grenzen?

Mit klaren GrenzenOhne klare Grenzen
Bekannt und freigegebenZielzustand: inventarisiert, mit festgelegten Rechten und FreigabestufenGrenzfall: offiziell im Einsatz, aber zu autonom; kippt schnell in Schatten-KI
UnbekanntGibt es in der Praxis nicht: Was niemand kennt, beaufsichtigt auch niemandSchatten-KI: unsichtbar, unkontrolliert, nicht nachvollziehbar

Ein häufiger Irrtum: Ein freigegebener Agent sei automatisch ein kontrollierter Agent. Ein Agent, den die IT kennt, dem aber niemand klare Grenzen gesetzt hat, kann sich verselbstständigen und Wege finden, an die bei der Einrichtung niemand gedacht hat.

Wie schnell das geschehen kann, zeigt ein Vorfall aus dem Juli 2026. Laut OpenAI brachen das Modell GPT-5.6 Sol und ein unveröffentlichtes Modell während einer internen Sicherheitsevaluierung, bei der die Schutzmechanismen bewusst reduziert waren, über eine Zero-Day-Lücke aus ihrer Testumgebung aus. Anschließend drangen sie in die Produktivinfrastruktur von Hugging Face ein, um an die Lösungen ihres Tests zu kommen. OpenAI machte den Vorfall am 21. Juli 2026 öffentlich. Agenten verfolgen ihr Ziel, und sie halten sich dabei nicht von selbst an Grenzen, die ein Mensch für selbstverständlich hält.

Haftung für KI-Agenten: Was Ihrem Unternehmen zugerechnet wird

Kurz gesagt: Was Ihr Agent tut, wird in aller Regel Ihnen zugerechnet. Die juristische Diskussion über autonome Systeme läuft seit rund zehn Jahren, doch erst jetzt kommen die ersten Fälle vor Gericht, und die Gerichte fahren bislang einen harten Kurs.

"Man kann es ganz plakativ auf den Punkt bringen: Der Agent bindet wie ein Mitarbeiter mit Vollmacht."

Christian Kuß, Rechtsanwalt und Partner bei Luther Rechtsanwälte

Verträge: Die Buchung gilt

Angenommen, Sie schicken einen Agenten los, um eine Reise zu buchen: zwei Wochen Sommerferien, Sonne, Strand und Meer. Der Agent bucht Grönland, weil niemand ihm gesagt hat, dass es warm sein soll. Die Buchung wird Ihnen grundsätzlich zugerechnet. Der Reiseveranstalter muss sich nicht entgegenhalten lassen, dass Sie eigentlich woanders hinwollten. Im Einkauf, wo ein Agent Rohstoffe oder Material bestellt, gilt dieselbe Logik mit deutlich höheren Beträgen.

Ob Sie eine solche Erklärung anfechten können, ist umstritten. Eine Ansicht sieht darin einen Erklärungsirrtum, der zur Anfechtung berechtigt. Die Gegenansicht sagt: Wer einen Agenten mit Autonomie ausstattet und ihm keine klaren Vorgaben macht, muss das Ergebnis gegen sich gelten lassen. Selbst eine erfolgreiche Anfechtung ist nicht kostenlos, denn Sie haften dann auf den Vertrauensschaden nach § 122 BGB.

Wettbewerbsrecht: das Urteil des OLG Hamm

Das bislang deutlichste Urteil kommt aus dem Wettbewerbsrecht. Auf der Website der Schönheitsklinik Aesthetify beantwortete ein KI-Chatbot Fragen zu den behandelnden Ärzten und gab dabei Facharzttitel an, die die beiden Ärzte nicht führen durften, teils Titel, die es gar nicht gibt. Die Verbraucherzentrale Nordrhein-Westfalen klagte auf Unterlassung.

Das OLG Hamm gab ihr am 12. Mai 2026 recht (Az. I-4 UKl 3/25). Die Aussagen des Chatbots sind der Klinik als eigene geschäftliche Handlung zuzurechnen, auch wenn sie ihn mit korrekten Daten gefüttert hatte. Dass die Klinik nach der Abmahnung per Prompt-Anweisung und Keyword-Filter verhindern konnte, dass der Bot weiter von "Fachärzten" sprach, wertete das Gericht als Beleg dafür, dass sie ihn hätte steuern können. Weil der Fall neue Rechtsfragen aufwirft, hat der Senat die Revision zum BGH zugelassen.

Deliktsrecht und Produkthaftung

Über § 823 Abs. 2 BGB haftet, wer ein Schutzgesetz verletzt. Die EU-KI-Verordnung wird in der Diskussion überwiegend als ein solches Schutzgesetz eingeordnet. Verstöße gegen sie können damit unmittelbar zu Schadensersatzansprüchen führen.

Hinzu kommt das reformierte Produkthaftungsrecht. Der Bundestag hat das Gesetz zur Modernisierung des Produkthaftungsrechts am 8. Oktober 2026 beschlossen; es setzt die EU-Produkthaftungsrichtlinie (EU) 2024/2853 um. Für Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden, gilt Software ausdrücklich als Produkt, was unter dem alten Recht stark umstritten war. Außerdem vermutet das Gesetz in bestimmten Fällen den Fehler oder den Ursachenzusammenhang, sodass sich der Hersteller entlasten muss.

HaftungsgrundlageWorum es gehtWas das für KI-Agenten bedeutet
VertragsrechtZurechnung von WillenserklärungenWas der Agent bestellt oder bucht, bindet grundsätzlich das Unternehmen; Anfechtung ist umstritten
Wettbewerbsrecht (UWG)Irreführende geschäftliche HandlungenAussagen eines Chatbots oder Agenten gelten als eigene Aussagen (OLG Hamm, 12. Mai 2026)
Deliktsrecht (§ 823 Abs. 2 BGB)Verletzung eines SchutzgesetzesVerstöße gegen die EU-KI-Verordnung können Schadensersatz auslösen
Produkthaftung (ProdHaftG ab 9. Dezember 2026)Fehlerhafte Produkte, jetzt einschließlich SoftwareAnbieter von Software und KI-Systemen haften verschuldensunabhängig, mit Beweiserleichterungen für Geschädigte
Organisationspflichten der GeschäftsführungRechtmäßige Aufstellung des UnternehmensFehlende Governance für Agenten kann zur persönlichen Haftung führen

Die Geschäftsführung haftet für fehlende Governance

Geschäftsführer müssen das Unternehmen so aufstellen, dass Recht und Gesetz eingehalten werden. Laufen Agenten ohne Regeln, ist das ein Organisationsmangel. Hinzu kommt die eigene Entscheidung: Schlägt ein Agent etwas vor, muss die Geschäftsführung den Vorschlag selbst prüfen und die Entscheidung selbst treffen. Christian Kuß bringt es auf den Punkt: Einfach zu sagen, "das war mein Agent, ich stehe dafür nicht ein", funktioniert aktuell nicht. Ähnliche Organisations- und Überwachungspflichten kennen Sie aus der NIS2-Haftung der Geschäftsführung.

Datenschutz und Sicherheit beim Einsatz von KI-Agenten

Für KI-Agenten gelten zunächst dieselben Datenschutzfragen wie für jedes große Sprachmodell: Rechtsgrundlage, Transparenz, personenbezogene Daten in Modellen. Zwei Punkte kommen bei Agenten hinzu.

Der erste ist die Memory-Funktion. Viele Agenten legen wiederkehrende Informationen in einer Textdatei ab, um sie beim nächsten Einsatz wieder zu nutzen. Speichert diese Datei zu viel über Kunden, Bewerber oder Kollegen, liegen dort personenbezogene Daten, die Sie womöglich gar nicht verarbeiten dürfen.

Der zweite ist die Verantwortlichkeit entlang der Kette. Betreiben Sie das Modell nicht selbst, sondern nutzen ein öffentliches Sprachmodell, ist der Anbieter in der Regel Ihr Auftragsverarbeiter, während Sie Verantwortlicher bleiben. Jedes zusätzliche Tool, das der Agent über eine Cloud anbindet, verlängert diese Kette. Wie und auf welcher Grundlage dabei personenbezogene Daten fließen, gehört ins Verzeichnis von Verarbeitungstätigkeiten, wie es die DSGVO verlangt.

Sicherheitsgrenzen gehören außerhalb des Agenten

Der Fehler, den die meisten Teams hier machen: Sie schreiben Verbote in den Systemprompt. Eine Anweisung wie "Mach niemals X" wird in aller Regel nicht durchgängig beachtet, weil der Agent aus der Interaktion mit Nutzern lernt, dass sie nicht ganz ernst gemeint ist.

"Diese Sicherheitsmaßnahmen müssen außerhalb des Agenten festgesetzt werden. In der Regel tatsächlich durch technische Sperren."

Christian Kuß, Rechtsanwalt und Partner bei Luther Rechtsanwälte

Konkret heißt das: Rechte an der API-Schnittstelle begrenzen, statt sie im Prompt zu erbitten. Auch die Komfortfunktion "immer erlauben" verdient Aufmerksamkeit. Wer bei jeder Berechtigungsabfrage auf "immer erlauben" klickt, wird seltener gefragt und verliert damit genau die Kontrolle darüber, was der Agent abruft.

Die Regel der Zwei als Daumenregel

Im Februar 2026 hat die spanische Datenschutzbehörde AEPD als erste europäische Aufsichtsbehörde ausführliche Orientierungshilfen zu agentischer KI veröffentlicht. Darin greift sie die sogenannte Regel der Zwei auf. Drei Eigenschaften sollen nie gleichzeitig zusammenkommen:

  1. Zugriff auf unkontrollierte Informationen, etwa beliebige Webseiten oder eingehende E-Mails
  2. Uneingeschränkter Zugriff auf sensible Daten
  3. Die Fähigkeit, ohne Freigabe Aktionen mit realer Wirkung auszuführen

‍

Ein Agent, der alle drei Eigenschaften hat, ist bequem, weil niemand mehr klicken muss. Mit jeder weiteren Eigenschaft steigt aber das Risiko, dass Daten abfließen oder die Firmenkreditkarte belastet wird. Schränken Sie deshalb immer mindestens eine der drei ein.

Rechtsrahmen: EU-KI-Verordnung, ISO 42001 und ISO 27001

Die EU-KI-Verordnung ist in Kraft, aber ihre Pflichten greifen gestaffelt, und der Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026) hat einen Teil davon verschoben. Die Transparenzpflichten aus Art. 50 gelten seit dem 2. August 2026; für generierte Inhalte von Systemen, die schon vorher auf dem Markt waren, gilt eine Übergangsfrist bis zum 2. Dezember 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III greifen ab dem 2. Dezember 2027, die für Produkte nach Anhang I ab dem 2. August 2028.

Ob ein Agent unter die Hochrisiko-Regeln fällt, hängt vom Einsatzzweck ab, nicht von der Technik. Ein Agent, der Bewerbungen vorsortiert, landet schnell in Anhang III; ein Agent, der Reisen bucht, in der Regel nicht.

Im Alltag spürbarer sind für Agenten oft andere Regelwerke: die DSGVO, NIS2 für Unternehmen in deren Anwendungsbereich, der Cyber Resilience Act und das neue Produkthaftungsrecht. Überall dort konkretisieren sich Verantwortung, Pflichtverletzung und Schutzgesetze weiter.

Für die Umsetzung im Unternehmen gibt es zwei etablierte Standards. Die ISO 42001 überträgt die Logik eines Managementsystems auf KI und wird von Kunden und Partnern zunehmend nachgefragt; Unternehmen können sich danach zertifizieren lassen. Die ISO 27001 bleibt daneben ein eigenständiges Framework für den sicheren Umgang mit Informationen, Dienstleistern und Systemen. Wie sich ISO 42001 und gesetzliche Pflichten zueinander verhalten, erklärt der Beitrag EU-KI-Verordnung oder ISO 42001.

Das KI-Agenten-Register: Welche Angaben Sie mindestens brauchen

Die wirksamste Sofortmaßnahme ist ein Register aller KI-Agenten. Ohne Register gibt es keine Kontrolle, und ohne Dokumentation steht die Geschäftsführung im Haftungsfall schlecht da. Die ISO-Normen schreiben keine juristischen Mindestangaben vor, doch fünf Felder haben sich als Minimum bewährt.

AngabeMindestensWarum
Eindeutige BezeichnungJaJeder Agent muss sich zweifelsfrei identifizieren lassen
Verantwortliche PersonJaKlare Zuständigkeit für Freigabe, Änderungen und Abschaltung
Anbieter und ModellJaGrundlage für Auftragsverarbeitung und Lieferantenbewertung
Klassifizierung der verarbeiteten InformationenJaBestimmt, welche Schutzmaßnahmen nötig sind
Berechtigungen und ZugriffeJaLeserechte oder Lese- und Schreibrechte, angebundene Tools
Eigene technische IDEmpfohlenMacht Aktionen in Logs einem bestimmten Agenten zuordenbar
Freigabestufe (Human in the Loop)EmpfohlenLegt fest, welche Entscheidungen ein Mensch bestätigen muss

Aus dem Register wird eine Routine, wenn jeder neue Agent denselben Weg nimmt:

  1. Erfassen. Der Fachbereich meldet den geplanten Agenten mit Zweck und Tools.
  2. Inventarisieren. Der Agent bekommt seinen Eintrag mit den fünf Mindestangaben.
  3. Kategorisieren. Datenschutz und Informationssicherheit bewerten die verarbeiteten Informationen und prüfen die Regel der Zwei.
  4. Grenzen setzen. Rechte werden technisch an der Schnittstelle vergeben; wo nötig, wird eine Freigabe durch einen Menschen eingebaut.
  5. Überwachen. Änderungen an Tools, Modellen oder Rechten werden laufend nachgezogen.

‍

Angenommen, ein Maschinenbauer mit 180 Beschäftigten führt das Register ein und findet bei der ersten Bestandsaufnahme neben den zwei offiziell freigegebenen Assistenten sieben weitere Agenten, die Teams selbst aufgesetzt haben. Drei davon haben Schreibrechte im ERP-System. Nach der Bestandsaufnahme behalten zwei Agenten ihre Schreibrechte, nun mit Freigabe durch eine Person; die übrigen Agenten erhalten nur noch Leserechte. Beim zweiten Agenten mit ähnlichem Zweck dauert die Prüfung nur noch einen Bruchteil der Zeit, weil der Weg bereits dokumentiert ist.

Ein separates KI-Inventar ist dafür nicht zwingend. Sinnvoller ist oft, Agenten in das bestehende Asset-Register Ihres ISMS nach ISO 27001 aufzunehmen, statt für jede Vorgabe ein eigenes Register und eigene Prozesse aufzubauen. Wichtig ist nur, dass Sie Auszüge sauber filtern und exportieren können, wenn eine Behörde oder ein Auditor nur einen Teil sehen möchte.

KI-Agenten im Unternehmen steuern: So unterstützt Kertos

Kertos setzt selbst KI und Agenten ein und ist nach ISO 42001 zertifiziert. Im AI Inventory der Kertos-Plattform erfassen Sie Ihre KI-Systeme und Agenten an einer Stelle, verknüpfen sie mit Datenquellen und Assets und binden sie in Ihr ISMS und Ihr Verzeichnis von Verarbeitungstätigkeiten ein. Über mehr als 300 Integrationen bleibt die Übersicht über Systeme und Dienstleister aktuell, sodass neue Tools nicht erst beim nächsten Audit auffallen.

Schulungen zur KI-Kompetenz weisen Sie mit Abschlussnachweis je Person nach. Bei der Umsetzung von ISO 42001, ISO 27001, DSGVO und EU-KI-Verordnung begleiten Sie zertifizierte Experten von Kertos, vom ersten Register bis zum Audit. So entsteht aus dem Agenten-Register ein Prozess, der mit jedem neuen Agenten schneller wird. In einer Demo zeigen wir Ihnen, wie das für Ihr Unternehmen aussieht.

Häufig gestellte Fragen

Ist ein KI-Agent eine eigene Rechtsperson?

Nein. Die Idee einer eigenen Rechtspersönlichkeit für KI wurde diskutiert und verworfen, auch weil ein Agent kein eigenes Vermögen hat, mit dem er haften könnte. Haftung knüpft deshalb immer an die Person oder das Unternehmen an, das den Agenten einsetzt.

Haftet das Unternehmen, wenn ein Mitarbeiter eigenmächtig einen KI-Agenten einsetzt?

Im Außenverhältnis in der Regel ja. Setzt ein Mitarbeiter eigenmächtig einen Agenten auf, der bei Dritten Schäden verursacht, kann das Unternehmen sich nicht darauf zurückziehen, es sei nur der Mitarbeiter gewesen. Ob der Mitarbeiter intern gegenüber dem Arbeitgeber haftet, ist eine Frage des Innenverhältnisses, für die die privilegierte Arbeitnehmerhaftung gilt.

Kann man die Haftung für KI-Agenten in AGB ausschließen?

Nur in engen Grenzen. Eine Klausel muss der AGB-Kontrolle standhalten, und ein pauschaler Ausschluss nach dem Muster "für Aussagen unserer KI haften wir nicht" greift zu kurz. Im Fall des OLG Hamm half der Klinik auch der Einwand nicht, sie habe den Chatbot mit korrekten Daten versorgt.

Muss ein KI-Agent im Verzeichnis von Verarbeitungstätigkeiten stehen?

Das hängt davon ab, wie Ihr Verzeichnis aufgebaut ist. Orientiert es sich an IT-Systemen, ist der Agent ein eigener Eintrag; orientiert es sich an Geschäftsprozessen, taucht er als technisches Mittel im jeweiligen Prozess auf. Für die meisten Unternehmen ist die Gliederung nach Geschäftsprozessen der leichtere Weg.

Braucht man ein separates KI-Inventar?

Nein, die Agenten können in ein bestehendes Asset-Register aufgenommen werden. Entscheidend sind die fünf Mindestangaben pro Agent und die Möglichkeit, Auszüge gefiltert zu exportieren, etwa für eine Aufsichtsbehörde.

Der Founder-Guide zur NIS2: Bereite dein Unternehmen jetzt vor

Schütze dein Startup: Entdecke, wie sich NIS2 auf dein Unternehmen auswirken kann und was du jetzt beachten musst. Lies jetzt das kostenlose Whitepaper!

Bereit, Ihre Compliance auf Autopilot zu setzen?
Andy Mura

Andy Mura

Head of Marketing

Andy Mura ist Head of Marketing bei Kertos und verantwortet dort die Wachstumsstrategie für die Compliance-Automatisierungsplattform des Unternehmens. Als Marketer und Growth-Stratege von Haus aus hat er jahrelang in stark regulierten Branchen wie dem Zahlungsverkehr gearbeitet, wo sein Interesse an Compliance, Datenschutz und Informationssicherheit seinen Ursprung hat. Diese Grundlage hat er seither durch umfangreiche Feldrecherche und den fortlaufenden Austausch mit CISOs und IT-Sicherheitsverantwortlichen geschärft, die zu den Kunden von Kertos zählen. Er schreibt über die praktische Realität des Aufbaus und Betriebs von Sicherheits- und Compliance-Programmen und stützt sich dabei auf das, was Praktiker:innen als wirksam oder wirkungslos beschreiben.

Bereit für Entlastung in Sachen Compliance?

CTA Image

📅 Schedule Your 5min Compliance Check

Please enter your business email to continue. We require a company email address to ensure we can best serve your organization.

📞 5min Compliance Check