Blog · Digital Sense – The Human Side of AI
KI im Unternehmen: Verantwortung lässt sich nicht delegieren
Wenn ein KI-System irrt, haftet nicht einfach „der Algorithmus“. Entscheidend sind Einsatz, menschliche Kontrolle und die Frage, wer den Schaden verursacht hat – und belegen kann, wie es dazu kam.
„Das hat die KI gemacht“ klingt nach einer Erklärung, ist aber keine Antwort auf die Frage nach Verantwortung. Unternehmen setzen KI für Kundenanfragen, Bewerbungen, Bewertungen und Bestellungen ein. Wenn dabei Fehler entstehen, muss geklärt werden, wer gehandelt hat, wer die Folgen trägt und wie sich der Ablauf überhaupt nachvollziehen lässt.
KI ist kein eigener Rechtsträger
Ein KI-System kann Ergebnisse erzeugen und Aufgaben ausführen. Rechtlich ist es nach der im Gespräch erläuterten Einordnung aber keine Person, die selbst Verträge schließen oder für einen Schaden einstehen kann. Verantwortung muss deshalb anderen Beteiligten zugerechnet werden – je nach Fall etwa dem Hersteller, Anbieter, Betreiber oder Nutzer.
Das bedeutet nicht, dass immer dieselbe Partei haftet. Es kommt darauf an, wer das System entwickelt oder eingesetzt hat, welche Rolle es im Prozess spielte und wodurch der Schaden entstanden ist. Auch bestehende Regeln können relevant sein: Sie sind vielfach technikneutral formuliert und lassen sich grundsätzlich auf neue Technologien anwenden.
Die Black Box macht den Nachweis schwierig
Bei klassischer Software lässt sich eine Eingabe oft mit einer festgelegten Regel und einem erwartbaren Ergebnis verbinden. KI-Systeme können dagegen Ergebnisse liefern, die sich nicht vollständig vorhersagen lassen. Hinzu kommt, dass ihre internen Verarbeitungsschritte häufig schwer nachvollziehbar sind.
Für einen Haftungsfall ist das mehr als ein technisches Ärgernis. Es kann schwierig sein, die Ursache eines Schadens festzustellen und nachzuweisen, welcher Beitrag von einem Anbieter oder Nutzer dazu geführt hat. Im Gespräch mit den Hosts Dr. Lucien André Reuter und Yvonne Faoual beschreibt Moritz Leder genau diese Beweisfrage als zentrale Herausforderung: Nicht nur die Haftungsregel zählt, sondern auch, ob sich der Weg zum Fehler rekonstruieren lässt.
Dokumentation und Transparenz können dabei helfen. Sie ersetzen keine Prüfung im Einzelfall, schaffen aber eine bessere Grundlage dafür, Entscheidungen, Zuständigkeiten und Systemverhalten nachzuvollziehen.
Je mehr die KI übernimmt, desto größer das Risiko
Besonders deutlich wird die Frage bei KI-Agenten, die eigenständig Aufgaben erledigen. Wenn ein System etwa eine Unterkunft auswählt und bucht, hängt das Risiko auch davon ab, wie viel der Vertragsentscheidung tatsächlich an die KI abgegeben wurde.
Übernimmt sie nur einen klar begrenzten, unterstützenden Schritt, ist die Situation eine andere, als wenn sie Auswahl und Erklärung weitgehend selbstständig erledigt. Wer ein System für einen solchen Zweck einsetzt, sollte deshalb vorab festlegen, welche Entscheidungen es treffen darf, welche Parameter gelten und wann eine menschliche Bestätigung nötig ist. Eine allgemeine Zustimmung zur Nutzung einer KI klärt nicht automatisch jede einzelne Entscheidung.
Typische Einsatzfälle brauchen unterschiedliche Leitplanken
Ein Chatbot kann falsche oder verletzende Aussagen erzeugen. Ein allgemeiner Hinweis, dass KI Fehler machen kann, beseitigt nicht automatisch jedes Haftungsrisiko. Wichtig sind unter anderem der konkrete Inhalt, der Einsatzbereich und die Frage, ob sich ein Unternehmen eine Aussage zu eigen macht, etwa indem es sie auf der eigenen Plattform veröffentlicht.
Auch bei Personalentscheidungen ist menschliche Aufsicht zentral. Im Gespräch wird die vollständig automatisierte Bewerbungsentscheidung als problematisch eingeordnet; Systeme für solche Zwecke können zudem unter besondere Anforderungen für Hochrisiko-KI fallen. Für Unternehmen folgt daraus: KI kann bei der Vorbereitung unterstützen, doch die finale Entscheidung sollte nicht unbesehen an das System abgegeben werden.
Bei Verträgen gilt ebenfalls: Ein automatisierter Ablauf kann schiefgehen, und die Folgen können den Verwender treffen. Vor allem wenn die KI wesentliche Bestandteile der Auswahl oder Erklärung übernimmt, sollten Unternehmen genau prüfen, welche Risiken sie damit eingehen.
KI-Governance beginnt mit einem Inventar
Moritz Leder empfiehlt Unternehmen, zunächst Klarheit darüber zu schaffen, welche KI-Systeme im Einsatz sind und welche Rolle das Unternehmen jeweils einnimmt. Daraus lässt sich ableiten, welche Regeln und Kontrollen erforderlich sind. Ein praktikabler Start kann so aussehen:
- KI-Anwendungen erfassen: Welche Systeme werden verwendet, von wem und für welche Aufgaben?
- Zuständigkeiten festlegen: Wer prüft Ergebnisse, überwacht den Einsatz und reagiert auf Fehler?
- Daten und Grenzen klären: Welche Informationen dürfen eingegeben werden, und welche Anwendungen sind ausgeschlossen?
- Menschliche Kontrolle einplanen: Welche Entscheidungen brauchen eine Prüfung oder ausdrückliche Freigabe?
- Einsatz dokumentieren: Welche Entscheidungen, Prüfungen und relevanten Systeminformationen sollten nachvollziehbar festgehalten werden?
- Nutzen gegen Risiken abwägen: Löst KI ein konkretes Problem – oder wird sie vor allem eingesetzt, weil sie verfügbar ist?
Dabei geht es nicht darum, jedes technische Detail zu verstehen. Entscheidend ist, den konkreten Einsatz zu kennen und passende Rahmenbedingungen zu schaffen. Datenschutz und der Schutz vertraulicher Informationen bleiben dabei ebenso relevant wie mögliche Anforderungen an Dokumentation, Transparenz und menschliche Aufsicht.
Moritz Leder weist außerdem auf Risiken rund um KI-generierte Inhalte hin: Solche Ergebnisse genießen nicht automatisch urheberrechtlichen Schutz. Wer Inhalte veröffentlicht oder wirtschaftlich nutzt, sollte daher nicht ungeprüft davon ausgehen, dass sie exklusiv bleiben oder bedenkenlos weiterverwendet werden können.
Verantwortung ist Teil der Einführung
In der Podcastfolge von Digital Sense – The Human Side of AI vertiefen Dr. Lucien André Reuter, Yvonne Faoual und der KI-Rechtsexperte Moritz Leder diese Fragen anhand von Haftung, Verträgen, Beweisproblemen und Unternehmenspraxis. Eine praktische Schlussfolgerung daraus: Governance sollte nicht erst beginnen, wenn ein Schaden eingetreten ist.
Wer KI bewusst einführen will, sollte zuerst klären, wo sie eingesetzt wird, welche Aufgaben sie übernimmt und wer ihre Ergebnisse prüft. Das ist keine Rechtsberatung für den Einzelfall. Es ist aber ein sinnvoller Ausgangspunkt, um Chancen zu nutzen, ohne Verantwortung an ein System abzugeben, das selbst keine tragen kann.
Zur Folge
Mehr dazu in der Podcastfolge „Der Algorithmus war’s nicht – wer haftet, wenn KI Fehler macht?“.