Ein System künstlicher Intelligenz empfiehlt das falsche Arzneimittel, lehnt eine Bewerberin oder einen Bewerber ab, berechnet eine Verpflichtung falsch, erteilt eine gefährliche technische Anweisung oder erzeugt unrichtige Informationen, die für eine berufliche Entscheidung verwendet werden. Die erste Frage lautet meist: „Wer ist schuld, die KI?“ Rechtlich ist KI jedoch keine eigenständige Person, die Schadensersatz zahlt. Zu prüfen sind die Menschen und Unternehmen, die das System entwickelt, bereitgestellt, integriert oder ausgewählt und sein Ergebnis verwendet haben.

Ein Fehler ist außerdem nicht automatisch ein ersatzfähiger Schaden. Erforderlich sind ein konkreter Schaden, eine rechtliche Haftungsgrundlage und ein Kausalzusammenhang. Dieselbe Ausgabe kann in einem Fall nur störend und in einem anderen entscheidend sein, wenn sie Gesundheit, Vermögen, Beschäftigung, Kredit oder Rechte berührt.

Wenn der Vorfall gerade erst geschehen ist: Verlassen Sie sich nicht auf einen zugeschnittenen Screenshot. Sichern Sie die genaue Eingabe oder den Prompt, die vollständige Ausgabe, Datum und Uhrzeit, das Konto, die angezeigte Modellversion, Einstellungen, Warnhinweise, dem System übergebene Dateien, Protokolle, den Vertrag und die anschließende menschliche Entscheidung. Beweise gehen leicht verloren, wenn das Modell oder die Anwendung aktualisiert wird.

1. Zuerst den Fehler vom rechtlich anerkannten Schaden unterscheiden

Ein Chatbot kann eine unrichtige Antwort geben, ohne dass ein Schaden entsteht. Erkennt die Nutzerin oder der Nutzer den Fehler und handelt nicht danach, kann zwar eine mangelhafte Leistung, aber kein ersatzfähiger Erfolg vorliegen. Führt dieselbe Antwort dagegen bei vernünftiger Verwendung zu einem Vermögensverlust, einer Körperverletzung, der Zerstörung von Daten, einer Diskriminierung oder einer Verletzung des Persönlichkeitsrechts, ändert sich die rechtliche Bewertung.

Vier Fragen sind getrennt zu beantworten:

  1. welche konkrete Information oder Funktion unrichtig oder fehlerhaft war,
  2. wer zur Entwicklung, Prüfung, Aktualisierung oder Überwachung verpflichtet war,
  3. welcher konkrete Schaden eingetreten ist und wie er bewertet wird,
  4. ob der Schaden ohne die streitige Ausgabe oder das Systemversagen eingetreten wäre.

Eine unangenehme Erfahrung, allgemeines Misstrauen oder die bloße Verletzung einer Vorschrift werden für sich genommen nicht zu einem Zahlungsanspruch. Ebenso schließt eine Klausel, wonach „das System Fehler machen kann“, nicht automatisch jede Haftung aus, wenn das Produkt oder die Dienstleistung in vorhersehbarer Weise genutzt wird.

2. Wer an der Kette beteiligt sein kann

Die sichtbare Anwendung ist nicht immer die einzige möglicherweise verantwortliche Stelle. Ein System kann das Modell eines Dritten, Daten eines anderen Anbieters, zusätzliche Software und Regeln verwenden, die das Unternehmen festgelegt hat, das die endgültige Entscheidung traf.

  1. Modellanbieter oder Modellhersteller: entwickelt oder stellt das zugrunde liegende System und seine technischen Fähigkeiten bereit.
  2. Anwendungsanbieter: integriert das Modell und gestaltet die Benutzeroberfläche, Warnhinweise und Nutzungsabläufe.
  3. Nutzendes Unternehmen oder öffentliche Stelle: legt Zweck, Daten, Grenzen und menschliche Aufsicht fest.
  4. Berufsträger: Ärztin oder Arzt, Ingenieurin oder Ingenieur, Rechtsanwältin oder Rechtsanwalt, Buchhalterin oder Buchhalter oder eine andere Fachperson, die das Ergebnis im Rahmen ihrer eigenen Sorgfaltspflicht verwendet.
  5. Händler, Importeur oder Bevollmächtigter: kann nach den produktrechtlichen Vorschriften eine besondere Rolle haben.
  6. Endnutzer: kann klare Grenzen missachtet, falsche Daten eingegeben oder ein Werkzeug für einen nicht unterstützten Zweck verwendet haben.

Die Haftung wird nicht schematisch auf alle verteilt. Geprüft wird, was jeder Beteiligte kontrollierte, was er versprach, was er wusste oder wissen musste und welche Handlung zum Schaden beitrug.

3. Was der AI Act regelt und was nicht

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz legt Pflichten je nach Rolle des Akteurs und Risiko des Systems fest. Für bestimmte Kategorien enthält sie Vorschriften über Risikomanagement, Daten, technische Dokumentation, Protokolle, Transparenz, menschliche Aufsicht und Überwachung.

Der AI Act ist kein allgemeines Gesetz über automatischen Schadensersatz. Artikel 85 ermöglicht eine Beschwerde bei einer Marktüberwachungsbehörde. Artikel 86 gewährt unter bestimmten Voraussetzungen ein Recht auf eine klare und aussagekräftige Erläuterung der Rolle eines Hochrisikosystems bei bestimmten Entscheidungen, die Rechtswirkungen entfalten oder eine Person erheblich beeinträchtigen. Diese Wege können eine Prüfung unterstützen, führen für sich allein aber nicht zu Schadensersatz.

Die Verordnung gilt stufenweise. Für die auf das jeweilige System bezogene Pflicht sollte der offizielle europäische Zeitplan für die Anwendung geprüft werden. Es ist falsch anzunehmen, dass jede Bestimmung am selben Tag anwendbar wurde oder jede KI-Anwendung als „hochriskant“ einzustufen ist.

Häufiges Missverständnis: Eine Beschwerde nach dem AI Act, der DSGVO oder dem Verbraucherrecht ist nicht mit einer Schadensersatzklage gleichzusetzen. Sie kann zu einer Prüfung, einer Abhilfemaßnahme oder einem Bußgeld führen, doch ein persönlicher Anspruch benötigt eine eigene Rechtsgrundlage und den Nachweis eines Schadens.

4. Wenn das Problem aus einem Vertrag oder digitalen Dienst entsteht

Wenn Sie für eine Anwendung, eine beruflich genutzte Plattform oder eine Dienstleistung mit KI bezahlt haben, sind die Beschreibung, vereinbarten Funktionen, Garantien, Beschränkungen, Aktualisierungen und Unterstützungsleistungen zu prüfen. Ein Werkzeug, das für einen bestimmten beruflichen Zweck verkauft wurde, ist anders zu beurteilen als ein kostenloser allgemeiner Chatbot, der darauf hinweist, keine fachkundige Beratung zu erteilen.

Wichtige Beweismittel sind die beim Kauf geltende Fassung der Bedingungen, die Werbung, die Rechnung, die technische Dokumentation, das vereinbarte Serviceniveau, Fehlermeldungen und Antworten des Supports. Spätere Bedingungen dürfen nicht stillschweigend an die Stelle der Bedingungen treten, die beim Ereignis galten.

Für Verbraucherverträge gelten Vorschriften über digitale Inhalte und digitale Dienstleistungen, missbräuchliche Klauseln und irreführende Geschäftspraktiken. Die offizielle Sammlung der nationalen Verbraucherschutzvorschriften enthält das Gesetz 2251/1994 und die einschlägigen Änderungen. Je nach Sachverhalt kommen Herstellung des vertragsgemäßen Zustands, Preisminderung, Vertragsbeendigung oder Schadensersatz in Betracht.

5. Deliktische Haftung und Haftung des Berufsträgers, der das Ergebnis verwendet hat

Die allgemeine zivilrechtliche Haftung setzt sich mit rechtswidrigem und schuldhaftem Verhalten, Schaden und Kausalzusammenhang auseinander. Nutzt ein Berufsträger KI, beseitigt das Werkzeug nicht seine eigene Sorgfaltspflicht. Entscheidend ist, ob das Ergebnis überprüft werden musste, ob es in einem geeigneten Bereich eingesetzt wurde und ob über wesentliche Einschränkungen aufgeklärt wurde.

Für alle Einsatzzwecke gilt nicht derselbe Prüfungsmaßstab. Ein Formulierungsvorschlag ist etwas anderes als eine Diagnose, eine statische Berechnung, eine Rechtsfrist oder eine Einstellungsentscheidung. Je größer das vorhersehbare Risiko und je schwerer eine Entscheidung rückgängig zu machen ist, desto wichtiger wird eine echte menschliche Überprüfung.

Der Berufsträger haftet nicht automatisch für jeden technischen Fehler des Anbieters. Ebenso wenig wird er entlastet, weil „der Algorithmus es gesagt hat“. Zu prüfen ist, wer Zugang zu den Informationen hatte, wer das Problem erkennen konnte und ob die menschliche Entscheidung die Kausalkette unterbrochen oder verstärkt hat.

6. Wann Software als fehlerhaftes Produkt geprüft werden kann

Produkthaftung ist nicht mit vertraglicher oder deliktischer Haftung gleichzusetzen. Sie prüft, ob ein Produkt die Sicherheit bot, die die Allgemeinheit unter Berücksichtigung seiner Darbietung, der vernünftigerweise vorhersehbaren Verwendung, des Zeitpunkts des Inverkehrbringens und weiterer Umstände erwarten darf. Ein ungenaues Ergebnis ist für sich allein kein Nachweis eines Fehlers.

Die neue Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte bezieht Software und KI-Systeme ausdrücklich in den Produktbegriff ein. Sie enthält angepasste Regeln für digitale Produkte, Aktualisierungen, Cybersicherheit, die Offenlegung von Beweismitteln und bestimmte Vermutungen.

Das bedeutet nicht, dass die neue Richtlinie bereits die vollständig anwendbare griechische Regelung für jeden gegenwärtigen Vorfall ist. Sie muss bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden; der griechische Umsetzungsakt ist nach seiner Veröffentlichung zu prüfen.

7. Der entscheidende Übergangsstichtag der neuen Richtlinie

Nach der am 7. Mai 2026 veröffentlichten Berichtigung gilt die neue Richtlinie für Produkte, die nach dem 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Für ältere Produkte und Vorfälle sind die bisherige Rechtslage und andere verfügbare Haftungsgrundlagen zu prüfen.

Diese Unterscheidung ist bei Anwendungen wichtig, die laufend aktualisiert werden. Es muss festgehalten werden, welche Version verwendet wurde, wer die Funktion bereitstellte und wann dies geschah. Die anwendbare Rechtslage allein anhand des Datums auszuwählen, an dem der Nutzer den Fehler bemerkte, ist nicht verlässlich.

Der Vorschlag für eine europäische Richtlinie speziell über KI-Haftung, COM(2022)496, wurde am 6. Oktober 2025 zurückgezogen. Die darin vorgeschlagenen Vermutungen und Offenlegungsregeln sind kein geltendes Recht. Das offizielle Gesetzgebungsverfahren dokumentiert die Rücknahme.

8. Welcher Schaden nachgewiesen werden muss

Der Anspruch muss eine tatsächliche Folge beschreiben, nicht nur das Vorliegen eines Programmfehlers oder Verstoßes. Je nach Rechtsgrundlage kann es um Körperverletzung, Sachschaden, Zerstörung oder Verfälschung von Daten, Einkommensverlust, zusätzliche Kosten, eine Verletzung des Persönlichkeitsrechts oder einen anderen anerkannten Schaden gehen.

Nicht jeder reine Vermögensschaden wird in gleicher Weise ersetzt. Die neue Produkthaftungsrichtlinie enthält eine eigene Definition des erfassten Schadens, während Vertragsrecht, Deliktsrecht und Verbraucherrecht unterschiedliche Voraussetzungen haben. Halten Sie fest:

  1. den ursprünglichen Betrag oder Vermögensgegenstand vor dem Vorfall,
  2. die konkret verursachte Veränderung,
  3. Rechnungen, medizinische Unterlagen, technische Gutachten oder Einkommensverluste,
  4. die angemessenen Maßnahmen zur Begrenzung des Schadens,
  5. andere Ursachen, die möglicherweise beigetragen haben.

Übertreibungen schwächen den Fall. Eine belegte chronologische und finanzielle Darstellung ist nützlicher als die allgemeine Behauptung, „die KI habe alles zerstört“.

9. Kausalzusammenhang und menschliche Entscheidung

Bei KI-Anwendungen liegen häufig mehrere Zwischenschritte vor. Eine Ausgabe wird einer beschäftigten Person angezeigt, diese prüft sie oder nicht, ein Unternehmen wendet eine Regel an und anschließend tritt eine Folge ein. Die Untersuchung muss zeigen, welcher Schritt entscheidend war.

Die Beteiligung eines Menschen entlastet den Anbieter nicht immer und verlagert auch nicht stets die gesamte Haftung auf den Betreiber. Ein Mensch kann nur über eine formale Schaltfläche zur Bestätigung verfügen, ohne Zeit, Informationen oder eine echte Möglichkeit, von der Empfehlung abzuweichen. Umgekehrt kann eine unabhängige fachliche Beurteilung ein gewichtiger Zwischenfaktor sein.

Erforderlich sind Protokolle, die Eingabe, Ausgabe, Konfidenzwert oder andere vorhandene Indikatoren, Warnhinweise, Nutzereingriffe, die endgültige Entscheidung und den Zeitpunkt belegen. Verwahrt der Anbieter entscheidende Informationen, kann ein frühzeitiges Ersuchen um Beweissicherung notwendig sein, bevor die vertragliche Aufbewahrungsfrist endet.

10. Wie verlässliche digitale Beweise gesichert werden

Ein Screenshot zeigt nur, was auf einem Bildschirm sichtbar war. Er belegt nicht immer, welche Version das Ergebnis erzeugte, ob andere Nachrichten vorausgingen, ob die Datei verändert wurde oder welches Konto verwendet wurde. Sichern Sie den vollständigen Export, soweit er verfügbar ist, und die unveränderte Originaldatei.

  1. exportieren Sie das gesamte Gespräch oder den gesamten Bericht und nicht nur den streitigen Ausschnitt,
  2. sichern Sie URLs, IDs, Header, Zeitstempel und Transaktionsbestätigungen,
  3. dokumentieren Sie Modell, Anwendungsversion, Einstellungen und verbundene Quellen,
  4. bewahren Sie die ursprüngliche Eingabe, Anhänge und angezeigten Warnhinweise auf,
  5. erstellen Sie einen digitalen Fingerabdruck der Datei, wenn ihre Integrität bestritten werden könnte,
  6. „bereinigen“ oder rekonstruieren Sie Beweise nicht mit KI, ohne das Original aufzubewahren.

Metadaten und Hashwerte beweisen für sich allein nicht die Wahrheit des Inhalts, helfen aber bei der Prüfung, ob eine bestimmte Datei verändert wurde. In einem schwerwiegenden Fall können ein technisches Sachverständigengutachten und ein rechtmäßiges Verfahren zur Erlangung von Informationen bei Dritten erforderlich sein.

11. Welcher Weg einzuschlagen ist

Beginnen Sie mit einer schriftlichen Mitteilung an das Unternehmen oder den Berufsträger mit der unmittelbaren Rolle. Beschreiben Sie Ereignis, Schaden, Beweismittel, das Ersuchen um Sicherung und die konkret verlangte Abhilfe. Senden Sie keine unbestimmten Drohungen an alle möglicherweise Beteiligten; dies erschwert die Klärung.

  1. Vertrag oder Verbraucherdienstleistung: Verlangen Sie vom Vertragspartner Vertragsgemäßheit, Erstattung, Berichtigung oder Schadensersatz.
  2. Personenbezogene Daten: Machen Sie das Auskunftsrecht, Widerspruchsrecht oder ein anderes passendes Recht geltend und reichen Sie erforderlichenfalls eine Beschwerde bei der zuständigen Behörde ein.
  3. AI Act: Nutzen Sie bei Verstößen gegen die Verordnung das Beschwerdeverfahren vor der zuständigen Marktüberwachungsbehörde.
  4. Berufliche Dienstleistung: Prüfen Sie Vertrag, Sorgfaltspflichten, Haftpflichtversicherung und ein mögliches Disziplinarverfahren.
  5. Fehlerhaftes Produkt oder fehlerhafte Software: Ermitteln Sie Hersteller, Version, Zeitpunkt der Bereitstellung und die anwendbare Übergangsregelung.
  6. Unmittelbare Gefahr oder Straftat: Vorrang haben der Schutz von Personen, Systemen und Beweismitteln sowie die Einschaltung der zuständigen staatlichen Stelle.

Diese Wege können nebeneinander bestehen. Eine behördliche Untersuchung kann nützliches Material liefern, doch zwischenzeitlich dürfen keine Verjährungsfrist, vertragliche Frist oder Möglichkeit zur Anzeige beim Versicherer versäumt werden.

12. Was Sie vor weiteren Schritten beachten sollten

Versuchen Sie nicht zu beweisen, dass „KI allgemein unzuverlässig ist“. Belegen Sie, welches System, welche Version, welche Eingabe, welches Ergebnis und welche menschliche Verwendung mit Ihrem Schaden zusammenhängen. Erfassen Sie alle Beteiligten und wählen Sie die Rechtsgrundlage, die zum Verhältnis und zur Art des Schadens passt.

Der AI Act fügt Pflichten und Aufsichtswege hinzu, während die neue europäische Produkthaftungsrichtlinie die Haftung für Software modernisiert. Keiner der beiden Rechtsakte beseitigt die Notwendigkeit, Vertrag, Sorgfaltspflicht, tatsächlichen Schaden und Kausalität nachzuweisen. Die rechtzeitige Sicherung der digitalen Beweiskette ist meist der Schritt, der später nicht nachgeholt werden kann.

Stand des Rechts: Dieser Artikel gibt den am 24. August 2026 geltenden Rahmen wieder. Die griechische Umsetzung der Richtlinie (EU) 2024/2853 und der genaue Zeitplan für die Anwendung einzelner Pflichten müssen bei jedem neuen Vorfall erneut geprüft werden. Der Text dient der Information und ersetzt keine Bewertung des konkreten Systems, Vertrags und Schadens.