Το AI έκανε λάθος και προκάλεσε ζημία: ποιος μπορεί να ευθύνεται και τι πρέπει να αποδείξετε

Ένα σύστημα τεχνητής νοημοσύνης προτείνει λάθος φάρμακο, απορρίπτει έναν υποψήφιο, υπολογίζει λανθασμένα μια υποχρέωση, δίνει επικίνδυνη τεχνική οδηγία ή παράγει ανακριβή πληροφορία που χρησιμοποιείται σε επαγγελματική απόφαση. Το πρώτο ερώτημα είναι συνήθως «ποιος φταίει το AI;». Νομικά, όμως, το AI δεν είναι αυτοτελές πρόσωπο που πληρώνει αποζημιώσεις. Πρέπει να εξεταστούν οι άνθρωποι και οι επιχειρήσεις που το σχεδίασαν, το διέθεσαν, το ενσωμάτωσαν, το επέλεξαν και χρησιμοποίησαν το αποτέλεσμα.

Επίσης, ένα λάθος δεν ισοδυναμεί αυτόματα με αποζημιώσιμη ζημία. Χρειάζεται συγκεκριμένη βλάβη, νομική βάση ευθύνης και αιτιώδης σύνδεσμος. Το ίδιο output μπορεί να είναι απλώς ενοχλητικό σε μία περίπτωση και κρίσιμο σε άλλη, όταν επηρεάζει υγεία, περιουσία, εργασία, πίστωση ή δικαιώματα.

1. Πρώτα ξεχωρίζουμε το λάθος από τη νομικά αναγνωρίσιμη ζημία

Ένα chatbot μπορεί να δώσει ανακριβή απάντηση χωρίς να προκύψει ζημία. Αν ο χρήστης την εντοπίσει και δεν ενεργήσει, μπορεί να υπάρχει κακή υπηρεσία αλλά όχι αποζημιώσιμο αποτέλεσμα. Αν όμως η ίδια απάντηση οδηγήσει, έπειτα από εύλογη χρήση, σε οικονομική απώλεια, σωματική βλάβη, καταστροφή δεδομένων, διάκριση ή προσβολή προσωπικότητας, η νομική αξιολόγηση αλλάζει.

Χρειάζεται να απαντηθούν χωριστά τέσσερα ερωτήματα:

1. ποια ακριβώς πληροφορία ή λειτουργία ήταν εσφαλμένη ή ελαττωματική,
2. ποιος είχε καθήκον να σχεδιάσει, ελέγξει, ενημερώσει ή επιβλέψει,
3. ποια συγκεκριμένη ζημία συνέβη και πώς αποτιμάται,
4. αν η ζημία θα είχε συμβεί χωρίς το επίμαχο output ή την αποτυχία του συστήματος.

Μια δυσάρεστη εμπειρία, η γενική δυσπιστία ή η απλή παράβαση κανόνα δεν μετατρέπονται από μόνες τους σε χρηματική αξίωση. Αντίστοιχα, ένας όρος «το σύστημα μπορεί να κάνει λάθη» δεν αποκλείει αυτομάτως κάθε ευθύνη όταν το προϊόν ή η υπηρεσία χρησιμοποιείται με προβλέψιμο τρόπο.

2. Ποιοι μπορεί να βρίσκονται στην αλυσίδα

Η ορατή εφαρμογή δεν είναι πάντα ο μόνος υπεύθυνος. Ένα σύστημα μπορεί να χρησιμοποιεί μοντέλο τρίτου, δεδομένα άλλου παρόχου, πρόσθετο λογισμικό και κανόνες που έθεσε η επιχείρηση που πήρε την τελική απόφαση.

1. Πάροχος ή κατασκευαστής μοντέλου: αναπτύσσει ή διαθέτει το βασικό σύστημα και τις τεχνικές του δυνατότητες.
2. Προμηθευτής εφαρμογής: ενσωματώνει το μοντέλο, σχεδιάζει το interface, τις προειδοποιήσεις και τις ροές χρήσης.
3. Επιχείρηση ή δημόσιος φορέας που το χρησιμοποιεί: επιλέγει σκοπό, δεδομένα, όρια και ανθρώπινη εποπτεία.
4. Επαγγελματίας: γιατρός, μηχανικός, δικηγόρος, λογιστής ή άλλος που χρησιμοποιεί το output στο πλαίσιο δικής του υποχρέωσης επιμέλειας.
5. Διανομέας, εισαγωγέας ή εξουσιοδοτημένος αντιπρόσωπος: μπορεί να αποκτήσει ιδιαίτερο ρόλο σε κανόνες προϊόντων.
6. Ο τελικός χρήστης: μπορεί να έχει αγνοήσει σαφή όρια, να εισήγαγε λάθος δεδομένα ή να χρησιμοποίησε εργαλείο για σκοπό που δεν υποστηρίζεται.

Η ευθύνη δεν μοιράζεται μηχανικά σε όλους. Εξετάζεται τι έλεγχε ο καθένας, τι υποσχέθηκε, τι γνώριζε ή όφειλε να γνωρίζει και ποια πράξη συνέβαλε στη ζημία.

3. Τι κάνει και τι δεν κάνει ο AI Act

Ο Κανονισμός (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη επιβάλλει υποχρεώσεις ανάλογα με τον ρόλο και τον κίνδυνο του συστήματος. Περιλαμβάνει κανόνες διαχείρισης κινδύνου, δεδομένων, τεχνικής τεκμηρίωσης, logs, διαφάνειας, ανθρώπινης εποπτείας και παρακολούθησης για συγκεκριμένες κατηγορίες.

Ο AI Act δεν είναι γενικός νόμος αυτόματης αποζημίωσης. Το άρθρο 85 προβλέπει δυνατότητα καταγγελίας σε αρχή εποπτείας της αγοράς. Το άρθρο 86 δίνει, υπό προϋποθέσεις, δικαίωμα σε σαφή και ουσιαστική εξήγηση για τον ρόλο συστήματος υψηλού κινδύνου σε ορισμένες αποφάσεις που παράγουν έννομα αποτελέσματα ή επηρεάζουν σημαντικά ένα πρόσωπο. Αυτές οι διαδρομές μπορούν να βοηθήσουν στον έλεγχο, δεν καταβάλλουν όμως από μόνες τους αποζημίωση.

Η εφαρμογή του Κανονισμού είναι σταδιακή. Η επίσημη ευρωπαϊκή γραμμή χρόνου πρέπει να ελέγχεται για την υποχρέωση που αφορά κάθε σύστημα. Δεν είναι σωστό να θεωρούμε ότι κάθε διάταξη εφαρμόστηκε την ίδια ημέρα ή ότι κάθε εφαρμογή AI είναι «υψηλού κινδύνου».

4. Όταν το πρόβλημα ξεκινά από σύμβαση ή ψηφιακή υπηρεσία

Αν πληρώσατε για εφαρμογή, επαγγελματική πλατφόρμα ή υπηρεσία που περιλαμβάνει AI, εξετάζονται η περιγραφή, οι συμφωνημένες λειτουργίες, οι εγγυήσεις, οι περιορισμοί, οι ενημερώσεις και η υποστήριξη. Ένα εργαλείο που πωλήθηκε για συγκεκριμένο επαγγελματικό σκοπό κρίνεται διαφορετικά από ένα δωρεάν γενικό chatbot που προειδοποιεί ότι δεν παρέχει εξειδικευμένη συμβουλή.

Σημαντικά αποδεικτικά είναι η έκδοση των όρων όταν έγινε η αγορά, η διαφήμιση, το τιμολόγιο, η τεχνική τεκμηρίωση, το service level, οι αναφορές σφάλματος και οι απαντήσεις υποστήριξης. Οι μεταγενέστεροι όροι δεν πρέπει να αντικαθιστούν σιωπηρά όσα ίσχυαν όταν συνέβη το γεγονός.

Στις καταναλωτικές συμβάσεις ισχύουν κανόνες για ψηφιακό περιεχόμενο και ψηφιακές υπηρεσίες, αθέμιτους όρους και παραπλανητικές πρακτικές. Η επίσημη εθνική νομοθεσία προστασίας καταναλωτή συγκεντρώνει τον Ν. 2251/1994 και τις σχετικές μεταβολές. Η θεραπεία μπορεί να είναι συμμόρφωση, μείωση τιμήματος, λύση σύμβασης ή αποζημίωση, ανάλογα με τα πραγματικά περιστατικά.

5. Αδικοπραξία και ευθύνη του επαγγελματία που χρησιμοποίησε το output

Η γενική αστική ευθύνη εξετάζει παράνομη και υπαίτια συμπεριφορά, ζημία και αιτιώδη σύνδεσμο. Όταν ένας επαγγελματίας χρησιμοποιεί AI, το εργαλείο δεν εξαφανίζει τη δική του υποχρέωση επιμέλειας. Το κρίσιμο είναι αν έπρεπε να ελέγξει το αποτέλεσμα, αν το χρησιμοποίησε σε κατάλληλο πεδίο και αν ενημέρωσε για ουσιώδεις περιορισμούς.

Δεν υπάρχει ένας κοινός βαθμός ελέγχου για όλες τις χρήσεις. Άλλο μια πρόταση διατύπωσης και άλλο διάγνωση, στατικός υπολογισμός, νομική προθεσμία ή απόφαση πρόσληψης. Όσο μεγαλύτερος είναι ο προβλέψιμος κίνδυνος και όσο δυσκολότερα αντιστρέφεται η απόφαση, τόσο σημαντικότερη γίνεται η πραγματική ανθρώπινη επαλήθευση.

Ο επαγγελματίας δεν ευθύνεται αυτόματα για κάθε τεχνικό σφάλμα του προμηθευτή. Αντίστοιχα, δεν απαλλάσσεται επειδή «το είπε ο αλγόριθμος». Πρέπει να εξεταστεί ποιος είχε πρόσβαση στα στοιχεία, ποιος μπορούσε να εντοπίσει το πρόβλημα και αν η ανθρώπινη απόφαση διέκοψε ή ενίσχυσε την αιτιώδη αλυσίδα.

6. Πότε το λογισμικό μπορεί να εξεταστεί ως ελαττωματικό προϊόν

Η ευθύνη από προϊόν δεν ταυτίζεται με τη συμβατική ή την αδικοπρακτική ευθύνη. Εξετάζει αν ένα προϊόν παρείχε την ασφάλεια που δικαιούται να αναμένει το κοινό, λαμβάνοντας υπόψη την παρουσίαση, την εύλογα προβλέψιμη χρήση, τον χρόνο διάθεσης και άλλα στοιχεία. Ένα ανακριβές αποτέλεσμα δεν είναι από μόνο του απόδειξη ελαττώματος.

Η νέα Οδηγία (ΕΕ) 2024/2853 για την ευθύνη λόγω ελαττωματικών προϊόντων περιλαμβάνει ρητά το λογισμικό και τα συστήματα AI στον ορισμό του προϊόντος. Προβλέπει προσαρμοσμένους κανόνες για ψηφιακά προϊόντα, ενημερώσεις, κυβερνοασφάλεια, γνωστοποίηση αποδεικτικών στοιχείων και ορισμένα τεκμήρια.

Αυτό δεν σημαίνει ότι η νέα Οδηγία είναι ήδη ο πλήρης εφαρμοστέος ελληνικός κανόνας για κάθε σημερινό περιστατικό. Η μεταφορά της στο εθνικό δίκαιο πρέπει να ολοκληρωθεί έως τις 9 Δεκεμβρίου 2026 και απαιτείται έλεγχος της ελληνικής πράξης μεταφοράς όταν δημοσιευθεί.

7. Η κρίσιμη μεταβατική ημερομηνία της νέας Οδηγίας

Μετά το διορθωτικό που δημοσιεύθηκε στις 7 Μαΐου 2026, η νέα Οδηγία εφαρμόζεται σε προϊόντα που τίθενται στην αγορά ή σε λειτουργία μετά τις 8 Δεκεμβρίου 2026. Για παλαιότερα προϊόντα και περιστατικά πρέπει να εξετάζεται το προηγούμενο καθεστώς και οι άλλες διαθέσιμες βάσεις ευθύνης.

Η διάκριση είναι σημαντική για εφαρμογές που ενημερώνονται συνεχώς. Πρέπει να καταγραφεί ποια έκδοση χρησιμοποιήθηκε, ποιος διέθεσε τη λειτουργία και πότε. Δεν είναι ασφαλές να διαλέγεται νομοθεσία μόνο από την ημερομηνία που ο χρήστης είδε το λάθος.

Η προτεινόμενη ευρωπαϊκή Οδηγία ειδικά για την ευθύνη AI, COM(2022)496, αποσύρθηκε στις 6 Οκτωβρίου 2025. Τα προτεινόμενα τεκμήρια και οι κανόνες γνωστοποίησής της δεν αποτελούν ισχύον δίκαιο. Η επίσημη νομοθετική διαδικασία καταγράφει την απόσυρση.

8. Ποια ζημία πρέπει να αποδειχθεί

Η αξίωση πρέπει να περιγράφει πραγματικό αποτέλεσμα, όχι μόνο την ύπαρξη bug ή παραβίασης. Μπορεί να αφορά σωματική βλάβη, υλική ζημία, καταστροφή ή αλλοίωση δεδομένων, απώλεια εισοδήματος, πρόσθετο κόστος, προσβολή προσωπικότητας ή άλλη αναγνωριζόμενη βλάβη, ανάλογα με τη νομική βάση.

Δεν αποζημιώνεται με τον ίδιο τρόπο κάθε καθαρή οικονομική απώλεια. Η νέα Οδηγία προϊόντων έχει δικό της ορισμό καλυπτόμενης ζημίας, ενώ η σύμβαση, η αδικοπραξία και το καταναλωτικό δίκαιο έχουν διαφορετικές προϋποθέσεις. Καταγράψτε:

1. το αρχικό ποσό ή περιουσιακό στοιχείο πριν από το συμβάν,
2. τη συγκεκριμένη μεταβολή που προκλήθηκε,
3. τα τιμολόγια, ιατρικά στοιχεία, τεχνικές εκθέσεις ή απώλειες εισοδήματος,
4. τις εύλογες ενέργειες που έγιναν για να περιοριστεί η ζημία,
5. τυχόν άλλες αιτίες που μπορεί να συνέβαλαν.

Η υπερβολική διατύπωση αποδυναμώνει την υπόθεση. Μια τεκμηριωμένη χρονολογική και οικονομική εικόνα είναι χρησιμότερη από έναν γενικό ισχυρισμό ότι «το AI κατέστρεψε τα πάντα».

9. Ο αιτιώδης σύνδεσμος και η ανθρώπινη απόφαση

Στις εφαρμογές AI παρεμβάλλονται συχνά πολλά στάδια. Ένα output προβάλλεται σε εργαζόμενο, εκείνος το ελέγχει ή όχι, μια επιχείρηση εφαρμόζει κανόνα και στη συνέχεια προκύπτει αποτέλεσμα. Η έρευνα πρέπει να δείξει ποιο στάδιο ήταν καθοριστικό.

Η ανθρώπινη συμμετοχή δεν απαλλάσσει πάντοτε τον προμηθευτή, ούτε μεταφέρει πάντοτε όλη την ευθύνη στον χειριστή. Ένας άνθρωπος μπορεί να έχει μόνο τυπικό κουμπί έγκρισης χωρίς χρόνο, πληροφορίες ή πραγματική δυνατότητα απόκλισης. Αντίθετα, η ανεξάρτητη επαγγελματική κρίση μπορεί να αποτελέσει ισχυρό ενδιάμεσο παράγοντα.

Χρειάζονται logs που να δείχνουν input, output, confidence ή άλλες ενδείξεις όταν υπάρχουν, προειδοποιήσεις, παρέμβαση χρήστη, τελική απόφαση και χρόνο. Αν ο πάροχος κρατά κρίσιμα στοιχεία, ένα έγκαιρο αίτημα διατήρησης μπορεί να είναι αναγκαίο πριν λήξει ο συμβατικός χρόνος τήρησης.

10. Πώς διατηρείται αξιόπιστη ψηφιακή απόδειξη

Ένα screenshot δείχνει μόνο ό,τι ήταν ορατό σε μία οθόνη. Δεν αποδεικνύει πάντοτε ποια έκδοση παρήγαγε το αποτέλεσμα, αν προηγήθηκαν άλλα μηνύματα, αν το αρχείο αλλοιώθηκε ή ποιος λογαριασμός χρησιμοποιήθηκε. Κρατήστε το πλήρες export όπου παρέχεται και το πρωτότυπο αρχείο χωρίς επεξεργασία.

1. εξαγάγετε ολόκληρη συνομιλία ή αναφορά και όχι μόνο το επίμαχο απόσπασμα,
2. κρατήστε URLs, IDs, headers, timestamps και επιβεβαιώσεις συναλλαγών,
3. καταγράψτε μοντέλο, έκδοση εφαρμογής, ρυθμίσεις και συνδεδεμένες πηγές,
4. φυλάξτε το αρχικό input, τα συνημμένα και τις προειδοποιήσεις που εμφανίστηκαν,
5. δημιουργήστε αποτύπωμα αρχείου όταν η ακεραιότητα θα αμφισβητηθεί,
6. μην «καθαρίζετε» ή αναδημιουργείτε αποδεικτικά με AI χωρίς να διατηρείτε το πρωτότυπο.

Τα metadata και τα hashes δεν αποδεικνύουν μόνα τους την αλήθεια του περιεχομένου, αλλά βοηθούν να ελεγχθεί αν ένα συγκεκριμένο αρχείο άλλαξε. Σε σοβαρή υπόθεση μπορεί να απαιτείται τεχνική πραγματογνωμοσύνη και νόμιμη διαδικασία για στοιχεία που κρατούν τρίτοι.

11. Ποια διαδρομή ακολουθείτε

Ξεκινήστε με έγγραφη γνωστοποίηση προς την επιχείρηση ή τον επαγγελματία που είχε τον άμεσο ρόλο. Περιγράψτε γεγονός, ζημία, αποδεικτικά, αίτημα διατήρησης και συγκεκριμένη θεραπεία. Μην στέλνετε αόριστες απειλές σε όλους τους πιθανούς φορείς· δυσκολεύουν την αποσαφήνιση.

1. Σύμβαση ή καταναλωτική υπηρεσία: ζητήστε συμμόρφωση, επιστροφή, διόρθωση ή αποζημίωση από τον συμβατικό αντισυμβαλλόμενο.
2. Προσωπικά δεδομένα: ασκήστε πρόσβαση, εναντίωση ή άλλο κατάλληλο δικαίωμα και, αν χρειάζεται, καταγγελία στην αρμόδια αρχή.
3. AI Act: χρησιμοποιήστε την καταγγελία στην αρμόδια αρχή εποπτείας όταν παραβιάζονται οι κανόνες του Κανονισμού.
4. Επαγγελματική υπηρεσία: εξετάστε τη σύμβαση, τους κανόνες επιμέλειας, την ασφάλιση ευθύνης και τυχόν πειθαρχική διαδικασία.
5. Ελαττωματικό προϊόν ή λογισμικό: ταυτοποιήστε παραγωγό, έκδοση, χρόνο διάθεσης και εφαρμοστέο μεταβατικό καθεστώς.
6. Άμεσος κίνδυνος ή έγκλημα: προέχει η προστασία προσώπων, συστημάτων και αποδεικτικών στοιχείων και η αρμόδια δημόσια αρχή.

Οι διαδρομές μπορεί να συνυπάρχουν. Μια διοικητική έρευνα μπορεί να δώσει χρήσιμο υλικό, αλλά δεν πρέπει να χαθεί στο μεταξύ παραγραφή, συμβατική προθεσμία ή δυνατότητα ασφαλιστικής αναγγελίας.

12. Τι να θυμάστε πριν ενεργήσετε

Μην προσπαθήσετε να αποδείξετε ότι «το AI είναι γενικά αναξιόπιστο». Αποδείξτε ποιο σύστημα, ποια έκδοση, ποια είσοδος, ποιο αποτέλεσμα και ποια ανθρώπινη χρήση συνδέονται με τη δική σας ζημία. Χαρτογραφήστε τους φορείς και επιλέξτε τη νομική βάση που αντιστοιχεί στη σχέση και στο είδος βλάβης.

Ο AI Act προσθέτει υποχρεώσεις και εποπτικές διαδρομές, ενώ η νέα ευρωπαϊκή Οδηγία προϊόντων εκσυγχρονίζει την ευθύνη για λογισμικό. Κανένα από τα δύο δεν καταργεί την ανάγκη για σύμβαση, επιμέλεια, πραγματική ζημία και αιτιότητα. Η έγκαιρη διατήρηση της ψηφιακής αλυσίδας είναι συνήθως το βήμα που δεν μπορεί να αναπληρωθεί αργότερα.