Τεχνητή νοημοσύνη και ευθύνη: ποιος απαντά όταν αστοχήσει

Όταν ένα σύστημα τεχνητής νοημοσύνης παράγει αποτέλεσμα που κοστίζει σε κάποιον χρήματα, κανείς δεν ενάγει το μοντέλο. Η απαίτηση στρέφεται κατά προσώπου ή εταιρείας: της επιχείρησης που ανέπτυξε το σύστημα, εκείνης που το προμήθευσε, ή εκείνης που το κατασκεύασε. Ποια από τις τρεις απαντά, και για πόσο, κρίνεται σε μεγάλο βαθμό πριν από τη ζημιά, σε έγγραφα που υπογράφηκαν κατά την προμήθεια. Το δίκαιο της αμέλειας και η ευθύνη για ελαττωματικά προϊόντα καλύπτουν έπειτα τα κενά που άφησαν οι συμβάσεις.

Η αλυσίδα των συμβάσεων κρίνει τα περισσότερα

Το πρώτο ερώτημα σε κάθε διαφορά με τεχνητή νοημοσύνη είναι τι λένε οι συμβάσεις. Συνήθως υπάρχει αλυσίδα τους: ο κατασκευαστής του υποκείμενου μοντέλου, ένας ενδιάμεσος προμηθευτής ή ενσωματωτής, η επιχείρηση που αναπτύσσει το σύστημα, και ο πελάτης ή ο εργαζόμενος που επηρεάζεται από το αποτέλεσμα.

Οι συμβάσεις προμήθειας επιχειρηματικών συστημάτων τεχνητής νοημοσύνης, είτε εγκατεστημένων είτε ως υπηρεσία, ακολουθούν σε μεγάλο βαθμό το πρότυπο της αδειοδότησης λογισμικού και δεδομένων, και τα ζητήματα είναι τα ίδια. Εκείνα που κρίνουν την έκβαση είναι οι εγγυήσεις για την απόδοση και την ακρίβεια, οι εξαιρέσεις και τα ανώτατα όρια ευθύνης, οι αποζημιωτικές ρήτρες για απαιτήσεις τρίτων, η κατανομή της ευθύνης για τα δεδομένα εκπαίδευσης και για τη διανοητική ιδιοκτησία στο αποτέλεσμα, και οι ρήτρες ελέγχου μεταβολών.

Η τελευταία είναι ειδική για την τεχνολογία αυτή και συστηματικά παραβλέπεται. Ένα μοντέλο που ενημερώνεται από τον προμηθευτή χωρίς ειδοποίηση είναι διαφορετικό σύστημα από εκείνο που δοκιμάστηκε και έγινε αποδεκτό. Όπου η επιχείρηση έχει αξιολογήσει μια ανάπτυξη και την έχει τεκμηριώσει, οι σιωπηρές ενημερώσεις καθιστούν την αξιολόγηση αναληθή. Ζητήστε ειδοποίηση για ουσιώδεις μεταβολές, και δικαίωμα δοκιμής πριν τεθούν σε ισχύ.

Στην καταναλωτική πλευρά, οι μαζικές υπηρεσίες τεχνητής νοημοσύνης εξακολουθούν να παρέχονται με όρους αποδοχής με ένα κλικ. Η επιχείρηση που χρησιμοποιεί καταναλωτικό προϊόν για επαγγελματικούς σκοπούς έχει αποδεχθεί όρους γραμμένους για άλλη σχέση, και έχει κατά πάσα πιθανότητα παραιτηθεί από τη θέση της ως προς την εμπιστευτικότητα, την ευθύνη και τη χρήση των δεδομένων που εισάγει.

Αμέλεια

Χωρίς σύμβαση μεταξύ των μερών, η απαίτηση διατυπώνεται στην αμέλεια, και τα ερωτήματα είναι τα γνωστά: οφειλόταν καθήκον επιμέλειας, ποιο ήταν το μέτρο της, παραβιάστηκε, και προκάλεσε η παράβαση τη ζημιά.

Κανένα από αυτά δεν γίνεται αναπάντητο επειδή μεσολάβησε μηχανή. Το καθήκον επιμέλειας του κοινοδικαίου επεκτάθηκε πάντοτε σε δραστηριότητες που δεν υπήρχαν όταν αποφασίστηκαν οι παλαιότερες υποθέσεις, και δεν υπάρχει λόγος να σταματά στο λογισμικό. Το ενδιαφέρον ερώτημα είναι το μέτρο: όπου ένα σύστημα εκτελεί μια εργασία καλύτερα από ό,τι ένας ικανός άνθρωπος, το μέτρο που αναμένεται από εκείνον που το αναπτύσσει ενδέχεται να ανέβει, και όπου το σύστημα είναι γνωστό ως αναξιόπιστο, η ανάπτυξή του χωρίς έλεγχο του αποτελέσματος είναι η ίδια η παράβαση.

Η αιτιώδης συνάφεια είναι στην πράξη το δυσκολότερο. Τα συστήματα είναι συχνά αδιαφανή, και ο ενάγων μπορεί να μην είναι σε θέση να εξηγήσει πώς προέκυψε το αποτέλεσμα. Αυτή η αποδεικτική δυσκολία είναι ο λόγος για τον οποίο η νομοθετική μεταρρύθμιση στον τομέα επικεντρώθηκε στο βάρος απόδειξης.

Η ευθύνη για ελαττωματικά προϊόντα, και τι απέγιναν οι προτάσεις

Δύο ενωσιακές προτάσεις μεταρρύθμισης ήταν σε εκκρεμότητα, και κατέληξαν διαφορετικά.

Η προτεινόμενη Οδηγία για την ευθύνη από τεχνητή νοημοσύνη, COM(2022) 496, που θα εισήγαγε μαχητό τεκμήριο αιτιώδους συνάφειας, ουδέποτε υιοθετήθηκε. Η Επιτροπή την απέσυρε, και η απόσυρση δημοσιεύθηκε στην Επίσημη Εφημερίδα στις 6 Οκτωβρίου 2025. Δεν υπάρχει επομένως χωριστό ενωσιακό καθεστώς εξωσυμβατικής ευθύνης για την τεχνητή νοημοσύνη, και οι απαιτήσεις αυτού του είδους επιστρέφουν στο εθνικό δίκαιο.

Η ευθύνη για τα προϊόντα όμως μεταρρυθμίστηκε. Η Οδηγία (ΕΕ) 2024/2853 της 23ης Οκτωβρίου 2024 για την ευθύνη λόγω ελαττωματικών προϊόντων τέθηκε σε ισχύ στις 8 Δεκεμβρίου 2024, καταργεί και αντικαθιστά την Οδηγία 85/374/ΕΟΚ, και έπρεπε να μεταφερθεί μέχρι τις 9 Δεκεμβρίου 2026. Δύο σημεία μετρούν για όποιον αναπτύσσει σύστημα τεχνητής νοημοσύνης. Το πρώτο είναι ότι το λογισμικό είναι ρητά προϊόν για τους σκοπούς αυτούς, περιλαμβανομένων των λειτουργικών συστημάτων, των εφαρμογών και των συστημάτων τεχνητής νοημοσύνης, όποιος και αν είναι ο τρόπος παροχής. Το δεύτερο είναι ότι αντιμετωπίζει ευθέως το αποδεικτικό πρόβλημα, με διατάξεις για την αποκάλυψη αποδεικτικών στοιχείων και με τεκμήρια ελαττωματικότητας και αιτιώδους συνάφειας σε καθορισμένες περιπτώσεις.

Η Κύπρος δεν την έχει μεταφέρει ακόμη. Οι πίνακες κυπριακής βασικής νομοθεσίας για το 2025 και το 2026 δεν περιέχουν νόμο για την ευθύνη λόγω ελαττωματικών προϊόντων, και η προθεσμία απέχει τρεις μήνες. Μέχρι να δημοσιευθεί μεταφορικός Νόμος, η απαίτηση στην Κύπρο για ζημιά από ελαττωματικό προϊόν εγείρεται με βάση το καθεστώς που εφάρμοσε την Οδηγία του 1985, χωρίς τις διατάξεις αποκάλυψης και χωρίς τα τεκμήρια. Αυτό είναι ζωντανό κενό και όχι παγιωμένη θέση, και όποιος υπολογίζει έκθεση για ανάπτυξη που θα τρέχει και το 2027 πρέπει να υποθέσει το νέο καθεστώς και όχι το παλαιό.

Η παραδοχή σχεδιασμού προκύπτει από αυτά. Η επιχείρηση που αναπτύσσει σύστημα τεχνητής νοημοσύνης πρέπει να προχωρά με τη σκέψη ότι ενδέχεται να κληθεί να εξηγήσει, εκ των υστέρων, πώς το σύστημα κατέληξε σε συγκεκριμένο αποτέλεσμα, και ότι η αδυναμία να το εξηγήσει δεν θα τη βοηθήσει. Αυτό σημαίνει να κρατά την έκδοση, τα δεδομένα εισόδου, το αποτέλεσμα και την ανθρώπινη απόφαση που ακολούθησε.

Η κανονιστική έκθεση στέκει δίπλα στην αστική απαίτηση

Η Πράξη για την Τεχνητή Νοημοσύνη, Κανονισμός (ΕΕ) 2024/1689, είναι σε ισχύ και δεν υποκαθιστά τίποτε από τα πιο πάνω. Προσθέτει χωριστό επίπεδο διοικητικών προστίμων, τα οποία οφείλονται στο κράτος ανεξάρτητα από το αν κάποιος υπέστη ζημιά.

Το άρθρο 99 θέτει τις οροφές. Παράβαση των απαγορευμένων πρακτικών του άρθρου 5 επισύρει μέχρι 35.000.000 ευρώ ή, αν ο παραβάτης είναι επιχείρηση, μέχρι 7% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους, όποιο είναι υψηλότερο. Η μη συμμόρφωση με τις υποχρεώσεις των φορέων που απαριθμεί το άρθρο 99(4) επισύρει μέχρι 15.000.000 ευρώ ή 3%, όποιο είναι υψηλότερο. Η παροχή ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένο οργανισμό ή σε εθνική αρμόδια αρχή επισύρει μέχρι 7.500.000 ευρώ ή 1%, όποιο είναι υψηλότερο. Για τις μικρές και μεσαίες επιχειρήσεις και τις νεοφυείς ισχύουν χαμηλότερες οροφές. Ένα ανώτατο όριο ευθύνης που συμφωνήθηκε με προμηθευτή δεν αγγίζει τίποτε από αυτά.

Προσωπικά δεδομένα

Όπου προσωπικά δεδομένα εισέρχονται σε σύστημα ή εξέρχονται από αυτό, εφαρμόζεται ο Γενικός Κανονισμός για την Προστασία Δεδομένων, Κανονισμός (ΕΕ) 2016/679, και εφαρμόζεται και σε οργανισμούς εκτός της Ένωσης που έχουν εγκατάσταση εντός της.

Τέσσερα ερωτήματα εμφανίζονται σχεδόν σε κάθε εντολή. Αν ο προμηθευτής ενεργεί ως εκτελών την επεξεργασία κατ' εντολή του φορέα ή ως υπεύθυνος επεξεργασίας ιδίω δικαιώματι, που είναι ζήτημα του ποιος καθορίζει τους σκοπούς και τα μέσα και όχι του πώς το ονομάζει η σύμβαση. Αν τα δεδομένα που χαρακτηρίζονται ανωνυμοποιημένα είναι πράγματι, δεδομένου του τι μπορεί να συναχθεί από το αποτέλεσμα ενός μοντέλου. Αν υπάρχει νόμιμη βάση για τα δεδομένα που χρησιμοποιήθηκαν για την ανάπτυξη ή τη μικρορύθμιση του συστήματος, που είναι το ζωντανό ζήτημα όπου υλικό συλλέχθηκε από τον ιστό. Και αν η ανάπτυξη περιλαμβάνει κατάρτιση προφίλ ή αυτοματοποιημένη λήψη αποφάσεων με έννομα ή παρόμοια σημαντικά αποτελέσματα, που φέρει τους δικούς της περιορισμούς και τις δικές της υποχρεώσεις διαφάνειας.

Λύστε γραπτώς το ερώτημα υπευθύνου και εκτελούντος πριν υπογραφεί η σύμβαση. Καθορίζει ποιος απαντά στο φυσικό πρόσωπο, ποιος χειρίζεται τα αιτήματα πρόσβασης, και ποιος επωμίζεται το κόστος μιας παραβίασης.

Έξυπνα συμβόλαια

Τα αυτοματοποιημένα, αυτοεκτελούμενα συμβόλαια θέτουν τα ίδια αρχικά ερωτήματα με κάθε άλλη συμφωνία: ικανότητα, πρόθεση δημιουργίας έννομης σχέσης, πρόταση, αποδοχή και ορισμένο περιεχόμενο. Η επικρατούσα άποψη είναι ότι εφαρμόζονται οι καθιερωμένες αρχές του δικαίου των συμβάσεων και ότι τέτοιες συμφωνίες είναι εκτελεστές όπου τα στοιχεία αυτά συντρέχουν. Οι πρακτικές δυσκολίες βρίσκονται αλλού: στην ταυτοποίηση των μερών, στη διαχείριση συμβολαίου που εκτελέστηκε μόνο του πάνω σε πραγματικά περιστατικά που αποδείχθηκαν εσφαλμένα, και στην απόδειξη των όρων και της ακεραιότητάς τους ενώπιον δικαστηρίου.

Τι να μας στείλετε

Στείλτε μας τη σύμβαση προμήθειας ή το προσχέδιό της, και δύο τρεις προτάσεις για το τι κάνει το σύστημα και ποια απόφαση εξαρτάται από το αποτέλεσμά του. Αν έχει ήδη προκύψει ζημιά, πείτε μας πότε και τι κρατήσατε: την έκδοση του μοντέλου, τα δεδομένα εισόδου, το αποτέλεσμα και την ανθρώπινη απόφαση που ακολούθησε. Μη μας στείλετε εμπιστευτικά έγγραφα πριν σας επιβεβαιώσουμε ότι μπορούμε να αναλάβουμε.

Συχνές ερωτήσεις

Πηγές

• Οδηγία (ΕΕ) 2024/2853 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 23ης Οκτωβρίου 2024 για την ευθύνη λόγω ελαττωματικών προϊόντων
• Κανονισμός (ΕΕ) 2024/1689 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη
• Κανονισμός (ΕΕ) 2016/679, Γενικός Κανονισμός για την Προστασία Δεδομένων

Περισσότερα για αυτό: Η DSA στην Κύπρο: τι ζητά ο Ν. 122(Ι)/2025, Εμπορικά σήματα στην Κύπρο: εγγραφή και διατήρηση, Η παραβίαση δεδομένων στην Κύπρο είναι και ποινικό ζήτημα, Τι πρέπει να λέει πλέον ο έμπορος στον καταναλωτή, Πωλήσεις εξ αποστάσεως: το δικαίωμα υπαναχώρησης των δεκατεσσάρων ημερών.