Ευθύνη της τεχνητής νοημοσύνης στην Ολλανδία: ποιος φέρει ευθύνη όταν η τεχνητή νοημοσύνη κάνει λάθος;

Η ευθύνη για την τεχνητή νοημοσύνη στην Ολλανδία δεν διέπεται από ξεχωριστό νόμο. Όταν ένα σύστημα τεχνητής νοημοσύνης προκαλεί ζημία, η ευθύνη κατανέμεται από τους συνήθεις κανόνες του ολλανδικού αστικού δικαίου: τη σύμβαση μεταξύ των μερών, την ευθύνη για καταλογιστέα παράβαση βάσει του άρθρου 6:74 του Αστικού Κώδικα, την αδικοπραξία βάσει του άρθρου 6:162, την ευθύνη για βοηθητικά μέσα και για ακατάλληλα αντικείμενα που χρησιμοποιούνται στην εκτέλεση και το καθεστώς ευθύνης για το προϊόν στα άρθρα 6:185 έως 6:193. Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη επιβάλλει καθήκοντα δημοσίου δικαίου και πρόστιμα στους παρόχους και τους φορείς ανάπτυξης, αλλά ο ίδιος δεν παρέχει στο θύμα αξίωση αποζημίωσης.

Αυτό είναι το πρακτικό σημείο εκκίνησης και εξηγεί γιατί οι περισσότερες διαφορές σχετικά με την ευθύνη για την τεχνητή νοημοσύνη στην Ολλανδία αποφασίζονται με βάση τη σύμβαση και την υποχρέωση επιμέλειας και όχι με βάση οτιδήποτε συγκεκριμένο για την τεχνολογία. Αυτός ο οδηγός καθορίζει ποιο μέρος είναι εκτεθειμένο σε ποια περίπτωση, τι αλλάζει όταν εφαρμόζεται η αναθεωρημένη Οδηγία για την Αστική Ευθύνη Προϊόντος, τι προσθέτει και τι δεν προσθέτει ο Νόμος περί Τεχνητής Νοημοσύνης μετά την αναβολή που συμφωνήθηκε το 2026 και πώς ένα ολλανδικό δικαστήριο αντιμετωπίζει το πρόβλημα των αποδεικτικών στοιχείων που δημιουργεί ένα σύστημα αυτοδιδασκαλίας.

Οι ολλανδικές νομικές βάσεις που ισχύουν στην πραγματικότητα

Δεν υπάρχει ολλανδικός νόμος περί ευθύνης για την τεχνητή νοημοσύνη, ούτε ευρωπαϊκός. Αυτό που υπάρχει είναι ένα σύνολο γενικών κανόνων που γράφτηκαν για άλλες περιπτώσεις και τους οποίους τα δικαστήρια εφαρμόζουν πλέον στην τεχνητή νοημοσύνη. Το να γνωρίζετε ποιος από αυτούς ταιριάζει στην υπόθεσή σας καθορίζει ποιον μπορείτε να μηνύσετε, τι πρέπει να αποδείξετε και πόσα μπορείτε να ανακτήσετε.

• Καταλογιστέα παραβίαση σύμβασης (Άρθρο 6:74 του Αστικού Κώδικα)Η συνήθης οδός κατά την οποία τα μέρη έχουν συμφωνία: ο προμηθευτής υποσχέθηκε ένα σύστημα με ορισμένες ιδιότητες και δεν τις παρέδωσε ή ο κατασκευαστής το χρησιμοποίησε εκτός των συμφωνημένων παραμέτρων.
• Ευθύνη για τους βοηθούς (Άρθρο 6:76)Ένα μέρος που χρησιμοποιεί άλλο πρόσωπο για την εκτέλεση μιας υποχρέωσης ευθύνεται για αυτό το πρόσωπο όπως και για τον εαυτό του. Αυτό έχει σημασία όταν ένας προμηθευτής Τεχνητής Νοημοσύνης αναθέτει σε υπεργολάβο την ανάπτυξη ή τη φιλοξενία μοντέλων.
• Ευθύνη για ακατάλληλα αντικείμενα που χρησιμοποιούνται στην εκτέλεση (Άρθρο 6:77)Εάν ένα αντικείμενο που χρησιμοποιείται για την εκπλήρωση μιας υποχρέωσης είναι ακατάλληλο για τον σκοπό αυτό, η προκύπτουσα παράλειψη αποδίδεται στον οφειλέτη, εκτός εάν ο καταλογισμός θα ήταν παράλογος υπό τις περιστάσεις. Αυτή είναι η διάταξη βάσει της οποίας ένα νοσοκομείο ή μια λογιστική εταιρεία μπορεί να θεωρηθεί υπεύθυνο για ένα ελαττωματικό εργαλείο που χρησιμοποίησε και η εξαίρεση είναι πιο περιορισμένη από ό,τι τείνουν να υποθέτουν οι εναγόμενοι.
• Αδικοπραξία (Άρθρο 6:162)Η διαδρομή για οποιονδήποτε εκτός της σύμβασης: ο τραυματίας ασθενής, ο αιτών εργασία που απορρίφθηκε, ο χρήστης του οδικού δικτύου. Ο αιτών πρέπει να αποδείξει μια παράνομη πράξη, την καταλογισμό, τη ζημία, την αιτιώδη συνάφεια και τη σχετικότητα.
• Ευθύνη για τους υπαλλήλους και τους μη υφισταμένους εργολάβους (Άρθρα 6:170 και 6:171)Ένας οργανισμός ευθύνεται για τα λάθη των ανθρώπων που εργάζονται γι' αυτόν, συμπεριλαμβανομένων των περιπτώσεων όπου ένας εργαζόμενος βασίστηκε άκριτα στην παραγωγή ενός μηχανήματος.
• Αστική ευθύνη προϊόντος (άρθρα 6:185 έως 6:193)Αντικειμενική ευθύνη του παραγωγού για ελαττωματικό προϊόν, χωρίς απόδειξη υπαιτιότητας. Αμφισβητείται το κατά πόσον το καθαρό λογισμικό πληροί τις προϋποθέσεις ως προϊόν βάσει του ισχύοντος κειμένου, κάτι που ακριβώς επιλύει η αναθεωρημένη ευρωπαϊκή οδηγία.

Επιπλέον, ένα σύστημα Τεχνητής Νοημοσύνης που επεξεργάζεται δεδομένα προσωπικού χαρακτήρα υπόκειται στον ΓΚΠΔ. Το Άρθρο 22 περιορίζει τις αποφάσεις που βασίζονται αποκλειστικά σε αυτοματοποιημένη επεξεργασία και παράγουν έννομα αποτελέσματα ή επηρεάζουν σημαντικά ένα πρόσωπο με παρόμοιο τρόπο, και το Άρθρο 82 παρέχει ξεχωριστό δικαίωμα αποζημίωσης για υλική και μη υλική ζημία που προκαλείται από παράβαση. Στην πράξη, ένας ενάγων με οπτική γωνία την προστασία δεδομένων συχνά θα την επικαλεστεί παράλληλα με την αξίωση αδικοπραξίας, επειδή ο υπεύθυνος επεξεργασίας φέρει στη συνέχεια ένα αποδεδειγμένο βάρος λογοδοσίας.

Ξεκινήστε με τη σύμβαση, επειδή εκεί κατανέμεται ο κίνδυνος

Μεταξύ των επιχειρήσεων, η απάντηση στο ποιος ευθύνεται για ένα σφάλμα Τεχνητής Νοημοσύνης συνήθως αναγράφεται στη συμφωνία πολύ πριν πάει κάτι στραβά. Η ολλανδική νομοθεσία αφήνει στα μέρη ευρεία ελευθερία να κατανείμουν αυτόν τον κίνδυνο και οι προμηθευτές Τεχνητής Νοημοσύνης τον χρησιμοποιούν: οι τυποποιημένοι όροι συνήθως περιγράφουν το αποτέλεσμα ως ενδεικτικό, αποποιούνται την καταλληλότητα για συγκεκριμένο σκοπό, περιορίζουν την ευθύνη στα τέλη που καταβάλλονται για περιορισμένο χρονικό διάστημα και αποκλείουν εντελώς την επακόλουθη ζημία.

Αυτές οι ρήτρες ισχύουν συχνότερα από ό,τι αναμένουν οι πελάτες, αλλά όχι πάντα. Μια ρήτρα αποκλεισμού μπορεί να ακυρωθεί όταν η επίκληση σε αυτήν θα ήταν απαράδεκτη από τα πρότυπα εύλογης και δίκαιης μεταχείρισης βάσει του άρθρου 6:248 του Αστικού Κώδικα, και τα ολλανδικά δικαστήρια εφαρμόζουν αυτό το κριτήριο πιο εύκολα όταν η ζημία προκλήθηκε από εκούσια αμέλεια ή από πράξη ισοδύναμη με αυτήν εκ μέρους του προμηθευτή ή της διοίκησής του. Σε σχέσεις που διέπονται από γενικούς όρους και προϋποθέσεις, μια ρήτρα μπορεί επίσης να ακυρωθεί ως αδικαιολόγητα επαχθής βάσει του άρθρου 6:233, και οι καταναλωτές απολαμβάνουν την πρόσθετη προστασία των νόμιμων καταλόγων των άρθρων 6:236 και 6:237.

Οι ρήτρες που αποφασίζουν για πραγματικές υποθέσεις είναι πιο απλές από το ανώτατο όριο ευθύνης. Τι εγγυήθηκε ο προμηθευτής σχετικά με την ακρίβεια, τα δεδομένα εκπαίδευσης και τις δοκιμές μεροληψίας; Ποιος είναι υπεύθυνος για την επικύρωση των αποτελεσμάτων πριν από την επεξεργασία τους; Ποιο μέρος κατέχει τα αρχεία καταγραφής και για πόσο καιρό διατηρούνται; Υπάρχει υποχρέωση κοινοποίησης της υποβάθμισης της απόδοσης του μοντέλου; Δεσμεύεται ο προμηθευτής να διατηρεί το σύστημα συμβατό με τον Νόμο περί Τεχνητής Νοημοσύνης και ποιος επωμίζεται το κόστος εάν δεν το κάνει; Μια διαπραγματευμένη σύμβαση Τεχνητής Νοημοσύνης που απαντά σε αυτά τα ερωτήματα αξίζει περισσότερο από οποιαδήποτε ρήτρα σχετικά με το ποσό της αποζημίωσης.

Όταν ο πάροχος είναι επαγγελματίας που ενεργεί για πελάτες, υπάρχει ένα δεύτερο επίπεδο. Μια εταιρεία που χρησιμοποιεί ένα εργαλείο Τεχνητής Νοημοσύνης στην παροχή υπηρεσιών της παραμένει υπεύθυνη έναντι του πελάτη της για το αποτέλεσμα, και το Άρθρο 6:77 του Αστικού Κώδικα ορίζει ότι η ακαταλληλότητα του εργαλείου αποδίδεται καταρχήν στην εταιρεία και όχι στον πελάτη. Η μετακύλιση αυτού του κινδύνου πίσω στην αλυσίδα στον προμηθευτή εξαρτάται εξ ολοκλήρου από τη σύμβαση προμήθειας, γι' αυτό και τα δύο σύνολα όρων θα πρέπει να ερμηνεύονται σε αντιπαράθεση.

Το καθήκον φροντίδας ενός οργανισμού που αναπτύσσει Τεχνητή Νοημοσύνη

Εκτός της σύμβασης, η ευθύνη εξαρτάται από το εάν ο οργανισμός ενήργησε ως ένας αρκετά προσεκτικός πάροχος. Τα ολλανδικά δικαστήρια το αξιολογούν αυτό με τον τρόπο που αξιολογούν οποιοδήποτε καθήκον επιμέλειας: πόσο πιθανή ήταν η βλάβη, πόσο σοβαρή θα ήταν, πόσο επαχθείς ήταν οι προφυλάξεις και τι επέτρεπε η τρέχουσα κατάσταση της τεχνολογίας. Εφαρμοσμένη στην Τεχνητή Νοημοσύνη, έχει αναδυθεί στην πράξη ένα αναγνωρίσιμο πρότυπο.

• Καταλληλότητα για πραγματική χρήση. Ένα σύστημα που έχει επικυρωθεί για έναν πληθυσμό, σύνολο δεδομένων ή δικαιοδοσία δεν είναι αυτόματα κατάλληλο για ένα άλλο. Η ανάπτυξή του εκτός των συνθηκών υπό τις οποίες δοκιμάστηκε αποτελεί κλασική παραβίαση του καθήκοντος επιμέλειας.
• Ουσιαστική ανθρώπινη επίβλεψη. Το άτομο που εξετάζει το αποτέλεσμα πρέπει να έχει τις πληροφορίες, τον χρόνο και την εξουσία να παρεκκλίνει από αυτό. Η εποπτεία που υπάρχει μόνο στα χαρτιά, όπου ο κριτής εγκρίνει εκατοντάδες αποτελέσματα την ώρα, δεν προσφέρει καμία προστασία.
• Παρακολούθηση μετά την εγκατάσταση. Η απόδοση του μοντέλου μεταβάλλεται καθώς αλλάζει ο κόσμος. Ένας οργανισμός που δεν μετρά ποτέ την ακρίβεια μετά την έναρξη λειτουργίας του, δεν μπορεί να δείξει ότι ήταν προσεκτικός.
• Διαφάνεια απέναντι στο άτομο που επηρεάζεται. Η ενημέρωση των ανθρώπων σχετικά με τη χρήση της Τεχνητής Νοημοσύνης και ο τρόπος χρήσης της αποτελεί τόσο υποχρέωση του Νόμου περί Τεχνητής Νοημοσύνης σε ορισμένες περιπτώσεις όσο και παράγοντα για το εάν ένα δικαστήριο κρίνει τη συμπεριφορά παράνομη.
• Απόδειξη με έγγραφα. Αρχεία καταγραφής, αρχεία έκδοσης, αποτελέσματα δοκιμών και οι λόγοι αποδοχής ή παράκαμψης ενός αποτελέσματος. Χωρίς αυτά, ο οργανισμός δεν μπορεί να αντικρούσει τον ισχυρισμό, ό,τι και αν συνέβη στην πραγματικότητα.

Ισχύει και η κατοπτρική εικόνα. Ένας οργανισμός που παρακάμπτει μια σωστή έξοδο τεχνητής νοημοσύνης ή που αγνοεί μια προειδοποίηση που παρήγαγε το σύστημα, εκτίθεται στην ίδια υποχρέωση επιμέλειας. Το ερώτημα δεν είναι ποτέ αν χρησιμοποιήθηκε τεχνητή νοημοσύνη, αλλά αν η διαδικασία λήψης αποφάσεων γύρω από αυτήν ήταν ορθή.

Αστική ευθύνη προϊόντος: οι κανόνες τώρα και οι κανόνες από τον Δεκέμβριο του 2026

Σύμφωνα με το ισχύον ολλανδικό καθεστώς, τα άρθρα 6:185 έως 6:193 του Αστικού Κώδικα, ο παραγωγός ελαττωματικού προϊόντος ευθύνεται για θάνατο, σωματική βλάβη και υλικές ζημιές που προορίζονται για ιδιωτική χρήση, χωρίς ο ζημιωθείς να υποχρεούται να αποδείξει υπαιτιότητα. Ένα προϊόν είναι ελαττωματικό εάν δεν προσφέρει την ασφάλεια που δικαιούται να αναμένει κάποιος, λαμβάνοντας υπόψη την παρουσίασή του, την ευλόγως αναμενόμενη χρήση του και τον χρόνο που τέθηκε σε κυκλοφορία. Ο ζημιωθείς πρέπει να αποδείξει το ελάττωμα, τη ζημία και την αιτιώδη συνάφεια. Οι αξιώσεις υπόκεινται σε τριετή παραγραφή που αρχίζει από τη στιγμή που γνωρίζει τη ζημία, το ελάττωμα και τον παραγωγό και παραγράφονται σε κάθε περίπτωση δέκα χρόνια μετά τη θέση του προϊόντος σε κυκλοφορία.

Η αδυναμία αυτού του καθεστώτος για την Τεχνητή Νοημοσύνη είναι δομική. Γράφτηκε για απτά αγαθά, δεν είναι σαφές εάν το αυτόνομο λογισμικό μετράει ως προϊόν και ένα σύστημα που αλλάζει τη συμπεριφορά του αφού τεθεί σε κυκλοφορία βρίσκεται σε δύσκολη θέση με ένα ελάττωμα που αξιολογείται τη στιγμή της κυκλοφορίας.

Η οδηγία (ΕΕ) 2024/2853 σχετικά με την ευθύνη για ελαττωματικά προϊόντα, η οποία εκδόθηκε στις 23 Οκτωβρίου 2024, αντικαθιστά την οδηγία του 1985 και απαντά στις περισσότερες από αυτές τις αντιρρήσεις. Το λογισμικό, συμπεριλαμβανομένων των συστημάτων Τεχνητής Νοημοσύνης, είναι ρητά ένα προϊόν. Ο κύκλος των υπευθύνων διευρύνεται πέρα ​​από τον κατασκευαστή, στους εισαγωγείς, τους εξουσιοδοτημένους αντιπροσώπους, τους παρόχους υπηρεσιών εκπλήρωσης παραγγελιών και, σε καθορισμένες περιπτώσεις, σε ένα μέρος που τροποποιεί ουσιαστικά ένα προϊόν που κυκλοφορεί ήδη στην αγορά. Η ελαττωματικότητα μπορεί να αξιολογηθεί λαμβάνοντας υπόψη τις επιπτώσεις της μάθησης μετά την ανάπτυξη και της δυνατότητας παροχής ενημερώσεων. Το όριο για την υλική ζημία εξαλείφεται και η αποζημιώσιμη ζημία περιλαμβάνει ρητά την καταστροφή ή την αλλοίωση δεδομένων και την ιατρικά αναγνωρισμένη ψυχολογική βλάβη. Κρίσιμο για την Τεχνητή Νοημοσύνη είναι ότι ένα δικαστήριο μπορεί να διατάξει την αποκάλυψη των αποδεικτικών στοιχείων που κατέχει ο εναγόμενος και ισχύουν μαχητά τεκμήρια ελαττωματικότητας και αιτιώδους συνάφειας όταν η τεχνική ή επιστημονική πολυπλοκότητα καθιστά την απόδειξη εξαιρετικά δύσκολη για τον ενάγοντα.

Τα κράτη μέλη πρέπει να μεταφέρουν την οδηγία στο εθνικό τους δίκαιο έως τις 9 Δεκεμβρίου 2026, και εφαρμόζεται σε προϊόντα που διατίθενται στην αγορά μετά την ημερομηνία αυτή. Το ολλανδικό νομοσχέδιο εφαρμογής, το οποίο τροποποιεί τα βιβλία 6 και 7 του Αστικού Κώδικα, υποβλήθηκε στη Βουλή των Αντιπροσώπων (Tweede Kamer) τον Μάρτιο του 2026 και δεν έχει ακόμη εγκριθεί. Η έναρξη ισχύος της θα καθοριστεί με βασιλικό διάταγμα. Μέχρι τότε, τα ισχύοντα άρθρα 6:185 έως 6:193 εξακολουθούν να ισχύουν, και τα προϊόντα που κυκλοφορούν ήδη στην αγορά όταν τεθούν σε ισχύ οι νέοι κανόνες παραμένουν στο παλαιό καθεστώς. Με άλλα λόγια, για αρκετά χρόνια τα δύο συστήματα θα λειτουργούν παράλληλα και η ημερομηνία κυκλοφορίας ενός συστήματος στην αγορά θα καθορίσει ποιο εφαρμόζεται σε αυτό.

Τι κάνει και τι δεν κάνει ο νόμος για την τεχνητή νοημοσύνη

Ο νόμος για την τεχνητή νοημοσύνη, κανονισμός (ΕΕ) 2024/1689, είναι νομοθεσία για την ασφάλεια των προϊόντων και την εποπτεία της αγοράς. Ταξινομεί τα συστήματα ανάλογα με τον κίνδυνο, απαγορεύει πλήρως έναν μικρό αριθμό πρακτικών, επιβάλλει υποχρεώσεις σχεδιασμού, τεκμηρίωσης, διακυβέρνησης δεδομένων, ανθρώπινης εποπτείας, ακρίβειας και παρακολούθησης μετά την κυκλοφορία στην αγορά στους παρόχους συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου , προσθέτει ελαφρύτερα καθήκοντα διαφάνειας για συστήματα που αλληλεπιδρούν με ανθρώπους ή παράγουν συνθετικό περιεχόμενο και ορίζει ξεχωριστούς κανόνες για μοντέλα τεχνητής νοημοσύνης γενικής χρήσης. Η παραβίαση επιβάλλεται από τις εποπτικές αρχές μέσω διοικητικών προστίμων. Δεν δημιουργεί δικαίωμα αποζημίωσης και ένα θύμα που επιθυμεί αποζημίωση πρέπει να υποβάλει αξίωση βάσει του Αστικού Κώδικα.

Ωστόσο, ο Νόμος περί Τεχνητής Νοημοσύνης έχει μεγάλη σημασία για την αστική ευθύνη, επειδή παρέχει το γραπτό πρότυπο με βάση το οποίο ένα δικαστήριο αξιολογεί την υποχρέωση επιμέλειας. Ένας οργανισμός που αγνόησε μια υποχρέωση τεκμηρίωσης, εποπτείας ή παρακολούθησης, εκ πρώτης όψεως, έχει υποκύψει στο πρότυπο που πληροί ένας προσεκτικός πάροχος. Τα αποδεικτικά στοιχεία συμμόρφωσης λειτουργούν αντίστροφα με την ίδια ισχύ: ο τεχνικός φάκελος, τα αρχεία διαχείρισης κινδύνου και τα αρχεία καταγραφής είναι ακριβώς αυτό που χρειάζεται ένας εναγόμενος όταν φτάσει η αγωγή.

Το χρονοδιάγραμμα άλλαξε το 2026 και αξίζει να αναφερθεί με ακρίβεια, επειδή ο σχεδιασμός συμμόρφωσης έχει καταρτιστεί με βάση τις αρχικές ημερομηνίες. Ο κανονισμός τέθηκε σε ισχύ την 1η Αυγούστου 2024. Οι απαγορευμένες πρακτικές και η υποχρέωση γραμματισμού στην Τεχνητή Νοημοσύνη ισχύουν από τις 2 Φεβρουαρίου 2025, και οι κανόνες για τα μοντέλα ΤΝ γενικής χρήσης, για τη διακυβέρνηση και για τις κυρώσεις από τις 2 Αυγούστου 2025. Το μεγαλύτερο μέρος του κανονισμού τέθηκε σε ισχύ στις 2 Αυγούστου 2026. Σύμφωνα με τη δέσμη μέτρων απλοποίησης για την οποία το Συμβούλιο έδωσε την τελική του έγκριση στις 29 Ιουνίου 2026, οι υποχρεώσεις για τα αυτόνομα συστήματα υψηλού κινδύνου που αναφέρονται στο Παράρτημα III αναβάλλονται για τις 2 Δεκεμβρίου 2027, και εκείνες για τα συστήματα υψηλού κινδύνου που είναι ενσωματωμένα σε προϊόντα που ήδη υπόκεινται στη νομοθεσία της ΕΕ για τα προϊόντα για τις 2 Αυγούστου 2028. Η προθεσμία για τα ρυθμιστικά sandboxes μεταφέρθηκε στις 2 Αυγούστου 2027, η περίοδος χάριτος για τους κανόνες διαφάνειας περιεχομένου μειώθηκε και προστέθηκαν νέες απαγορεύσεις για υλικό σεξουαλικής κακοποίησης παιδιών που παράγεται από ΤΝ και μη συναινετικές εικόνες προσωπικής χρήσης.

Η αναβολή δεν σημαίνει κατάργηση. Οι απαγορεύσεις, τα καθήκοντα διαφάνειας και οι κανόνες του μοντέλου γενικού σκοπού ισχύουν τώρα, και οι υποχρεώσεις υψηλού κινδύνου για αναβολή περιγράφουν συμπεριφορές που ένα δικαστήριο μπορεί ήδη να θεωρήσει ως το εφαρμοστέο πρότυπο φροντίδας. Οι οργανισμοί που διακόπτουν προσωρινά τα προγράμματά τους μέχρι το 2027 θα διαπιστώσουν ότι το αστικό δίκαιο τους πρόλαβε πρώτοι.

Η εποπτεία στις Κάτω Χώρες οργανώνεται μέσω ξεχωριστής εκτελεστικής πράξης. Η πρόταση αναθέτει στην Ολλανδική Αρχή Προστασίας Δεδομένων (Autoriteit Persoonsgegevens) και στην Ολλανδική Αρχή Ψηφιακών Υποδομών (Rijksinspectie Digitale Infrastructuur) συντονιστικό ρόλο, με μια ομάδα υφιστάμενων τομεακών εποπτών να διατηρούν την εποπτεία στους δικούς τους τομείς. Ο εν λόγω νόμος δεν είχε ακόμη τεθεί σε ισχύ κατά τη στιγμή της σύνταξης του παρόντος. Επειδή ο νόμος για την τεχνητή νοημοσύνη είναι κανονισμός, εφαρμόζεται άμεσα ανεξαρτήτως του ανεξαρτήτου. Αυτό που εξακολουθεί να λείπει είναι το εθνικό πλαίσιο επιβολής και επιβολής κυρώσεων.

Το πρόβλημα των αποδεικτικών στοιχείων και πώς το χειρίζεται η ολλανδική δικονομία

Το πιο δύσκολο κομμάτι μιας αξίωσης ευθύνης για τεχνητή νοημοσύνη δεν είναι σχεδόν ποτέ η νομική βάση. Αποδεικνύει ότι αυτό το σύστημα, και όχι ο άνθρωπος που το χρησιμοποίησε ή κάποια άσχετη αιτία, προκάλεσε τη ζημιά. Ένα μοντέλο που είναι αδιαφανές, που έχει επανεκπαιδευτεί από το περιστατικό και του οποίου τα αρχεία καταγραφής διατηρήθηκαν για τριάντα ημέρες, παρουσιάζει στον ενάγοντα ένα τείχος αποδεικτικών στοιχείων.

Η ευρωπαϊκή απάντηση επρόκειτο να είναι η αντιστροφή του βάρους της απόδειξης. Η πρόταση της Επιτροπής για μια οδηγία σχετικά με την ευθύνη της τεχνητής νοημοσύνης, που υποβλήθηκε τον Σεπτέμβριο του 2022, θα είχε εισαγάγει ένα τεκμήριο αιτιώδους συνάφειας και ένα δικαίωμα διαταγής κοινοποίησης αποδεικτικών στοιχείων σχετικά με συστήματα υψηλού κινδύνου. Δεν κατέληξε ποτέ σε συμφωνία και η Επιτροπή την απέσυρε επίσημα, δημοσιεύοντας την απόσυρση στην Επίσημη Εφημερίδα τον Οκτώβριο του 2025. Τίποτα δεν την έχει αντικαταστήσει και καμία νέα πρόταση δεν έχει εγκριθεί.

Αυτό που απομένει είναι τα εθνικά δικονομικά εργαλεία και τα τεκμήρια της αναθεωρημένης Οδηγίας για την Αστική Ευθύνη Προϊόντος. Η ολλανδική πολιτική δικονομία επιτρέπει ήδη σε ένα μέρος να ζητήσει την επιθεώρηση συγκεκριμένων εγγράφων που κατέχει άλλο μέρος βάσει του άρθρου 843α του Κώδικα Πολιτικής Δικονομίας και να ζητήσει από το δικαστήριο να διορίσει πραγματογνώμονα ή να διατάξει προκαταρκτική πραγματογνωμοσύνη. Στην πράξη, ένα έγκαιρο και με ακρίβεια διατυπωμένο αίτημα γνωστοποίησης αρχείων καταγραφής, πρότυπων εκδόσεων, εκθέσεων επικύρωσης και αρχείων συμβάντων συμβάλλει περισσότερο στην αξίωση από οποιοδήποτε επιχείρημα σχετικά με το βάρος της απόδειξης. Από την πλευρά της υπεράσπισης, το ίδιο σημείο έχει αντίστροφη κατεύθυνση: ένας οργανισμός που δεν μπορεί να προσκομίσει αυτά τα αρχεία θα διαπιστώσει ότι το δικαστήριο εξάγει συμπεράσματα από την απουσία τους.

Συνεπώς, η πολιτική διατήρησης αποτελεί ζήτημα ευθύνης και όχι μόνο ζήτημα πληροφορικής. Όπου εφαρμόζεται ο νόμος περί τεχνητής νοημοσύνης, οι πάροχοι και οι φορείς ανάπτυξης συστημάτων υψηλού κινδύνου πρέπει να διατηρούν αυτόματα δημιουργούμενα αρχεία καταγραφής για μια καθορισμένη ελάχιστη περίοδο. Όπου δεν ισχύει αυτό, οι προθεσμίες παραγραφής για την υποκείμενη αξίωση είναι ο καλύτερος οδηγός και οι τριάντα ημέρες δεν είναι αρκετές.

Πώς εξελίσσεται αυτό στους τομείς όπου έχει τη μεγαλύτερη σημασία

Υγειονομική περίθαλψη. Ένα σύστημα διαγνωστικής υποστήριξης δεν μεταθέτει την ευθύνη μακριά από τον κλινικό ιατρό. Η σχέση θεραπείας παραμένει με τον πάροχο φροντίδας βάσει της συμφωνίας ιατρικής περίθαλψης στα άρθρα 7:446 και επόμενα του Αστικού Κώδικα, και το πρότυπο είναι αυτό ενός εύλογα ικανού επαγγελματία. Όταν το ίδιο το εργαλείο είναι ακατάλληλο, το άρθρο 6:77 το αποδίδει στον πάροχο φροντίδας, εκτός εάν η απόδοση θα ήταν παράλογη, και η νομολογία για τα ελαττωματικά ιατρικά βοηθήματα δείχνει ότι η εξαίρεση εφαρμόζεται περιοριστικά. Το λογισμικό που χαρακτηρίζεται ως ιατρική συσκευή φέρει τις δικές του υποχρεώσεις βάσει του Κανονισμού για τα Ιατρικά Βοηθήματα, επιπλέον του Νόμου περί Τεχνητής Νοημοσύνης.

Προσλήψεις και Ανθρώπινο Δυναμικό. Ένα σύστημα επιλογής που φιλτράρει τους υποψηφίους είναι υψηλού κινδύνου βάσει του Νόμου περί Τεχνητής Νοημοσύνης και εμπίπτει πλήρως στη νομοθεσία περί ίσης μεταχείρισης. Οι έμμεσες διακρίσεις μέσω μιας μεταβλητής μεσολάβησης είναι παράνομες ακόμη και όταν κανείς δεν τις είχε σκοπό, ένα σημείο που αναπτύσσεται περαιτέρω στο άρθρο μας σχετικά με την ευθύνη για αλγοριθμική προκατάληψη , και ο εργοδότης, όχι ο προμηθευτής, αντιμετωπίζει τον υποψήφιο. Το Άρθρο 22 του ΓΚΠΔ περιορίζει την αμιγώς αυτοματοποιημένη απόρριψη και το συμβούλιο εργαζομένων έχει λόγο στην εισαγωγή συστημάτων που χρησιμοποιούνται για την παρακολούθηση ή την αξιολόγηση του προσωπικού.

Οδική κυκλοφορία. Η ολλανδική νομοθεσία περιλαμβάνει ήδη έναν κανόνα αντικειμενικής ευθύνης που ισχύει ανεξάρτητα από το επίπεδο αυτοματισμού. Σύμφωνα με το άρθρο 185 του νόμου περί οδικής κυκλοφορίας του 1994 (Wegenverkeerswet 1994), ο ιδιοκτήτης ή ο κάτοχος μηχανοκίνητου οχήματος ευθύνεται για ζημίες που προκαλούνται σε απροστάτευτους χρήστες του οδικού δικτύου σε σύγκρουση σε δημόσιο δρόμο, εκτός εάν υπήρξε ανωτέρα βία, και η νομολογία θέτει αυτή την υπεράσπιση πολύ υψηλά. Παράλληλα, ο οδηγός μπορεί να ευθύνεται για αδικοπραξία και ο κατασκευαστής βάσει των κανόνων ευθύνης για το προϊόν, όταν το σύστημα ήταν ελαττωματικό. Ο αυτοματισμός μετατοπίζει την ισορροπία μεταξύ αυτών των οδών· δεν καταργεί την πρώτη.

Χρηματοπιστωτικές υπηρεσίες. Ένα ίδρυμα που χρησιμοποιεί μοντέλα για πιστοληπτική αξιολόγηση, παρακολούθηση συναλλαγών ή παροχή συμβουλών εξακολουθεί να υπόκειται στην υποχρέωση επιμέλειας που προβλέπεται στον Νόμο περί Χρηματοπιστωτικής Εποπτείας (Wet op het financieel toezicht) και στην εποπτεία των ρυθμιστικών αρχών. Οι αποτυχίες διακυβέρνησης μοντέλων αντιμετωπίζονται ως αποτυχίες διακυβέρνησης του ιδρύματος, όχι του προμηθευτή.

Περιεχόμενο και επικοινωνίες. Τα παραγωγικά συστήματα δημιουργούν εκθέσεις διαφορετικού είδους: παραβίαση δικαιωμάτων πνευματικής ιδιοκτησίας, δυσφημιστικό ή παραπλανητικό περιεχόμενο και δημοσίευση προσωπικών δεδομένων. Η ευθύνη εδώ ακολουθεί τους συνήθεις κανόνες για το μέρος που δημοσιεύει και το γεγονός ότι μια μηχανή παρήγαγε το κείμενο δεν αποτελεί υπεράσπιση. Το άρθρο μας σχετικά με την ευθύνη για περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη καθορίζει λεπτομερώς αυτή τη θέση.

Μειώστε την έκθεσή σας πριν κάτι πάει στραβά

Τα περισσότερα από αυτά που προστατεύουν έναν οργανισμό πρέπει να έχουν τεθεί σε ισχύ πριν από το συμβάν, επειδή αποτελούνται από έγγραφα που δεν μπορούν να δημιουργηθούν αξιόπιστα εκ των υστέρων.

• Χάρτης όπου χρησιμοποιείται στην πραγματικότητα η Τεχνητή Νοημοσύνη. Οι περισσότεροι οργανισμοί υποτιμούν αυτό το γεγονός, επειδή τα εργαλεία έρχονται ενσωματωμένα σε λογισμικό που η επιχείρηση ήδη διαθέτει με άδεια χρήσης. Ταξινομήστε κάθε χρήση βάσει του Νόμου περί Τεχνητής Νοημοσύνης και καταγράψτε το σκεπτικό.
• Ξαναγράψτε τα συμβόλαια. Αντιμετωπίστε ρητά τις εγγυήσεις ακρίβειας, την προέλευση δεδομένων εκπαίδευσης, τις δοκιμές μεροληψίας, τις υποχρεώσεις ενημέρωσης, τη συμμόρφωση με τον νόμο περί τεχνητής νοημοσύνης, την ιδιοκτησία και τη διατήρηση των αρχείων καταγραφής, τα δικαιώματα ελέγχου, την ειδοποίηση περιστατικών και την αλληλεπίδραση μεταξύ του ανώτατου ορίου προμηθευτών και της δικής σας έκθεσης στους πελάτες.
• Σχεδιάστε την ανθρώπινη εποπτεία έτσι ώστε να είναι πραγματική. Δώστε στον κριτή τις πληροφορίες, τον χρόνο και την εντολή να διαφωνήσει και καταγράψτε πότε διαφωνεί.
• Συνδεθείτε σκόπιμα. Αποφασίστε τι φυλάσσεται, για πόσο χρονικό διάστημα και από ποιον, και ευθυγραμμίστε αυτό με τις περιόδους παραγραφής και όχι με το κόστος αποθήκευσης.
• Έλεγχος για μεροληψία και απόκλιση σε ένα χρονοδιάγραμμακαι να διατηρήσετε τα αποτελέσματα ακόμα και όταν δεν είναι κολακευτικά. Ένα τεκμηριωμένο πρόβλημα που αντιμετωπίστηκε είναι πολύ καλύτερη θέση από ένα μη τεκμηριωμένο πρόβλημα που δεν αντιμετωπίστηκε.
• Ελέγξτε την ασφάλιση. Οι ασφαλιστικές συμβάσεις επαγγελματικής ευθύνης και γενικής αστικής ευθύνης δεν συντάχθηκαν με γνώμονα τα αυτόνομα συστήματα. Ρωτήστε γραπτώς τον ασφαλιστή εάν καλύπτεται μια αξίωση που προκύπτει από απόφαση που υποστηρίζεται από τεχνητή νοημοσύνη και κρατήστε την απάντηση.

Συχνές ερωτήσεις σχετικά με την ευθύνη της τεχνητής νοημοσύνης

Συμβουλές σχετικά με την ευθύνη της Τεχνητής Νοημοσύνης από την εταιρεία Τεχνητής Νοημοσύνης (ΤΝ) Law and More

Η νομική θέση σχετικά με την ευθύνη της Τεχνητής Νοημοσύνης είναι πιο σταθερή από ό,τι υποδηλώνει η συζήτηση. Δεν υπάρχει κενό στο ολλανδικό δίκαιο: η σύμβαση, το καθήκον επιμέλειας, οι κανόνες για τα βοηθητικά και τα ακατάλληλα αντικείμενα, και το καθεστώς ευθύνης για το προϊόν καλύπτουν ήδη τον τομέα, και η αναθεωρημένη Οδηγία για την Ευθύνη για το Προϊόν κλείνει τα υπόλοιπα ερωτήματα σχετικά με το λογισμικό από τον Δεκέμβριο του 2026. Αυτό που αλλάζει δεν είναι το αν μπορείτε να θεωρηθείτε υπεύθυνοι, αλλά το πόσο εύκολα μπορεί ένας ενάγων να το αποδείξει και πόσα από τα δικά σας έγγραφα θα σας αναγνωστούν.

Law and More συμβουλεύει προμηθευτές και χρήστες συστημάτων Τεχνητής Νοημοσύνης ακριβώς για αυτά τα σημεία. Εξετάζουμε και διαπραγματευόμαστε συμβάσεις Τεχνητής Νοημοσύνης και λογισμικού, αξιολογούμε πού εμπίπτει μια ανάπτυξη βάσει του Νόμου περί Τεχνητής Νοημοσύνης και τι σημαίνει αυτό για το καθήκον σας επιμέλειας, δημιουργούμε διακυβέρνηση και καταγραφή που θα υπερισχύουν στις διαδικασίες και ενεργούμε υπέρ και κατά των μερών σε διαφορές σχετικά με ζημίες που προκαλούνται από αυτοματοποιημένες αποφάσεις. Εάν εισάγετε ένα σύστημα Τεχνητής Νοημοσύνης ή αντιμετωπίζετε αξίωση σχετικά με ένα, επικοινωνήστε μαζί μας. δίκαιο πληροφορικής ομάδα και θα περάσουμε από την έκθεση μαζί σας.