Σύμφωνα με το ολλανδικό και το ευρωπαϊκό δίκαιο, ένας αλγόριθμος δεν μπορεί να θεωρηθεί ποινικά υπεύθυνος. Η ποινική ευθύνη απαιτεί έναν δράστη που ο νόμος αναγνωρίζει ως πρόσωπο και το άρθρο 51 Sr επεκτείνει αυτό το καθεστώς μόνο σε φυσικά και νομικά πρόσωπα. Ένα σύστημα Τεχνητής Νοημοσύνης είναι ένα αντικείμενο, όχι ένας ύποπτος. Το ερώτημα που έχει σημασία στην πράξη δεν είναι επομένως αν ο αλγόριθμος είναι εν μέρει υπεύθυνος, αλλά ποιος άνθρωπος ή ποια εταιρεία είναι πλήρως υπεύθυνη για αυτό που έκανε.
Αυτό το ερώτημα έχει ήδη μια καλά ανεπτυγμένη απάντηση στο ολλανδικό ποινικό δίκαιο. Οι αρχές της λειτουργικής αυτουργίας (functioneel daderschap) και της εταιρικής ποινικής ευθύνης δημιουργήθηκαν ακριβώς για αυτήν την περίπτωση: βλάβη που προκαλείται μέσω ενός μέσου, ενός οργανισμού ή μιας διαδικασίας και όχι από τα ίδια τα χέρια του κατηγορουμένου. Αυτό το άρθρο καθορίζει πώς αυτές οι αρχές εφαρμόζονται στην Τεχνητή Νοημοσύνη, πώς ο νόμος της ΕΕ για την Τεχνητή Νοημοσύνη αλλάζει το πρότυπο περίθαλψης, πώς αντιμετωπίζεται η αλγοριθμική έξοδος ως αποδεικτικό στοιχείο και πώς θα πρέπει να μοιάζει ένα πρόγραμμα υπεράσπισης και ένα πρόγραμμα συμμόρφωσης. Για το ευρύτερο ζήτημα της κατανομής της ευθύνης σε μια αλυσίδα εφοδιασμού προγραμματιστών, παρόχων και χρηστών, ανατρέξτε στο συνοδευτικό μας άρθρο σχετικά με το ποιος είναι υπεύθυνος όταν μια μηχανή διαπράττει έγκλημα.
Γιατί ένας αλγόριθμος δεν μπορεί να είναι ύποπτος
Ένα ποινικό αδίκημα σύμφωνα με το ολλανδικό δίκαιο απαιτεί μια ανθρώπινη πράξη ή παράλειψη που εμπίπτει στον νομικό ορισμό ενός αδικήματος, είναι παράνομη και μπορεί να καταλογιστεί στον δράστη. Κάθε ένα από αυτά τα στοιχεία προϋποθέτει έναν δράστη με βούληση. Ένας αλγόριθμος παράγει αποτελέσματα εκτελώντας κώδικα σε δεδομένα. Δεν έχει βούληση να σχηματίσει, δεν έχει τίποτα για το οποίο να κατηγορηθεί και δεν έχει τίποτα που να μπορεί να επιφέρει ποινική κύρωση. Το άρθρο 51 παράγραφος 1 άφησε χώρο για την εταιρεία παράλληλα με το άτομο ακριβώς επειδή μια εταιρεία ενεργεί μέσω ανθρώπων. Δεν υπάρχει συγκρίσιμη διάταξη για το λογισμικό και η δημιουργία ενός θα απαιτούσε από τον νομοθέτη να εφεύρει μια νέα κατηγορία νομικού προσώπου.
Ούτε θα εξυπηρετούσε κανέναν σκοπό που αναγνωρίζει το ποινικό δίκαιο. Υπάρχει μια ποινή για να τιμωρεί, να αποτρέπει και, όπου είναι δυνατόν, να διορθώνει. Καμία από αυτές τις λειτουργίες δεν μπορεί να εκτελεστεί σε ένα μοντέλο. Η διαγραφή των βαρών ενός νευρωνικού δικτύου τιμωρεί τον κάτοχό του, όχι το δίκτυο. Όλα όσα θέλει να επιτύχει το ποινικό δίκαιο όταν ένα σύστημα τεχνητής νοημοσύνης προκαλεί βλάβη πρέπει να επιτευχθούν μέσω των ανθρώπων και των οργανισμών που βρίσκονται πίσω από αυτό, γι' αυτό και η ολλανδική πρακτική δεν αντιμετωπίζει αυτό ως κενό στο νόμο.
Ο παρακάτω πίνακας παρουσιάζει την αναντιστοιχία μεταξύ των στοιχείων ενός ποινικού αδικήματος και του τι πραγματικά είναι ένα σύστημα Τεχνητής Νοημοσύνης.
| Στοιχείο | Τι απαιτεί το ποινικό δίκαιο | Θέση ενός συστήματος Τεχνητής Νοημοσύνης |
|---|---|---|
| Ένας δράστης | Φυσικό πρόσωπο ή νομικό πρόσωπο βάσει του άρθρου 51 παράγραφος 1 του Κώδικα. | Κανένα από τα δύο. Το σύστημα είναι ένα αντικείμενο που ανήκει και λειτουργεί από κάποιον άλλο. |
| Μια συμπεριφορά | Μια πράξη ή μια υπαίτια παράλειψη που αποδίδεται στον εν λόγω δράστη. | Ένα αποτέλεσμα που παράγεται από κώδικα. Η αποδιδόμενη συμπεριφορά είναι η απόφαση για την κατασκευή, την ανάπτυξη ή την αφετηρία της εκτέλεσης. |
| Πρόθεση ή αμέλεια | Opzet, συμπεριλαμβανομένης της υπό όρους πρόθεσης ή culpa με την έννοια της ουσιώδους αμέλειας. | Καμία απολύτως ψυχική κατάσταση. Πρόθεση και αμέλεια υπάρχουν, αν όχι καθόλου, στους ανθρώπους που τη διαμόρφωσαν και την επέβλεψαν. |
| Μια κύρωση | Φυλάκιση, πρόστιμο, ποινή κοινωφελούς εργασίας ή μέτρο. | Δεν μπορεί να επιβληθεί καμία κύρωση στο λογισμικό. Οι κυρώσεις βαρύνουν τον χειριστή. |
Ποιος είναι υπεύθυνος αντ' αυτού: λειτουργική αυτουργία και άρθρο 51 Κώδικας
Το ολλανδικό ποινικό δίκαιο έχει δύο μηχανισμούς για την απόδοση ευθύνης σε κάποιον για συμπεριφορά που δεν διέπραξε φυσικά. Και οι δύο αναπτύχθηκαν πολύ πριν υπάρξει η μηχανική μάθηση και ταιριάζουν σε περιπτώσεις τεχνητής νοημοσύνης χωρίς τροποποίηση.
Λειτουργική διάπραξη
Το Functioneel daderschap επιτρέπει σε ένα άτομο να θεωρηθεί ως ο δράστης ενός αδικήματος που τελέστηκε φυσικά από κάποιον ή κάτι άλλο. Τα κριτήρια που διατύπωσε το Hoge Raad στην απόφαση IJzerdraad παραμένουν το κριτήριο: ο κατηγορούμενος πρέπει να είχε την εξουσία να καθορίσει εάν η συμπεριφορά έλαβε χώρα (beschikken) και πρέπει να την έχει αποδεχτεί ή να έχει αποδεχτεί συνήθως συμπεριφορά αυτού του είδους (aanvaarden).
Εφαρμοσμένο σε ένα σύστημα Τεχνητής Νοημοσύνης, το πρώτο κριτήριο είναι συνήθως απλό και το δεύτερο αποφασίζει για την υπόθεση. Η δύναμη της διάθεσης αποδεικνύεται από την ικανότητα διαμόρφωσης του συστήματος, καθορισμού των λειτουργικών του ορίων, ενημέρωσης ή επανεκπαίδευσης και, πάνω απ' όλα, απενεργοποίησής του. Πολύ λίγοι χειριστές μπορούν να ισχυριστούν με βεβαιότητα ότι δεν διέθεταν αυτή τη δύναμη. Η αποδοχή είναι το πιο δύσκολο ερώτημα και εκεί καταλήγουν τα στοιχεία: τι γνώριζε ο χειριστής για τους τρόπους αστοχίας του συστήματος, τι αναφέρθηκε από δοκιμές ή από προηγούμενα περιστατικά, τι έλεγε η αξιολόγηση κινδύνου και τι έγινε γι' αυτό. Η αποδοχή δεν απαιτεί επιθυμία για το αποτέλεσμα. Αρκεί ο χειριστής να αποδέχεται εν γνώσει του έναν σημαντικό κίνδυνο, που είναι το συνηθισμένο ολλανδικό πρότυπο για την υπό όρους πρόθεση (voorwaardelijk opzet).
Εταιρική ευθύνη και πραγματική ηγεσία
Όταν ο φορέας εκμετάλλευσης είναι εταιρεία, εφαρμόζεται το άρθρο 51 Κεφάλαιο. Το αδίκημα μπορεί να αποδοθεί στο νομικό πρόσωπο εάν η συμπεριφορά έλαβε χώρα εντός της σφαίρας του, κάτι που το Hoge Raad εξήγησε μέσω των παραγόντων που αναφέρονται στην απόφαση Drijfmest: η συμπεριφορά πραγματοποιήθηκε από κάποιον που εργαζόταν για την εταιρεία, εντάσσεται στο πλαίσιο της κανονικής της δραστηριότητας, ήταν χρήσιμη για την εταιρεία και η εταιρεία ήταν σε θέση να προσδιορίσει εάν έλαβε χώρα και αποδέχτηκε ή αποδέχτηκε συνήθως τέτοια συμπεριφορά. Ένα σύστημα τεχνητής νοημοσύνης που αναπτύσσεται από μια εταιρεία για να κάνει το έργο της πληροί εξ ορισμού το μεγαλύτερο μέρος αυτής της λίστας.
Το Άρθρο 51 παράγραφος επιτρέπει επίσης τη δίωξη όσων διέταξαν το αδίκημα και όσων έδωσαν την πραγματική ηγεσία σε αυτό (feitelijk leidinggeven). Αυτή είναι η διάταξη που φτάνει προσωπικά στους διευθυντές και τα ανώτερα στελέχη. Απαιτεί κάτι περισσότερο από μια θέση στο οργανόγραμμα: το άτομο πρέπει να γνώριζε την απαγορευμένη συμπεριφορά, τουλάχιστον με την έννοια της αποδοχής μιας σημαντικής πιθανότητας ότι αυτή λάμβανε χώρα, και πρέπει να μην έλαβε μέτρα που ήταν αρμόδιο και εύλογα υποχρεωμένο να λάβει. Σε μια υπόθεση Τεχνητής Νοημοσύνης, αυτό μεταφράζεται άμεσα σε αποδεικτικά στοιχεία σχετικά με το ποιος έλαβε την έκθεση επικύρωσης μοντέλου, ποιος υπέγραψε την ανάπτυξη και ποιος αποφάσισε ότι ένα γνωστό ποσοστό μεροληψίας ή σφάλματος ήταν αποδεκτό.
Τα αδικήματα αμέλειας κάνουν το μεγαλύτερο μέρος της δουλειάς
Στην πράξη, οι διώξεις που αφορούν αυτοματοποιημένα συστήματα είναι πολύ πιο πιθανό να βασίζονται σε αμέλεια παρά σε πρόθεση. Όταν ένα όχημα, μηχανή ή ιατρική συσκευή που κινείται από τεχνητή νοημοσύνη προκαλεί θάνατο, το σχετικό αδίκημα είναι η πρόκληση θανάτου από αμέλεια βάσει του άρθρου 307 Sr. όπου προκαλεί σοβαρό τραυματισμό, το άρθρο 308 Sr. Culpa στο ολλανδικό ποινικό δίκαιο σημαίνει ουσιαστική αμέλεια, κρίνοντας σε σχέση με αυτό που θα έπρεπε να είχε κάνει ένας λογικός χειριστής σε αυτή τη θέση. Αυτός είναι ακριβώς ο λόγος για τον οποίο θα διεξαχθεί μια υπόθεση τεχνητής νοημοσύνης, επειδή το πρότυπο φροντίδας για την ανάπτυξη ενός αυτοματοποιημένου συστήματος καταγράφεται ολοένα και περισσότερο: στον νόμο για την τεχνητή νοημοσύνη, στη ρύθμιση του τομέα, στα τεχνικά πρότυπα και στις διαδικασίες του ίδιου του χειριστή. Μια τεκμηριωμένη απόκλιση από ένα πρότυπο που υιοθέτησε ο ίδιος ο χειριστής είναι η ισχυρότερη απόδειξη αμέλειας που υπάρχει.
Οι διακρίσεις είναι η δεύτερη επαναλαμβανόμενη κατηγορία. Οι διακρίσεις κατά την άσκηση μιας επιχείρησης ή ενός επαγγέλματος αποτελούν ποινικό αδίκημα σύμφωνα με τον Wetboek van Strafrecht, και υπάρχουν τόσο εκ προθέσεως όσο και εκ αμελείας παραλλαγές. Ένα μοντέλο που θέτει συστηματικά σε μειονεκτική θέση μια προστατευόμενη ομάδα δεν αποτελεί επομένως μόνο διοικητικό πρόβλημα βάσει του δικαίου περί προστασίας δεδομένων και ίσης μεταχείρισης. Σε μια σοβαρή υπόθεση είναι ποινικό. Ο οδηγός μας για την ποινική δικονομία στην Ολλανδία εξηγεί πώς μια τέτοια υπόθεση θα εξελισσόταν από την έρευνα έως την κρίση.
Ο νόμος περί τεχνητής νοημοσύνης ορίζει το πρότυπο περίθαλψης, όχι την κύρωση
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη αποτελεί διοικητικό κανονισμό. Δεν δημιουργεί ποινικά αδικήματα και δεν καθιστά κανέναν ύποπτο. Η σημασία του για την ποινική ευθύνη είναι έμμεση και σημαντική: καταγράφει, με δεσμευτικούς όρους, τι αναμένεται να κάνει ένας προσεκτικός πάροχος ή εγκαταστάτης ενός συστήματος τεχνητής νοημοσύνης. Μόλις κωδικοποιηθεί ένα πρότυπο φροντίδας, η απόκλιση από αυτό αποτελεί απόδειξη αμέλειας και η συμμόρφωσή του με αυτό αποτελεί απόδειξη φροντίδας.
Ο νόμος ταξινομεί τα συστήματα ανάλογα με τον κίνδυνο. Ένας μικρός αριθμός πρακτικών απαγορεύεται ρητά, συμπεριλαμβανομένης της κοινωνικής βαθμολόγησης από τις δημόσιες αρχές, της μη στοχευμένης συλλογής εικόνων προσώπου για τη δημιουργία βάσεων δεδομένων αναγνώρισης, της αναγνώρισης συναισθημάτων στον χώρο εργασίας και στην εκπαίδευση και, με την επιφύλαξη περιορισμένων εξαιρέσεων, της εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσιους χώρους για την επιβολή του νόμου. Μια μεγαλύτερη ομάδα ταξινομείται ως υψηλού κινδύνου, η οποία καλύπτει τα στοιχεία ασφαλείας των ρυθμιζόμενων προϊόντων και τις χρήσεις που αναφέρονται στο παράρτημα του νόμου, μεταξύ των οποίων η πρόσληψη, η πιστωτική βαθμολόγηση και οι εφαρμογές στην επιβολή του νόμου, η μετανάστευση και η απονομή της δικαιοσύνης. Τα συστήματα που αλληλεπιδρούν με άτομα ή παράγουν συνθετικό περιεχόμενο έχουν καθήκοντα διαφάνειας. Τα υπόλοιπα είναι ουσιαστικά μη ρυθμιζόμενα.
Πάροχος ή υπεύθυνος ανάπτυξης: οι ρόλοι καθορίζουν τα καθήκοντα
Ο Νόμος κατανέμει τις υποχρεώσεις ανάλογα με τον ρόλο και η λανθασμένη εκδοχή του ρόλου είναι ένα από τα πιο συνηθισμένα σφάλματα συμμόρφωσης. Ένας πάροχος αναπτύσσει ένα σύστημα ή το έχει αναπτύξει και το διαθέτει στην αγορά με το δικό του όνομα. Ένας πάροχος χρησιμοποιεί ένα σύστημα υπό τη δική του εξουσία κατά τη διάρκεια των δραστηριοτήτων του. Οι πάροχοι φέρουν τις βαριές υποχρεώσεις σχεδιασμού, οι πάροχοι φέρουν υποχρεώσεις σωστής χρήσης, ανθρώπινης εποπτείας και παρακολούθησης. Η παγίδα είναι ότι ένας πάροχος γίνεται πάροχος, με όλα τα καθήκοντα που ακολουθούν, εάν βάλει το δικό του όνομα στο σύστημα, το τροποποιήσει ουσιαστικά ή αλλάξει τον προβλεπόμενο σκοπό του με τρόπο που το εντάσσει στις κατηγορίες υψηλού κινδύνου. Η βελτίωση ενός αγορασμένου μοντέλου στα δικά σας δεδομένα και στη συνέχεια η χρήση του για έναν σκοπό που ο πωλητής δεν είχε ποτέ σκεφτεί, μπορεί να μετακινήσει αθόρυβα έναν οργανισμό πέρα από αυτό το όριο. Σε μια ποινική έρευνα, η ίδια διάκριση επανεμφανίζεται ως το ερώτημα του ποιος είχε την εξουσία διάθεσης, γι' αυτό και οι ρόλοι θα πρέπει να καταγράφονται γραπτώς και να αντικατοπτρίζονται στη σύμβαση.
Τι ισχύει τώρα
Το χρονοδιάγραμμα έχει αλλάξει και αξίζει να είμαστε ακριβείς σχετικά με το πού βρίσκεται. Οι απαγορεύσεις για πρακτικές απαράδεκτου κινδύνου και η υποχρέωση διασφάλισης της παιδείας στην Τεχνητή Νοημοσύνη ισχύουν ήδη. Οι κανόνες για τα μοντέλα Τεχνητής Νοημοσύνης γενικής χρήσης ισχύουν ήδη. Οι υποχρεώσεις διαφάνειας του άρθρου 50, συμπεριλαμβανομένης της υποχρέωσης να διευκρινίζεται ότι το περιεχόμενο δημιουργείται ή χειραγωγείται τεχνητά, ισχύουν ήδη. Αυτό που έχει αναβληθεί από το πακέτο ψηφιακών διατάξεων είναι το καθεστώς υψηλού κινδύνου: οι υποχρεώσεις για τα συστήματα που αναφέρονται στο Παράρτημα III αρχίζουν τώρα στις 2 Δεκεμβρίου 2027 και εκείνες για τα συστήματα που καλύπτονται από το Παράρτημα Ι στις 2 Αυγούστου 2028. Ξεχωριστά, η προτεινόμενη Οδηγία για την Ευθύνη της Τεχνητής Νοημοσύνης έχει αποσυρθεί, επομένως η αστική ευθύνη για ζημία από την Τεχνητή Νοημοσύνη παραμένει ζήτημα εθνικού δικαίου, το οποίο στις Κάτω Χώρες σημαίνει τους συνήθεις κανόνες περί αδικοπραξίας και ευθύνης προϊόντος.
Οι κυρώσεις βάσει του Νόμου είναι διοικητικές και ορίζονται σε έως και τριάντα πέντε εκατομμύρια ευρώ ή επτά τοις εκατό του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών, όποιο από τα δύο είναι υψηλότερο, για την εμπλοκή σε απαγορευμένη πρακτική, με χαμηλότερα ανώτατα όρια για άλλες παραβάσεις. Η εποπτεία στην Ολλανδία οργανώνεται γύρω από τις υφιστάμενες ρυθμιστικές αρχές, με την Autoriteit Persoonsgegevens και την Rijksinspectie Digitale Infrastructuur σε συντονιστικό ρόλο. Τα άρθρα μας σχετικά με τις απαγορευμένες πρακτικές Τεχνητής Νοημοσύνης και τα συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου βάσει του Νόμου περί Τεχνητής Νοημοσύνης ορίζουν λεπτομερώς τις υποχρεώσεις και η επισκόπησή μας για τον Νόμο περί Τεχνητής Νοημοσύνης της ΕΕ καλύπτει το πλαίσιο στο σύνολό του.
Πώς θα το χρησιμοποιήσει ένας εισαγγελέας
Σκεφτείτε έναν πάροχο ανάπτυξης που θέτει σε χρήση ένα εργαλείο ελέγχου χωρίς να ελέγχει τα δεδομένα εκπαίδευσης για μεροληψία, χωρίς τη ρύθμιση ανθρώπινης εποπτείας που απαιτεί ο Νόμος και χωρίς την τεκμηρίωση που απαιτεί. Εάν αυτό το εργαλείο συμβάλει στη συνέχεια σε ένα ποινικό αποτέλεσμα, ο εισαγγελέας δεν χρειάζεται να επιχειρηματολογήσει από τις πρώτες αρχές σχετικά με το ποια φροντίδα οφειλόταν. Οι υποχρεώσεις είναι στη σελίδα, η παραβίαση τεκμηριώνεται και το στοιχείο αποδοχής της λειτουργικής διάπραξης προκύπτει από την απόφαση ανάπτυξης ούτως ή άλλως. Το αντίστροφο ισχύει εξίσου και αυτό είναι το σημείο που παραβλέπεται συχνότερα από τα διοικητικά συμβούλια: μια εταιρεία που μπορεί να παράγει την αξιολόγηση κινδύνου της, τα αποτελέσματα επικύρωσης, το πρωτόκολλο εποπτείας της και το αρχείο καταγραφής συμβάντων της έχει δημιουργήσει τον πυρήνα της δικής της άμυνας πριν πάει κάτι στραβά.
Αλγοριθμική έξοδος ως απόδειξη
Ο δεύτερος τρόπος με τον οποίο η Τεχνητή Νοημοσύνη εισέρχεται σε μια ποινική αίθουσα δικαστηρίου δεν είναι ως αιτία βλάβης αλλά ως πηγή απόδειξης. Οι αντιστοιχίσεις αναγνώρισης προσώπου, η αυτόματη αναγνώριση πινακίδων κυκλοφορίας, η ανάλυση δικτύου δεδομένων επικοινωνιών, τα μοντέλα κινδύνου απάτης, η σύγκριση φωνής και η ολοένα και πιο αυτοματοποιημένη διαλογή κατασχεμένων δεδομένων παράγουν υλικό στο οποίο θέλει να βασιστεί η εισαγγελία. Η ολλανδική ποινική δικονομία λειτουργεί με ένα κλειστό σύστημα κατηγοριών αποδεικτικών στοιχείων και το αλγοριθμικό αποτέλεσμα δεν σχηματίζει ξεχωριστή κατηγορία. Φτάνει στο δικαστήριο ως μέρος επίσημης έκθεσης ή μέσω της γνώμης ενός εμπειρογνώμονα και υπόκειται στον ίδιο έλεγχο με οποιοδήποτε άλλο αποδεικτικό στοιχείο.
Αυτός ο έλεγχος είναι το σημείο όπου επικεντρώνεται η υπεράσπιση. Τρία ερωτήματα καθορίζουν το βάρος που μπορεί να φέρει το υλικό. Είναι η μέθοδος επικυρωμένη και από ποιον; Υπό ποιες συνθήκες αποτυγχάνει και υπήρχαν αυτές οι συνθήκες; Και μπορεί η υπεράσπιση να την δοκιμάσει, πράγμα που σημαίνει πρόσβαση σε αρκετές πληροφορίες σχετικά με το σύστημα, τα δεδομένα εκπαίδευσής του, τα ποσοστά σφάλματος και τη διαμόρφωσή του για να θέσει μια ουσιαστική αμφισβήτηση. Μια αντιστοίχιση που παρουσιάζεται ως γεγονός, χωρίς ποσοστό σφάλματος και χωρίς δυνατότητα επαλήθευσης, δεν αποτελεί απόδειξη για την οποία ένα δικαστήριο θα πρέπει να καταδικάσει, και το να το δηλώνει αυτό είναι μια νόμιμη και συχνά αποτελεσματική υπεράσπιση.
Η μαρτυρία των εμπειρογνωμόνων έχει το δικό της πλαίσιο. Το δικαστήριο μπορεί να διορίσει έναν εμπειρογνώμονα, η υπεράσπιση μπορεί να ζητήσει έναν και το μητρώο δικαστικών εμπειρογνωμόνων υπάρχει για να παρέχει ένα όριο ποιότητας για τους τομείς που καλύπτει. Όταν μια μέθοδος Τεχνητής Νοημοσύνης εμπίπτει εκτός οποιουδήποτε αναγνωρισμένου τομέα, αυτό από μόνο του αποτελεί επιχείρημα σχετικά με την αξιοπιστία του αποτελέσματος. Αξίζει επίσης να σημειωθεί ότι ο νέος Wetboek van Strafvordering, που εγκρίθηκε από την Eerste Kamer στις 24 Φεβρουαρίου 2026 και δημοσιεύτηκε στην Staatsblad τον Μάρτιο του 2026, θα τεθεί σε ισχύ βιβλίο προς βιβλίο με βασιλικό διάταγμα. Μέχρι να συμβεί αυτό, εξακολουθούν να ισχύουν οι ισχύουσες διατάξεις και οι αριθμοί άρθρων τους.
Η οπτική γωνία της προστασίας δεδομένων
Όταν μια απόφαση που επηρεάζει ένα άτομο λαμβάνεται μόνο με αυτοματοποιημένα μέσα, ο ΓΚΠΔ παρέχει στο εν λόγω άτομο το δικαίωμα να μην υποβληθεί σε αυτήν, μαζί με το δικαίωμα σε ουσιαστικές πληροφορίες σχετικά με τη λογική που εμπλέκεται. Στην ποινική επιβολή ισχύουν οι παράλληλοι κανόνες του νόμου που εφαρμόζει την οδηγία για τα δεδομένα της αστυνομίας. Αυτό έχει σημασία προς δύο κατευθύνσεις. Για έναν ύποπτο, είναι μια οδός προς πληροφορίες σχετικά με ένα σύστημα που οι αρχές μπορεί να προτιμούν να μην εξηγήσουν. Για μια εταιρεία, η ανάπτυξη αυτοματοποιημένης λήψης αποφάσεων χωρίς νόμιμη βάση και χωρίς τις εγγυήσεις αποτελεί παραβίαση του κανονισμού που θα ερμηνεύεται παράλληλα με οποιαδήποτε ποινική κατηγορία.
Υπεράσπιση υπόθεσης στην οποία εμπλέκεται η Τεχνητή Νοημοσύνη
Η ενστικτώδης υπεράσπιση, ότι το σύστημα ήταν ένα μαύρο κουτί και κανείς δεν μπορούσε να γνωρίζει τι θα έκανε, είναι πιο αδύναμη από ό,τι φαίνεται. Απαντά σε λάθος ερώτημα. Το ολλανδικό ποινικό δίκαιο δεν διερωτάται αν ο κατηγορούμενος προέβλεψε το ακριβές αποτέλεσμα. διερωτάται αν ο κατηγορούμενος είχε την εξουσία να καθορίσει αν η συμπεριφορά έλαβε χώρα και αν αποδέχτηκε τον κίνδυνο ότι θα λάμβανε χώρα. Η αδιαφάνεια μπορεί να βλάψει τον κατηγορούμενο: η ανάπτυξη ενός συστήματος του οποίου η συμπεριφορά δεν μπορεί να εξηγηθεί, σε ένα περιβάλλον όπου μπορεί να προκαλέσει σοβαρή βλάβη, είναι από μόνη της μια απόφαση που ένα δικαστήριο μπορεί να θεωρήσει ως αποδοχή του κινδύνου.
Οι άμυνες που λειτουργούν είναι πιο περιορισμένες και αποδεικτικές. Το πρώτο είναι η πραγματική απουσία ελέγχου: το σύστημα αποκτήθηκε ως τελικό προϊόν, διαμορφώθηκε και συντηρήθηκε από τον πάροχο, και ο εναγόμενος δεν είχε ούτε τις πληροφορίες ούτε την τεχνική ικανότητα να παρέμβει. Αυτό το επιχείρημα μετατοπίζει την προσοχή σε ανώτερα στάδια της αλυσίδας στον πάροχο και ισχύει ή καταρρίπτεται στη σύμβαση και σε αυτό που στην πραγματικότητα αναφέρθηκε στον κατασκευαστή. Το δεύτερο είναι ότι ο χειριστής έκανε αυτό που κάνει ένας προσεκτικός χειριστής: τεκμηριωμένη αξιολόγηση κινδύνου, επικύρωση πριν από την ανάπτυξη, καθορισμένη ανθρώπινη εποπτεία με ένα άτομο που είχε την εξουσία και την αρμοδιότητα να παρακάμψει, παρακολούθηση μετά την ανάπτυξη και άμεση δράση σε περιστατικά. Το τρίτο είναι η αιτιώδης συνάφεια, η οποία συχνά υποχρησιμοποιείται. Σε μια αλυσίδα που εκτείνεται από τα δεδομένα εκπαίδευσης μέσω ενός μοντέλου σε μια ανθρώπινη απόφαση και σε ένα αποτέλεσμα, η εισαγγελία πρέπει να αποδείξει ότι η συμπεριφορά αυτού του εναγόμενου προκάλεσε το αποτέλεσμα, και οι πολύπλοκες αλυσίδες σπάνε.
Ακολουθούν δύο πρακτικά σημεία. Διατηρήστε τα πάντα νωρίς: τα αρχεία καταγραφής, οι εκδόσεις μοντέλων, η διαμόρφωση, οι αναφορές συμβάντων και η αλληλογραφία σχετικά με τις αποφάσεις ανάπτυξης αποτελούν αποδεικτικά στοιχεία και από τις δύο πλευρές και αντικαθίστανται συστηματικά. Και να θυμάστε ότι οι συνήθεις εγγυήσεις της ποινικής δικονομίας ισχύουν πλήρως σε τεχνικά πολύπλοκες υποθέσεις, συμπεριλαμβανομένου του δικαιώματος του υπόπτου να μην πει τίποτα. Το άρθρο μας σχετικά με το δικαίωμα σιωπής σε ποινικές υποθέσεις εξηγεί πώς λειτουργεί σε μια ολλανδική έρευνα. Όταν ο ισχυρισμός αφορά απάτη που διαπράττεται με αυτοματοποιημένα εργαλεία, ο οδηγός μας για την απάτη και το οικονομικό έγκλημα στην Ολλανδία καλύπτει τα εμπλεκόμενα αδικήματα.
Τι δείχνει στην πραγματικότητα η υπόθεση με τα επιδόματα παιδικής μέριμνας
Η υπόθεση toeslagenaffaire, η υπόθεση των επιδομάτων παιδικής μέριμνας στην Ολλανδία, είναι η περίπτωση στην οποία επιστρέφει κάθε συζήτηση για την αλγοριθμική λογοδοσία στην Ολλανδία, και συνήθως αναφέρεται για λάθος λόγο. Το μάθημά της δεν είναι ότι ένας αλγόριθμος έκανε κάτι εγκληματικό. Είναι ότι ένα σύστημα αυτοματοποιημένης επιλογής κινδύνου, σε συνδυασμό με μια θεσμική απροθυμία να αμφισβητήσει το αποτέλεσμά του, προκάλεσε χρόνια σοβαρής ζημιάς σε δεκάδες χιλιάδες οικογένειες χωρίς κανείς να θεωρηθεί ποινικά υπεύθυνος.
Η Φορολογική Διοίκηση χρησιμοποίησε την ταξινόμηση κινδύνου για την επιλογή αιτήσεων παροχών προς διερεύνηση. Δείκτες που δεν θα έπρεπε ποτέ να είχαν χρησιμοποιηθεί, συμπεριλαμβανομένης της ιθαγένειας, βρήκαν τον δρόμο τους στην επιλογή, και μια μικρή διοικητική παρατυπία θα μπορούσε να οδηγήσει σε διαπίστωση σκόπιμης απάτης με υποχρέωση επιστροφής του πλήρους επιδόματος. Οι οικογένειες δεν μπορούσαν να καταλάβουν γιατί είχαν επιλεγεί, οι αξιωματούχοι αντιμετώπισαν την ταξινόμηση ως συμπέρασμα και όχι ως σήμα, και το βάρος της διάψευσης μιας κατηγορίας που κανείς δεν θα μπορούσε να εξηγήσει έπεσε στον κατηγορούμενο. Η ολλανδική αρχή προστασίας δεδομένων έκρινε την επεξεργασία δεδομένων ιθαγένειας παράνομη και επέβαλε πρόστιμο, και η κυβέρνηση παραιτήθηκε τον Ιανουάριο του 2021.
Αυτό που δεν συνέβη είναι διδακτικό. Κανένα άτομο δεν διώχθηκε ποινικά. Η ευθύνη κατανεμήθηκε σε έναν οργανισμό, μια πολιτική, ένα λογισμικό και ένα νομικό πλαίσιο που αντιμετώπιζε την ανάκτηση των παροχών ως διοικητικό ζήτημα. Αυτή η διάχυση είναι ακριβώς ο κίνδυνος που η λειτουργική διάπραξη και το άρθρο 51 Sr έχουν σχεδιαστεί για να αντιμετωπίσουν, και εξηγεί γιατί ο νόμος περί τεχνητής νοημοσύνης επιμένει στην αναγνωρίσιμη ανθρώπινη εποπτεία και στην τεκμηρίωση. Η λογοδοσία απαιτεί ένα άτομο που θα μπορούσε να την είχε σταματήσει και ένα αρχείο με όσα γνώριζε.
Αξίζει να αναφερθούν τρεις αποτυχίες, επειδή μεταφράζονται άμεσα σε νομική έκθεση για οποιονδήποτε οργανισμό. Οι αποφάσεις δεν ήταν εξηγήσιμες, επομένως δεν μπορούσαν να αμφισβητηθούν. Η ανθρώπινη εποπτεία υπήρχε στα χαρτιά αλλά όχι στην πράξη, επειδή τα εμπλεκόμενα άτομα δεν είχαν ούτε την εξουσία ούτε τις πληροφορίες για να παρακάμψουν το σύστημα. Και το αποτέλεσμα μιας σημαίας ήταν να αντιστρέψει το βάρος της απόδειξης στην πραγματικότητα, αν όχι νομικά. Οποιαδήποτε ανάπτυξη Τεχνητής Νοημοσύνης που αναπαράγει αυτά τα τρία χαρακτηριστικά αποτελεί ένα νομικό πρόβλημα που περιμένει να ωριμάσει, ανεξάρτητα από την τεχνολογία πίσω από αυτήν. Η κυβερνητική απάντηση, συμπεριλαμβανομένων των κατευθυντήριων γραμμών σχετικά με την απαγόρευση των διακρίσεων εκ σχεδιασμού και τα μητρώα αλγορίθμων για δημόσιους φορείς, στοχεύει ακριβώς σε αυτά τα τρία σημεία.
Ένα πρόγραμμα συμμόρφωσης που λειτουργεί και ως άμυνα
Οτιδήποτε κάνει μια εταιρεία για να συμμορφωθεί με τον Νόμο περί Τεχνητής Νοημοσύνης (AI Act) παράγει επίσης τα αποδεικτικά στοιχεία που θα χρειαζόταν σε περίπτωση που κάτι πήγαινε στραβά. Αυτός ο διττός σκοπός είναι το επιχείρημα υπέρ της σωστής και όχι της ελάχιστης δυνατής εφαρμογής, και καθιστά τα ακόλουθα βήματα αξιόλογα της προσπάθειας.
Ξεκινήστε με ένα απόθεμα. Δεν μπορείτε να ταξινομήσετε ό,τι δεν έχετε καταχωρίσει και οι περισσότεροι οργανισμοί ανακαλύπτουν ότι η Τεχνητή Νοημοσύνη έχει εισέλθει μέσω προμηθειών και όχι μέσω ενός έργου: μια λειτουργία ελέγχου σε μια πλατφόρμα προσλήψεων, μια ενότητα βαθμολόγησης σε μια αίτηση πίστωσης, μια λειτουργία παρακολούθησης σε λογισμικό ασφαλείας. Ταξινομήστε κάθε σύστημα βάσει του Νόμου, καταγράψτε τη συλλογιστική και επανεξετάστε την όταν ένα σύστημα έχει υποστεί ουσιώδεις αλλαγές, επειδή μια αλλαγή σκοπού μπορεί να μετακινήσει ένα σύστημα σε διαφορετική κατηγορία.
Στη συνέχεια, αναθέστε την ευθύνη σε συγκεκριμένα άτομα και όχι σε τμήματα. Η λειτουργική διάπραξη και η πραγματική ηγεσία επηρεάζουν τόσο το ποιος θα μπορούσε να είχε καθορίσει εάν η συμπεριφορά έλαβε χώρα. Ένας οργανισμός στον οποίο κανείς δεν μπορεί να αναγνωριστεί ως υπεύθυνος δεν απαλλάσσεται από την ευθύνη. Απλώς εκθέτει όποιον βρίσκεται στην κορυφή του πίνακα. Πείτε ποιος κατέχει κάθε σύστημα, ποιος μπορεί να εγκρίνει την ανάπτυξη, ποιος εκτελεί την εποπτεία και ποιος μπορεί να το απενεργοποιήσει, και βεβαιωθείτε ότι το άτομο που κατονομάζεται έχει την εξουσία και την τεχνική ικανότητα να το κάνει.
Κάντε την ανθρώπινη εποπτεία πραγματική. Η απαίτηση δεν είναι ένα άτομο που βρίσκεται σε εξέλιξη, αλλά ένα άτομο που μπορεί να κατανοήσει την έξοδο, έχει το δικαίωμα να την απορρίψει και δεν μετριέται με βάση την απόδοση με τρόπο που να καθιστά την απόρριψη μη πρακτική. Παρακάμψεις εγγραφών, επειδή ένα αρχείο καταγραφής που δείχνει ότι η λειτουργία εποπτείας χρησιμοποιείται στην πραγματικότητα αξίζει περισσότερο από οποιοδήποτε έγγραφο πολιτικής.
Καταγράψτε την τεχνική κατάσταση: από πού προήλθαν τα δεδομένα εκπαίδευσης και πώς ελέγχθηκαν, ποιες δοκιμές πραγματοποιήθηκαν και τι έδειξαν, ποια είναι τα γνωστά ποσοστά σφάλματος και οι συνθήκες αποτυχίας και τι αποφασίστηκε σχετικά με αυτά. Όπου απαιτείται αξιολόγηση του αντίκτυπου στην προστασία δεδομένων ή στα θεμελιώδη δικαιώματα, διενεργήστε την πριν από την ανάπτυξη και διατηρήστε την ενημερωμένη. Παρακολουθήστε μετά την ανάπτυξη, καταγράψτε τα περιστατικά και ενεργήστε βάσει αυτών με τρόπο που να είναι ορατός στο αρχείο.
Τέλος, φροντίστε να έχετε τις σωστές συμβάσεις. Όταν ένα σύστημα αγοράζεται αντί να κατασκευάζεται, η κατανομή ευθύνης μεταξύ παρόχου και κατασκευαστή καθορίζει ποιος φέρει τον κίνδυνο. Ζητήστε την τεχνική τεκμηρίωση που απαιτεί ο Νόμος, τις οδηγίες χρήσης, πληροφορίες σχετικά με γνωστούς περιορισμούς και το δικαίωμα να ενημερώνεστε για περιστατικά και ουσιαστικές τροποποιήσεις. Η ομάδα μας που ασχολείται με το δίκαιο της πληροφορικής ασχολείται με αυτές τις ρυθμίσεις.
Όταν η Τεχνητή Νοημοσύνη είναι το εργαλείο του παραβάτη και όχι η αποτυχία μιας επιχείρησης
Μέχρι στιγμής, το άρθρο αυτό έχει ασχοληθεί με τη ζημία που προκαλείται από ένα σύστημα Τεχνητής Νοημοσύνης που ανέπτυξε μια εταιρεία για νόμιμο σκοπό. Το άλλο μισό της εικόνας είναι η Τεχνητή Νοημοσύνη που χρησιμοποιείται σκόπιμα για την τέλεση ενός αδικήματος, και εδώ η απάντηση είναι απλούστερη: το αδίκημα είναι το αδίκημα, και η τεχνολογία είναι μια επιβαρυντική λεπτομέρεια παρά ένα νομικό πρόβλημα. Το ολλανδικό ποινικό δίκαιο συντάσσεται με βάση τα αποτελέσματα και τη συμπεριφορά, όχι με βάση τα μέσα, γι' αυτό και χρειάστηκαν πολύ λίγες νέες διατάξεις.
Η απάτη που διαπράττεται με κλωνοποιημένη φωνή ή συνθετικό βίντεο ενός διευθυντή που δίνει εντολή πληρωμής αποτελεί απάτη βάσει του άρθρου 326 παράγραφος 1, ακριβώς όπως θα συνέβαινε με μια πλαστή επιστολή. Ένα έγγραφο που δημιουργείται από ένα μοντέλο για να υποστηρίξει έναν ψευδή ισχυρισμό αποτελεί πλαστογραφία βάσει του άρθρου 225 παράγραφος 1. Η χρήση κάποιου που αναγνωρίζει προσωπικά δεδομένα για να παρουσιαστεί ως αυτό αποτελεί αδίκημα από μόνο του βάσει του άρθρου 231β παράγραφος 1. Η διανομή σεξουαλικά άσεμνων εικόνων ενός ατόμου χωρίς τη συγκατάθεσή του τιμωρείται και ο νόμος Wet seksuele misdrijven, που ισχύει από την 1η Ιουλίου 2024, εκσυγχρόνισε αυτό το μέρος του Ποινικού Κώδικα. Μια συνθετική εικόνα δεν εμπίπτει σε αυτόν επειδή δημιουργήθηκε αντί να καταγραφεί. Η συνεχής παρενόχληση μέσω αυτοματοποιημένων λογαριασμών μπορεί να ισοδυναμεί με παραβίαση του άρθρου 285β παράγραφος 1, η οποία διώκεται μόνο κατόπιν καταγγελίας του θύματος.
Αυτό που αλλάζει η Τεχνητή Νοημοσύνη είναι η κλίμακα, η αξιοπιστία και η δυσκολία της απόδειξης. Μια πειστική συνθετική φωνή εξαλείφει την τριβή που παλαιότερα προστατεύεε από την απάτη πληρωμών και δεν μπορούν πλέον να θεωρηθούν ως δεδομένες οι αποδείξεις ότι μια ηχογράφηση είναι αυθεντική. Ακολουθούν δύο πρακτικές συνέπειες. Για τα θύματα και για τις εταιρείες, οι διαδικασίες επαλήθευσης που δεν εξαρτώνται από την αναγνώριση φωνής ή προσώπου αποτελούν πλέον βασικό έλεγχο και όχι βελτίωση. Για την ποινική διαδικασία, η αυθεντικότητα του ηχητικού και βιντεοσκοπημένου υλικού έχει γίνει ένα ζήτημα που πρέπει να αποδειχθεί και όχι να υποτεθεί, και η υπεράσπιση δικαιούται να το ελέγξει.
Η ρύθμιση αρχίζει να βοηθάει. Οι υποχρεώσεις διαφάνειας του άρθρου 50 του νόμου περί τεχνητής νοημοσύνης, οι οποίες ήδη ισχύουν, απαιτούν από τους παρόχους να επισημαίνουν το συνθετικό περιεχόμενο με μηχανικά αναγνώσιμο τρόπο και απαιτούν από τους παρόχους να αποκαλύπτουν ότι μια εικόνα, ήχος ή βίντεο έχει δημιουργηθεί ή παραποιηθεί τεχνητά όπου απεικονίζει πραγματικά πρόσωπα ή γεγονότα. Η συμμόρφωση δεν σταματά έναν αποφασισμένο παραβάτη, αλλά ενισχύει τη θέση όλων των άλλων: καθιστά το μη αποκαλυφθέν συνθετικό περιεχόμενο μια κανονιστική παραβίαση από μόνη της και δίνει στους ερευνητές και τα δικαστήρια ένα σήμα που πρέπει να αναζητήσουν. Το άρθρο μας σχετικά με την απόδειξη της ψηφιακής απάτης στην Ολλανδία ασχολείται με την αποδεικτική πλευρά αυτών των υποθέσεων.
Συχνές ερωτήσεις σχετικά με την Τεχνητή Νοημοσύνη και την ποινική ευθύνη
Μπορεί μια εταιρεία να θεωρηθεί ποινικά υπεύθυνη εάν η τεχνητή νοημοσύνη της κάνει διακρίσεις;
Ναι, σίγουρα μπορεί. Ενώ δεν θα δείτε ένα σύστημα Τεχνητής Νοημοσύνης στο εδώλιο του κατηγορουμένου, η εταιρεία που το χρησιμοποίησε σίγουρα μπορεί να αντιμετωπίσει ποινικές διώξεις για μεροληπτικά αποτελέσματα σύμφωνα με τις ολλανδικές αρχές εταιρικής ποινικής ευθύνης. Εάν η ηγεσία μιας εταιρείας γνώριζε για τις δυνατότητες μεροληψίας της Τεχνητής Νοημοσύνης και δεν έκανε τίποτα, ή εάν ήταν βαριά αμελής στην εποπτεία της, οι ποινικές διώξεις είναι μια πολύ πραγματική πιθανότητα. Ο νόμος της ΕΕ για την Τεχνητή Νοημοσύνη ορίζει επίσης αυστηρούς κανόνες κατά της μεροληψίας για συστήματα υψηλού κινδύνου. Η μη τήρηση αυτών των προτύπων θα αποτελούσε ισχυρή απόδειξη αμέλειας σε οποιαδήποτε ποινική υπόθεση. Το νομικό προσκήνιο θα πέφτει πάντα πιο έντονα στις ανθρώπινες αποφάσεις που λαμβάνονται σχετικά με τη δημιουργία, την εκπαίδευση και την ανάπτυξη της Τεχνητής Νοημοσύνης.
Ποιο είναι το πρόβλημα του μαύρου κουτιού στην Τεχνητή Νοημοσύνη;
Το πρόβλημα του «μαύρου κουτιού» είναι ένας όρος για σύνθετα μοντέλα Τεχνητής Νοημοσύνης όπου ακόμη και οι άνθρωποι που τα κατασκεύασαν δεν μπορούν να εντοπίσουν πλήρως πώς επιτεύχθηκε ένα συγκεκριμένο αποτέλεσμα. Αυτό είναι ένα τεράστιο ζήτημα όταν η Τεχνητή Νοημοσύνη και το ποινικό δίκαιο συγκρούονται. Στο δικαστήριο, αυτό μπορεί στην πραγματικότητα να γίνει ο ακρογωνιαίος λίθος μιας υπεράσπισης. Ένας δικηγόρος θα μπορούσε να υποστηρίξει ότι ένα επιβλαβές αποτέλεσμα ήταν εντελώς απρόβλεπτο, που σημαίνει ότι ο κατηγορούμενος δεν είχε την απαιτούμενη εγκληματική πρόθεση (opzet). Το επιχείρημα είναι απλό: πώς θα μπορούσε να είχε σκοπό ένα αποτέλεσμα που δεν θα μπορούσε να προβλέψει; Αλλά οι εισαγγελείς έχουν μια ισχυρή απάντηση. Μπορούν να υποστηρίξουν ότι η ανάπτυξη ενός ισχυρού, απρόβλεπτου συστήματος χωρίς κατάλληλες διασφαλίσεις είναι, από μόνη της, μια πράξη απερισκεψίας ή βαριάς αμέλειας. Και αυτό μπορεί να είναι αρκετό για να ικανοποιήσει το νοητικό στοιχείο που απαιτείται για την ποινική ευθύνη. Αυτό θέτει το σκηνικό για μια νομική διαμάχη υψηλού διακυβεύματος σχετικά με την προβλεψιμότητα και το καθήκον επιμέλειας.
Ποιος είναι ο καλύτερος τρόπος για τους προγραμματιστές να περιορίσουν τον νομικό κίνδυνο;
Το πιο αποτελεσματικό πράγμα που μπορούν να κάνουν οι προγραμματιστές για να προστατεύσουν τον εαυτό τους από τον νομικό κίνδυνο είναι να διατηρούν σχολαστική, διαφανή τεκμηρίωση σε κάθε στάδιο της ζωής της Τεχνητής Νοημοσύνης. Σκεφτείτε το σαν να δημιουργείτε ένα λεπτομερές «ίχνος ελέγχου» που μπορεί να γίνει το πιο κρίσιμο αποδεικτικό στοιχείο σας. Αυτή η τεκμηρίωση πρέπει πραγματικά να καλύπτει τα πάντα, από την αρχή μέχρι το τέλος: Πηγές Δεδομένων: Από πού προήλθαν τα δεδομένα εκπαίδευσης και πώς ελέγχθηκαν για ποιότητα και μεροληψία; Μετριασμός Μεροληψίας: Ποια συγκεκριμένα βήματα ελήφθησαν για να εντοπιστούν και να αφαιρεθούν οι μεροληψίες από τα σύνολα δεδομένων; Σκεπτικό Σχεδιασμού: Ποια ήταν η λογική πίσω από τις βασικές αρχιτεκτονικές επιλογές και τους αλγόριθμους; Αποτελέσματα Δοκιμών: Ένα πλήρες αρχείο κάθε δοκιμαστικής εκτέλεσης, συμπεριλαμβανομένων των αποτυχιών και του τρόπου με τον οποίο τις διορθώσατε. Η καθιέρωση ενός σαφούς πλαισίου για την ανθρώπινη εποπτεία είναι εξίσου ζωτικής σημασίας. Εάν ποτέ διεξαχθεί έρευνα, αυτή η τεκμηρίωση χρησιμεύει ως αδιαμφισβήτητη απόδειξη της δέουσας επιμέλειας. Βοηθά να αποδειχθεί ότι οποιαδήποτε ζημία προκλήθηκε ήταν ένα πραγματικά απρόβλεπτο ατύχημα, όχι αποτέλεσμα αμέλειας - και αυτό αποτελεί το θεμέλιο μιας σταθερής νομικής υπεράσπισης.
Μπορεί ένας αλγόριθμος να θεωρηθεί ποινικά υπεύθυνος για ένα έγκλημα βάσει της ισχύουσας ολλανδικής και ενωσιακής νομοθεσίας;
Όχι. Σύμφωνα με την ισχύουσα νομοθεσία, ένας αλγόριθμος δεν μπορεί να θεωρηθεί ποινικά υπεύθυνος. Βασικές νομικές έννοιες, όπως η εγκληματική πρόθεση (opzet) και η νομική προσωπικότητα, προορίζονται μόνο για ανθρώπους και, σε ορισμένες περιπτώσεις, για εταιρείες.
Γιατί δεν μπορεί ένα σύστημα Τεχνητής Νοημοσύνης να δοκιμαστεί απλώς όπως ένας άνθρωπος;
Ένας αλγόριθμος δεν διαθέτει τα θεμελιώδη χαρακτηριστικά που απαιτούνται για να δικαστεί: δεν έχει συνείδηση, δεν έχει προσωπικά περιουσιακά στοιχεία προς κατάσχεση και δεν έχει ελευθερία που μπορεί να του αφαιρεθεί, σε αντίθεση με ένα φυσικό πρόσωπο ή μια εταιρεία που αναγνωρίζεται ως νομικό πρόσωπο.
Αυτό σημαίνει ότι η Τεχνητή Νοημοσύνη είναι άσχετη με τις ποινικές υποθέσεις;
Όχι, το αντίθετο μάλιστα. Παρόλο που ο ίδιος ο αλγόριθμος δεν μπορεί να είναι ένοχος, οι ενέργειές του καθίστανται κεντρικής σημασίας για την απόδειξη της ενοχής ή της αθωότητας των ανθρώπων που τον δημιουργούν, τον αναπτύσσουν και τον επιβλέπουν.
Ποια νομική έννοια είναι πιο δύσκολο να εφαρμοστεί σε συστήματα Τεχνητής Νοημοσύνης;
Η εγκληματική πρόθεση (opzet) είναι ιδιαίτερα δύσκολη, καθώς οι εισαγγελείς πρέπει κανονικά να αποδείξουν την ύπαρξη ενοχής, όπως πρόθεση, απερισκεψία ή γνώση της αδικοπραγίας, ενώ ένας αλγόριθμος λειτουργεί απλώς με βάση τον προγραμματισμό και τις εισαγωγές δεδομένων του και στερείται συνείδησης, πεποιθήσεων ή επιθυμιών.
Πως Law & More μπορώ να βοηθήσω
Law & More Παρέχει συμβουλές σε εταιρείες, διευθυντές και ιδιώτες σχετικά με την ποινική ευθύνη που προκύπτει από αυτοματοποιημένα συστήματα. Αξιολογούμε την έκθεση βάσει του άρθρου 51 Sr και της θεωρίας της λειτουργικής αυτουργίας, δημιουργούμε και επανεξετάζουμε τη διακυβέρνηση της Τεχνητής Νοημοσύνης που θα αποτελεί απόδειξη επιμέλειας, αμφισβητούμε αλγοριθμικά στοιχεία σε ποινικές διαδικασίες και υπερασπιζόμαστε εταιρείες και τα στελέχη τους σε έρευνες από την Εισαγγελία και από ρυθμιστικές αρχές. Εάν ο οργανισμός σας χρησιμοποιεί Τεχνητή Νοημοσύνη σε ένα περιβάλλον όπου τα λάθη έχουν συνέπειες, επικοινωνήστε με το γραφείο μας πριν ένα περιστατικό επιβάλει την ερώτηση.
