Ο ΓΚΠΔ και τα μεγάλα δεδομένα δεν είναι ασύμβατα, αλλά επιβάλλουν μια επιλογή που πολλοί οργανισμοί αναβάλλουν: πριν συλλέξετε ή επαναχρησιμοποιήσετε ένα μεγάλο σύνολο δεδομένων, πρέπει να είστε σε θέση να αναφέρετε τη νόμιμη βάση για να το κάνετε αυτό και να αποδείξετε ότι η επεξεργασία είναι απαραίτητη για τον σκοπό αυτό. Στην πράξη, αυτό σημαίνει την τεκμηρίωση ενός λόγου βάσει του Άρθρου 6 του Γενικού Κανονισμού για την Προστασία Δεδομένων, τον έλεγχο του κατά πόσον μια μεταγενέστερη χρήση για την εκπαίδευση ενός αλγορίθμου είναι συμβατή με τον σκοπό για τον οποίο συλλέχθηκαν αρχικά τα δεδομένα και την αξιολόγηση του κινδύνου πριν από την κατασκευή του πρώτου μοντέλου. Αυτό το άρθρο καθορίζει πώς εφαρμόζονται αυτοί οι κανόνες στην ανάλυση μεγάλης κλίμακας και την εκπαίδευση στην Τεχνητή Νοημοσύνη στην Ολλανδία, και πού θέτει η Autoriteit Persoonsgegevens το όριο.
Τι μετράει ως προσωπικά δεδομένα σε ένα μεγάλο σύνολο δεδομένων
Ο ΓΚΠΔ εφαρμόζεται σε πληροφορίες που αφορούν ένα ταυτοποιημένο ή ταυτοποιήσιμο φυσικό πρόσωπο. Σε ένα πλαίσιο μεγάλων δεδομένων, αυτό το όριο ξεπερνιέται πολύ πιο συχνά από ό,τι αναμένουν οι οργανισμοί, επειδή η ταυτοποίηση αξιολογείται με αναφορά σε όλα τα μέσα που είναι εύλογα πιθανό να χρησιμοποιηθούν, από τον υπεύθυνο επεξεργασίας ή από οποιονδήποτε άλλον, για να ξεχωρίσουν κάποιον. Ένα σύνολο δεδομένων αναγνωριστικών συσκευών, ιχνών τοποθεσίας, αρχείων συναλλαγών ή clickstreams αποτελεί επομένως σχεδόν πάντα προσωπικά δεδομένα, ακόμη και όταν δεν εμφανίζεται όνομα σε μία μόνο στήλη.
Δύο έννοιες συγχέονται τακτικά και η διαφορά καθορίζει εάν ο κανονισμός εφαρμόζεται καθόλου. Τα ψευδωνυμοποιημένα δεδομένα, όπου τα αναγνωριστικά στοιχεία έχουν αντικατασταθεί αλλά το κλειδί εξακολουθεί να υπάρχει κάπου, παραμένουν προσωπικά δεδομένα και υπόκεινται πλήρως στον ΓΚΠΔ. Τα ανωνυμοποιημένα δεδομένα, όπου η επαναταυτοποίηση δεν είναι πλέον εύλογα δυνατή για κανέναν, δεν εμπίπτουν σε αυτόν. Ο πήχης για την πραγματική ανωνυμοποίηση είναι υψηλός: η συγκέντρωση, ο κατακερματισμός ή η αφαίρεση άμεσων αναγνωριστικών στοιχείων συνήθως αφήνει αρκετό δακτυλικό αποτύπωμα για ένα αποφασισμένο μέρος να επαναταυτοποιήσει άτομα, ιδίως όταν το σύνολο δεδομένων είναι πλούσιο και καλύπτει μεγάλη χρονική περίοδο.
Αυτό έχει σημασία επειδή ο ισχυρισμός ότι ένα σύνολο δεδομένων είναι ανώνυμο αποτελεί συχνά την υπόθεση που φέρει το βάρος σε ένα ολόκληρο πρόγραμμα Τεχνητής Νοημοσύνης. Εάν αποτύχει, κάθε βήμα που ακολουθεί, από την εκτέλεση της εκπαίδευσης έως το πρόγραμμα διατήρησης, έχει πραγματοποιηθεί χωρίς νόμιμη βάση. Η ασφαλέστερη προσέγγιση είναι η αντιμετώπιση του συνόλου δεδομένων ως προσωπικού χαρακτήρα δεδομένων, εκτός εάν μια τεκμηριωμένη ανάλυση επαναταυτοποίησης ορίζει διαφορετικά, και η επανεξέταση αυτής της ανάλυσης όταν το σύνολο δεδομένων εμπλουτιστεί ή συνδυαστεί με άλλη πηγή. Το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων έχει επίσης εξετάσει πότε ένα μοντέλο Τεχνητής Νοημοσύνης μπορεί να θεωρηθεί ανώνυμο, και η απάντησή του είναι ότι αυτό δεν μπορεί να θεωρηθεί δεδομένο: ένα μοντέλο που έχει εκπαιδευτεί σε προσωπικά δεδομένα μπορεί να εξακολουθεί να περιέχει αυτά τα δεδομένα σε εξαγώγιμη μορφή και πρέπει να αξιολογείται κατά περίπτωση.
Επιλογή νόμιμης βάσης για την εκπαίδευση σε μεγάλα δεδομένα και τεχνητή νοημοσύνη
Κάθε πράξη επεξεργασίας χρειάζεται έναν από τους έξι λόγους που αναφέρονται στο Άρθρο 6 και ο λόγος πρέπει να επιλέγεται πριν από την έναρξη της επεξεργασίας και όχι να ανακατασκευάζεται εκ των υστέρων. Για αναλύσεις μεγάλης κλίμακας, μόνο τρεις είναι ρεαλιστικοί υποψήφιοι.
Η συγκατάθεση είναι η πιο καθαρή στη θεωρία και η πιο εύθραυστη στην πράξη. Πρέπει να δίνεται ελεύθερα, συγκεκριμένη, ενημερωμένη και σαφής, και πρέπει να είναι τόσο εύκολο να την ανακαλέσετε όσο ήταν και η δική σας. Η συγκατάθεση που ομαδοποιείται σε γενικούς όρους, λαμβάνεται ως προϋπόθεση για μια υπηρεσία που δεν χρειάζεται τα δεδομένα ή διατυπώνεται τόσο γενικά ώστε το άτομο να μην μπορεί να δει τι συμφωνείται, δεν θα ισχύει. Όταν η συγκατάθεση ανακαλείται, χρειάζεστε μια τεχνική απάντηση στο ερώτημα τι συμβαίνει με ένα μοντέλο που έχει ήδη εκπαιδευτεί.
Η αναγκαιότητα για την εκτέλεση μιας σύμβασης είναι πιο περιορισμένη από ό,τι φαίνεται. Το κριτήριο είναι η αντικειμενική αναγκαιότητα για την υπηρεσία που πραγματικά ζήτησε το άτομο, όχι η εμπορική χρησιμότητα. Η δημιουργία προφίλ ενός πελάτη για τη βελτίωση μιας μηχανής συστάσεων δεν είναι γενικά απαραίτητη για την παράδοση του προϊόντος που αγόρασε και το Δικαστήριο έχει επανειλημμένα απορρίψει προσπάθειες επέκτασης αυτού του πεδίου ώστε να καλύπτει τη συμπεριφορική διαφήμιση και την εξατομίκευση.
Αυτό αφήνει τα έννομα συμφέροντα, τα οποία αποτελούν το έδαφος στο οποίο πρέπει να βασίζεται η πλειονότητα των επεξεργασιών μεγάλης κλίμακας. Απαιτεί τρία βήματα, τα οποία τεκμηριώνονται με αυτή τη σειρά: τον εντοπισμό ενός πραγματικού και έννομου συμφέροντος, την απόδειξη ότι η επεξεργασία είναι απαραίτητη επειδή δεν υπάρχει λιγότερο παρεμβατικός τρόπος για να επιτευχθεί και την εξισορρόπηση του συμφέροντος με τα δικαιώματα και τις εύλογες προσδοκίες των ενδιαφερομένων. Σε παραπομπή ολλανδικού δικαστηρίου σχετικά με την εθνική ομοσπονδία τένις, το Δικαστήριο επιβεβαίωσε το 2024 ότι ένα καθαρά εμπορικό συμφέρον μπορεί να χαρακτηριστεί ως έννομο συμφέρον, αλλά μόνο εάν πληρούνται πραγματικά τα κριτήρια αναγκαιότητας και εξισορρόπησης. Η εμπορική αξία είναι επομένως ένα παραδεκτό συμφέρον, όχι μια άδεια.
Ειδικές κατηγορίες και συναγόμενα χαρακτηριστικά
Δεδομένα που αποκαλύπτουν φυλετική ή εθνοτική καταγωγή, πολιτικές απόψεις, θρησκευτικές πεποιθήσεις, συμμετοχή σε συνδικάτα, υγεία, σεξουαλική ζωή ή σεξουαλικό προσανατολισμό, μαζί με γενετικά και βιομετρικά δεδομένα που χρησιμοποιούνται για την ταυτοποίηση, δεν επιτρέπεται να υποβάλλονται σε επεξεργασία, εκτός εάν ισχύει μία από τις περιορισμένες εξαιρέσεις του Άρθρου 9. Η ρητή συγκατάθεση είναι η συνήθης οδός. Οι άλλες σπάνια ταιριάζουν σε ένα εμπορικό σύνολο δεδομένων.
Η παγίδα στα μεγάλα δεδομένα είναι ότι δεν χρειάζεται να συλλέγονται σκόπιμα δεδομένα ειδικής κατηγορίας. Όταν ένα σύνολο δεδομένων επιτρέπει την εξαγωγή συμπερασμάτων για ένα προστατευόμενο χαρακτηριστικό, για παράδειγμα μέσω μοτίβων αγορών, ιστορικού τοποθεσίας ή περιεχομένου πεδίων ελεύθερου κειμένου, εφαρμόζεται το αυστηρότερο καθεστώς σε αυτήν την επεξεργασία, παρόλο που κανείς δεν έθεσε ποτέ το ερώτημα απευθείας. Τα χαρακτηριστικά του μοντέλου που λειτουργούν ως υποκατάστατα για ένα προστατευόμενο χαρακτηριστικό θα πρέπει να προσδιορίζονται κατά την ανάπτυξη, όχι μετά από μια καταγγελία.
Περιορισμός σκοπού: μπορείτε να επαναχρησιμοποιήσετε δεδομένα για την εκπαίδευση ενός μοντέλου;
Μπορείτε, αλλά όχι αυτόματα. Ο ΓΚΠΔ απαιτεί τα προσωπικά δεδομένα να συλλέγονται για καθορισμένους, σαφείς και νόμιμους σκοπούς και να μην υποβάλλονται σε περαιτέρω επεξεργασία με τρόπο που δεν είναι συμβατός με αυτούς τους σκοπούς. Η εκπαίδευση ενός αλγορίθμου σε δεδομένα που συλλέχθηκαν για την εκπλήρωση παραγγελιών, την υποστήριξη πελατών ή την πρόληψη απάτης αποτελεί περαιτέρω επεξεργασία και είναι νόμιμη μόνο εάν περάσει με επιτυχία το τεστ συμβατότητας που ορίζει ο κανονισμός.
Αυτή η δοκιμή δεν είναι τυπική. Ερωτά για τη σύνδεση μεταξύ του αρχικού σκοπού και του νέου, το πλαίσιο στο οποίο συλλέχθηκαν τα δεδομένα και τι θα μπορούσε εύλογα να αναμένει το άτομο σε αυτή τη βάση, τη φύση των δεδομένων και το κατά πόσον εμπλέκονται ειδικές κατηγορίες, τις πιθανές συνέπειες της νέας επεξεργασίας και την ύπαρξη διασφαλίσεων όπως η ψευδωνυμοποίηση ή η κρυπτογράφηση. Ένα σύνολο δεδομένων ιατρικών ή οικονομικών αρχείων θα αποτύχει στη δοκιμή, ενώ ένα σύνολο δεδομένων ανωνυμοποιημένων λειτουργικών αρχείων θα την περνούσε.
Υπάρχει μία συντόμευση, και είναι πιο περιορισμένη από ό,τι συνήθως θεωρείται. Η περαιτέρω επεξεργασία για αρχειοθέτηση προς το δημόσιο συμφέρον, για επιστημονική ή ιστορική έρευνα ή για στατιστικούς σκοπούς αντιμετωπίζεται ως συμβατή, υπό την προϋπόθεση ότι υπάρχουν οι εγγυήσεις για την επεξεργασία της έρευνας. Η ανάπτυξη εμπορικών μοντέλων που παρουσιάζονται ως έρευνα δεν πληροί τις προϋποθέσεις. Η εξαίρεση στοχεύει σε γνήσια έρευνα που υπόκειται σε μεθοδολογικά και δεοντολογικά πρότυπα, όχι στη βελτίωση του προϊόντος. Όταν δεν πληρούνται τα κριτήρια συμβατότητας, χρειάζεστε μια νέα νομική βάση και, στις περισσότερες περιπτώσεις, νέες πληροφορίες για τα ενδιαφερόμενα άτομα.
Η πρακτική συνέπεια είναι ότι ο περιορισμός του σκοπού πρέπει να αντιμετωπίζεται κατά τη συλλογή. Οι δηλώσεις απορρήτου που περιγράφουν τους σκοπούς με όρους αρκετά ευρείς ώστε να μην έχουν νόημα δεν θα σώσουν μια μεταγενέστερη εκπαιδευτική διαδικασία, επειδή η δοκιμασία εξετάζει τι θα μπορούσε εύλογα να περιμένει το άτομο και όχι τι επιτρέπει τεχνικά η σύνταξη. Ο οδηγός μας για τη σύνταξη πολιτικής απορρήτου στην Ολλανδία καθορίζει πώς να περιγράφετε τους σκοπούς με τρόπο που να είναι ειλικρινής και εύχρηστος.
Ελαχιστοποίηση, διατήρηση και ακρίβεια όταν το μοντέλο τα θέλει όλα
Η ελαχιστοποίηση των δεδομένων απαιτεί τα προσωπικά δεδομένα να είναι επαρκή, σχετικά και περιορισμένα σε ό,τι είναι απαραίτητο. Αυτή η αρχή έρχεται σε πραγματική αντίθεση με μια μέθοδο ανάπτυξης της οποίας η λογική είναι ότι περισσότερα δεδομένα παράγουν ένα καλύτερο μοντέλο και η αντίθεση δεν μπορεί να επιλυθεί αγνοώντας την. Αυτό που μπορεί να επιλυθεί είναι ένα τεκμηριωμένο επιχείρημα: ποια πεδία χρειάζονται για τον δηλωμένο σκοπό, τι δοκιμάστηκε χωρίς αυτά και γιατί τα υπόλοιπα απορρίφθηκαν. Ένας υπεύθυνος επεξεργασίας που μπορεί να δείξει ότι η ανάλυση έχει μια υπερασπίσιμη θέση ακόμη και όταν το σύνολο δεδομένων είναι μεγάλο. Ένας υπεύθυνος επεξεργασίας που κράτησε τα πάντα επειδή η αποθήκευση είναι φθηνή δεν το κάνει.
Ο περιορισμός της αποθήκευσης εγείρει το ίδιο ερώτημα με την πάροδο του χρόνου. Τα δεδομένα εκπαίδευσης, οι χώροι αποθήκευσης χαρακτηριστικών, τα σημεία ελέγχου μοντέλων και τα αρχεία καταγραφής συμπερασμάτων εμπίπτουν όλα στην υποχρέωση διατήρησης και το καθένα χρειάζεται τη δική του περίοδο που συνδέεται με έναν σκοπό. Τα αρχεία καταγραφής συμπερασμάτων συχνά ξεχνιούνται και συχνά περιέχουν περισσότερα προσωπικά δεδομένα από ό,τι περιείχε ποτέ το σύνολο εκπαίδευσης.
Η ακρίβεια είναι η αρχή που παραβλέπεται συχνότερα σε αυτό το πλαίσιο και έχει ένα νομικό πλεονέκτημα που είναι εύκολο να παραβλεφθεί. Τα προσωπικά δεδομένα πρέπει να είναι ακριβή και, όπου είναι απαραίτητο, να ενημερώνονται και τα άτομα έχουν δικαίωμα διόρθωσης. Όταν ένα μοντέλο παράγει ένα αποτέλεσμα σχετικά με ένα αναγνωρίσιμο άτομο, το αποτέλεσμα αυτό αποτελεί από μόνο του προσωπικά δεδομένα. Ένα συμπέρασμα ότι κάποιος έχει χαμηλό πιστωτικό κίνδυνο, είναι πιθανό να διαπράξει απάτη ή είναι ακατάλληλος υποψήφιος αποτελεί δεδομένο που το αφορά, μπορεί να είναι ανακριβές και μπορεί να αμφισβητηθεί. Η δημιουργία ενός συστήματος στο οποίο τέτοια αποτελέσματα δεν μπορούν να διορθωθούν δημιουργεί ένα πρόβλημα συμμόρφωσης που καμία τεκμηρίωση δεν θα διορθώσει στη συνέχεια.
Πότε είναι υποχρεωτική η διενέργεια εκτίμησης επιπτώσεων στην προστασία δεδομένων
Η εκτίμηση επιπτώσεων στην προστασία δεδομένων είναι υποχρεωτική όταν ένα είδος επεξεργασίας είναι πιθανό να οδηγήσει σε υψηλό κίνδυνο για τα δικαιώματα και τις ελευθερίες των ατόμων, και ο κανονισμός αναφέρει τρεις περιπτώσεις ειδικότερα: συστηματική και εκτεταμένη αξιολόγηση προσωπικών πτυχών βάσει αυτοματοποιημένης επεξεργασίας, συμπεριλαμβανομένης της κατάρτισης προφίλ, στην οποία βασίζονται αποφάσεις με νομικά ή παρόμοια σημαντικά αποτελέσματα· μεγάλης κλίμακας επεξεργασία ειδικών κατηγοριών δεδομένων ή δεδομένων ποινικών καταδικών· και συστηματική παρακολούθηση ενός δημόσια προσβάσιμου χώρου σε μεγάλη κλίμακα. Τα περισσότερα σοβαρά έργα μεγάλων δεδομένων εμπίπτουν στην πρώτη ή τη δεύτερη κατηγορία.
Η Autoriteit Persoonsgegevens δημοσίευσε επίσης έναν κατάλογο πράξεων επεξεργασίας για τις οποίες απαιτείται πάντα αξιολόγηση στις Κάτω Χώρες, ο οποίος καλύπτει τομείς όπως η δημιουργία προφίλ μεγάλης κλίμακας, η συστηματική αξιολόγηση των εργαζομένων, οι πλατφόρμες δεδομένων υγείας και η χρήση συστημάτων κάμερας. Ο εν λόγω κατάλογος θα πρέπει να είναι το πρώτο έγγραφο που θα συμβουλεύεται κανείς κατά την έναρξη ενός έργου, επειδή αφαιρεί το επιχείρημα σχετικά με το εάν απαιτείται αξιολόγηση.
Δύο σημεία σχετικά με το χρονοδιάγραμμα είναι καθοριστικά. Η αξιολόγηση πρέπει να διενεργείται πριν από την έναρξη της επεξεργασίας, πράγμα που σε ένα έργο Τεχνητής Νοημοσύνης σημαίνει πριν από τη συγκέντρωση των δεδομένων εκπαίδευσης και όχι πριν από την ανάπτυξη. Και όταν η αξιολόγηση δείχνει υψηλό υπολειμματικό κίνδυνο που δεν μπορείτε να μετριάσετε, πρέπει να συμβουλευτείτε την εποπτική αρχή πριν προχωρήσετε. Η παράλειψη αυτής της διαβούλευσης αποτελεί από μόνη της παραβίαση, ανεξάρτητα από το εάν η επεξεργασία αποδειχθεί νόμιμη.
Μια χρήσιμη αξιολόγηση για ένα αλγοριθμικό σύστημα υπερβαίνει το τυπικό πρότυπο. Καταγράφει ποιες πηγές δεδομένων τροφοδοτούν το μοντέλο και σε ποια βάση, τι επιτρέπεται να αποφασίσει το μοντέλο μόνο του και τι αποφασίζει ένας άνθρωπος, πώς εξηγείται η έξοδος στο επηρεαζόμενο άτομο, πώς ελέγχθηκαν τα δεδομένα εκπαίδευσης για προκατάληψη έναντι προστατευόμενων ομάδων και τι συμβαίνει εάν το μοντέλο είναι λάθος. Αυτά είναι τα ερωτήματα που θέτει πρώτα μια ρυθμιστική αρχή.
Πώς το επιβάλλει αυτό το Autoriteit Persoonsgegevens
Η ολλανδική εποπτική αρχή είναι η Autoriteit Persoonsgegevens, η οποία επιβάλλει τον ΓΚΠΔ μαζί με τον ολλανδικό εκτελεστικό νόμο, τον Uitvoeringswet AVG. Οι εξουσίες της κυμαίνονται από προειδοποίηση και επίπληξη έως εντολή που υπόκειται σε χρηματική ποινή, προσωρινή ή οριστική απαγόρευση της επεξεργασίας και διοικητικό πρόστιμο. Ο κανονισμός ορίζει τα ανώτατα όρια: έως δέκα εκατομμύρια ευρώ ή δύο τοις εκατό του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών για το κατώτερο επίπεδο και έως είκοσι εκατομμύρια ευρώ ή τέσσερα τοις εκατό για παραβιάσεις των βασικών αρχών, των νομικών βάσεων, των δικαιωμάτων των υποκειμένων των δεδομένων και των κανόνων για τις διεθνείς διαβιβάσεις, όποιο ποσό είναι υψηλότερο.
Δύο θέματα επιβολής είναι ορατά στην ολλανδική πρακτική και αμφότερα σχετίζονται άμεσα με τα μεγάλα δεδομένα. Το πρώτο είναι η διαφάνεια: ένα σημαντικό μερίδιο των πρόσφατων ενεργειών αφορά δηλώσεις απορρήτου που δεν εξηγούν με κατανοητή γλώσσα ποια δεδομένα χρησιμοποιούνται, για ποιο σκοπό και για πόσο χρονικό διάστημα. Οι ασαφείς περιγραφές σκοπού αντιμετωπίζονται ως παραβίαση από μόνες τους και όχι ως συντακτικό ελάττωμα. Το δεύτερο είναι η αλγοριθμική εποπτεία. Η αρχή διαθέτει μια ειδική μονάδα για την εποπτεία των αλγορίθμων και δημοσιεύει περιοδικές εκθέσεις σχετικά με τους αλγοριθμικούς κινδύνους, οι οποίες αξίζει να διαβαστούν ως δήλωση για το τι αναμένει πριν γίνει αντικείμενο έρευνας.
Παράλληλα με την επιβολή του νόμου υπάρχει και η υποχρέωση κοινοποίησης παραβίασης. Μια παραβίαση προσωπικών δεδομένων πρέπει να αναφέρεται στην αρχή χωρίς αδικαιολόγητη καθυστέρηση και, όπου είναι εφικτό, εντός εβδομήντα δύο ωρών από την στιγμή που γίνεται αντιληπτή, εκτός εάν η παραβίαση είναι απίθανο να οδηγήσει σε κίνδυνο για τα άτομα. Όταν ο κίνδυνος για τα άτομα είναι υψηλός, πρέπει επίσης να ενημερώνονται. Σε ένα περιβάλλον Τεχνητής Νοημοσύνης, η αξιολόγηση είναι πιο δύσκολη από ό,τι ήταν στο παρελθόν, επειδή ένα παραβιασμένο σύνολο εκπαίδευσης ή ένα κατάστημα χαρακτηριστικών επηρεάζει όλους τους χρήστες των οποίων τα δεδομένα περιέχει και οι συνέπειες επεκτείνονται σε κάθε απόφαση που έχει λάβει το μοντέλο. Σημειώστε ότι αυτή είναι μια ξεχωριστή υποχρέωση από τις υποχρεώσεις αναφοράς περιστατικών βάσει του Cyberbeveiligingswet, της ολλανδικής εφαρμογής του NIS2, το οποίο ισχύει από τις 15 Αυγούστου 2026 και επιβάλλει τις δικές του προθεσμίες κοινοποίησης είκοσι τεσσάρων και εβδομήντα δύο ωρών σε οντότητες που εμπίπτουν στο πεδίο εφαρμογής του. Η επισκόπησή μας για το NIS2 και τον ολλανδικό νόμο περί κυβερνοασφάλειας εξηγεί πώς τα δύο καθεστώτα λειτουργούν παράλληλα.
Ο νόμος περί τεχνητής νοημοσύνης δεν αντικαθιστά τον ΓΚΠΔ
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη ρυθμίζει τα συστήματα τεχνητής νοημοσύνης ως προϊόντα: τα ταξινομεί ανάλογα με τον κίνδυνο και επιβάλλει υποχρεώσεις στους παρόχους και τους φορείς ανάπτυξης. Δεν παρέχει νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα και η συμμόρφωση με αυτόν δεν αναφέρει τίποτα σχετικά με τη συμμόρφωση με τον ΓΚΠΔ. Όταν ένα σύστημα τεχνητής νοημοσύνης επεξεργάζεται δεδομένα προσωπικού χαρακτήρα, και τα δύο καθεστώτα εφαρμόζονται πλήρως και παράλληλα.
Το χρονοδιάγραμμα έχει σημασία για τον σχεδιασμό. Οι απαγορεύσεις για απαράδεκτες πρακτικές, οι υποχρεώσεις για μοντέλα ΤΝ γενικής χρήσης και τα καθήκοντα διαφάνειας για συστήματα που αλληλεπιδρούν με ανθρώπους ή παράγουν συνθετικό περιεχόμενο ισχύουν ήδη. Το καθεστώς υψηλού κινδύνου αναβλήθηκε από το πακέτο ψηφιακού omnibus: οι υποχρεώσεις για συστήματα υψηλού κινδύνου που αναφέρονται στο Παράρτημα III ισχύουν πλέον από τις 2 Δεκεμβρίου 2027, και εκείνες για συστήματα που αποτελούν στοιχεία ασφαλείας ρυθμιζόμενων προϊόντων βάσει του Παραρτήματος Ι από τις 2 Αυγούστου 2028. Η ξεχωριστή πρόταση για οδηγία για την ευθύνη της ΤΝ έχει αποσυρθεί, επομένως η ευθύνη για ζημίες που προκαλούνται από σύστημα ΤΝ εξακολουθεί να διέπεται από τους συνήθεις ολλανδικούς κανόνες περί συμβάσεων και αδικοπραξιών και από το ευρωπαϊκό καθεστώς ευθύνης προϊόντων.
Για έναν οργανισμό που βασίζεται σε δεδομένα, η πρακτική συνέπεια είναι ότι η ανάλυση του ΓΚΠΔ παραμένει ο δεσμευτικός περιορισμός σήμερα, ενώ ο νόμος περί τεχνητής νοημοσύνης καθορίζει ποια τεκμηρίωση, δοκιμές και ανθρώπινη εποπτεία θα χρειαστεί το ίδιο σύστημα πριν από το τέλος της δεκαετίας. Η ξεχωριστή ανάπτυξη των δύο ασκήσεων επικαλύπτει την εργασία, ενώ η κοινή τους ανάπτυξη δεν το κάνει. Οι οδηγοί μας για τον νόμο της ΕΕ για την τεχνητή νοημοσύνη και για τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου καθορίζουν λεπτομερώς την ταξινόμηση και τις υποχρεώσεις.
Ομαδικές αξιώσεις και αποζημιώσεις: η αστική πλευρά του κινδύνου
Τα ρυθμιστικά πρόστιμα δεν είναι η μόνη έκθεση, και στην Ολλανδία μπορεί να μην είναι η μεγαλύτερη. Το Wet afwikkeling massaschade in collectieve actie (WAMCA) επιτρέπει σε ένα ίδρυμα ή έναν σύλλογο που πληροί αυστηρές απαιτήσεις διακυβέρνησης και χρηματοδότησης να ασκήσει συλλογική αγωγή αποζημίωσης εκ μέρους μιας καθορισμένης ομάδας, με καθεστώς εξαίρεσης για άτομα που κατοικούν στην Ολλανδία. Η επεξεργασία που βασίζεται σε δεδομένα είναι ένας προφανής στόχος: μια ενιαία απόφαση σχεδιασμού επηρεάζει κάθε χρήστη με τον ίδιο τρόπο, κάτι που είναι ακριβώς η ομοιογένεια που χρειάζεται μια συλλογική αγωγή.
Ο ΓΚΠΔ ενισχύει αυτό από την πλευρά του. Δίνει σε όποιον έχει υποστεί υλική ή μη υλική ζημία ως αποτέλεσμα παραβίασης δικαίωμα αποζημίωσης από τον υπεύθυνο επεξεργασίας ή τον εκτελούντα την επεξεργασία και επιτρέπει σε έναν μη κερδοσκοπικό φορέα που δραστηριοποιείται στον τομέα της προστασίας δεδομένων να κινεί διαδικασίες εκ μέρους των υποκειμένων των δεδομένων, σε ορισμένες περιπτώσεις χωρίς εντολή από αυτά. Το Δικαστήριο έχει επιβεβαιώσει ότι μια ένωση προστασίας καταναλωτών μπορεί να ενεργήσει σε αυτή τη βάση.
Υπάρχει ένα όριο, και είναι χρήσιμο για τους εναγόμενους. Το Δικαστήριο έχει κρίνει ότι η παραβίαση του ΓΚΠΔ δεν γεννά από μόνη της δικαίωμα αποζημίωσης: ο ενάγων πρέπει να αποδείξει την πραγματική ζημία και την αιτιώδη συνάφεια, αν και δεν ισχύει κανένα όριο σοβαρότητας για την ηθική βλάβη από τη στιγμή που αυτή διαπιστώνεται. Οι ατομικές αποζημιώσεις στην ολλανδική πρακτική ήταν επομένως μέτριες, αλλά η αριθμητική μιας κατηγορίας εκατοντάδων χιλιάδων αλλάζει εντελώς την εικόνα. Το άρθρο μας σχετικά με τις συλλογικές αξιώσεις σε περίπτωση μαζικής ζημίας περιγράφει πώς διεξάγονται αυτές οι διαδικασίες.
Ποιος είναι ο υπεύθυνος επεξεργασίας όταν τα δεδομένα προέρχονται από παντού;
Τα έργα μεγάλων δεδομένων σπάνια παραμένουν εντός ενός οργανισμού. Τα δεδομένα εμπλουτίζονται από έναν μεσίτη, φιλοξενούνται από έναν πάροχο cloud, καθαρίζονται από μια εταιρεία ανάλυσης και τροφοδοτούνται σε ένα μοντέλο που παρέχεται από έναν προμηθευτή, και καθεμία από αυτές τις σχέσεις πρέπει να χαρακτηρίζεται σωστά, επειδή η κατανομή των ρόλων καθορίζει ποιος φέρει ποια υποχρέωση και ποιος λογοδοτεί στον ρυθμιστή.
Ένας υπεύθυνος επεξεργασίας καθορίζει τους σκοπούς και τα μέσα της επεξεργασίας· ένας επεξεργαστής ενεργεί μόνο βάσει των τεκμηριωμένων οδηγιών του υπευθύνου επεξεργασίας. Όταν δύο ή περισσότερα μέρη καθορίζουν από κοινού τους σκοπούς και τα μέσα, είναι από κοινού υπεύθυνοι επεξεργασίας και πρέπει να καθορίζουν τις αντίστοιχες ευθύνες τους σε μια συμφωνία, ιδίως για την παροχή πληροφοριών και για την επεξεργασία αιτημάτων από άτομα, τα οποία μπορούν σε κάθε περίπτωση να ασκήσουν τα δικαιώματά τους έναντι οποιουδήποτε από αυτά. Η ετικέτα που χρησιμοποιείται στη σύμβαση δεν είναι καθοριστική: αυτό που μετράει είναι ποιος αποφασίζει πραγματικά γιατί και πώς υποβάλλονται σε επεξεργασία τα δεδομένα. Ένας προμηθευτής που διατηρεί το δικαίωμα να χρησιμοποιεί τα δεδομένα σας για να βελτιώσει το δικό του προϊόν έχει, στο βαθμό αυτό, γίνει υπεύθυνος επεξεργασίας για τους δικούς του σκοπούς, όπως και να το αποκαλεί η συμφωνία.
Δύο ρήτρες στις συμβάσεις προμηθευτών αξίζουν ιδιαίτερης προσοχής στο πλαίσιο της Τεχνητής Νοημοσύνης. Η πρώτη είναι αυτή που επιτρέπει στον πάροχο να χρησιμοποιεί περιεχόμενο πελατών για εκπαίδευση ή για βελτίωση των υπηρεσιών. Εάν υπάρχει, αποκαλύπτετε προσωπικά δεδομένα σε άλλον υπεύθυνο επεξεργασίας και χρειάζεστε μια βάση και μια ειδοποίηση για αυτήν την αποκάλυψη. Η δεύτερη είναι η ρήτρα υπεργολάβου επεξεργασίας, επειδή οι πάροχοι μοντέλων συχνά βασίζονται σε περαιτέρω προμηθευτές και σε υποδομές εκτός του Ευρωπαϊκού Οικονομικού Χώρου, γεγονός που θέτει σε εφαρμογή τους κανόνες μεταφοράς. Μια συμφωνία επεξεργασίας που καλύπτει το απαιτούμενο αντικείμενο αλλά δεν περιγράφει τι πραγματικά συμβαίνει με τα δεδομένα είναι ελάχιστα χρήσιμη σε μια έρευνα.
Τέλος, να θυμάστε ότι η αρχή της λογοδοσίας θέτει το βάρος της απόδειξης στον υπεύθυνο επεξεργασίας. Δεν αρκεί η συμμόρφωση. Πρέπει να είστε σε θέση να το αποδείξετε, με αρχεία, αξιολογήσεις και συμφωνίες που ταιριάζουν με τα συστήματα όπως είναι στην πραγματικότητα κατασκευασμένα.
Τι πρέπει να ληφθεί υπόψη πριν από την έναρξη του επόμενου έργου
Η συμμόρφωση για τα μεγάλα δεδομένα εδραιώνεται στο στάδιο του σχεδιασμού, επειδή ο κανονισμός απαιτεί προστασία δεδομένων ήδη από τον σχεδιασμό και εξ ορισμού: κατάλληλα τεχνικά και οργανωτικά μέτρα πρέπει να ενσωματωθούν στην ίδια την επεξεργασία και μόνο τα προσωπικά δεδομένα που είναι απαραίτητα για κάθε συγκεκριμένο σκοπό μπορούν να υποβληθούν σε επεξεργασία εξ ορισμού. Η αναβάθμιση είναι δαπανηρή και συνήθως ελλιπής.
Πέντε πράγματα κάνουν τη διαφορά στην πράξη. Τηρείτε ένα αρχείο των δραστηριοτήτων επεξεργασίας που περιγράφει στην πραγματικότητα τις ροές δεδομένων πίσω από κάθε μοντέλο και όχι τα τμήματα που τις κατέχουν. Αποφασίστε και καταγράψτε τη νόμιμη βάση για κάθε πράξη επεξεργασίας, συμπεριλαμβανομένης της περαιτέρω επεξεργασίας που εμπλέκεται στην εκπαίδευση, και φυλάξτε μαζί της την αξιολόγηση των έννομων συμφερόντων. Διεξάγετε την αξιολόγηση επιπτώσεων πριν από τη συγκέντρωση των δεδομένων και συμβουλευτείτε την εποπτική αρχή όπου ο υπολειπόμενος κίνδυνος παραμένει υψηλός. Συνάψτε μια συμφωνία επεξεργασίας δεδομένων με κάθε προμηθευτή που αγγίζει τα δεδομένα, συμπεριλαμβανομένων των παρόχων του μοντέλου ή της πλατφόρμας, και ελέγξτε τι επιτρέπεται να κάνουν με τα δεδομένα σας για τους δικούς τους σκοπούς. Οι απαιτήσεις ορίζονται στον οδηγό μας για τη συμφωνία επεξεργασίας δεδομένων . Και ελέγξτε πού πηγαίνουν τα δεδομένα: οι μεταφορές εκτός του Ευρωπαϊκού Οικονομικού Χώρου απαιτούν μηχανισμό μεταφοράς βάσει του Κεφαλαίου V του κανονισμού και εκτίμηση επιπτώσεων μεταφοράς, και η θέση των μεμονωμένων τρίτων χωρών μπορεί να αλλάξει.
Πάνω απ' όλα, φροντίστε ώστε τα άτομα που κατασκευάζουν τα μοντέλα και τα άτομα που αξιολογούν τον κίνδυνο να εργάζονται στο ίδιο έγγραφο. Τα θεμέλια του ίδιου του κανονισμού συνοψίζονται στην επισκόπησή μας για τον Γενικό Κανονισμό για την Προστασία Δεδομένων , και τα συγκεκριμένα ερωτήματα που εγείρονται από την εισαγωγή προσωπικών δεδομένων σε ένα σύστημα Τεχνητής Νοημοσύνης, από την αυτοματοποιημένη λήψη αποφάσεων έως τα δικαιώματα των ατόμων που επηρεάζονται, εξετάζονται στο συνοδευτικό μας άρθρο σχετικά με τον ΓΚΠΔ και την Τεχνητή Νοημοσύνη στην Ολλανδία.
Μερικές συνήθεις ερωτήσεις
Ποια νομική βάση πρέπει να χρησιμοποιήσουμε για την εκπαίδευση ενός μοντέλου Τεχνητής Νοημοσύνης;
Στα περισσότερα εμπορικά περιβάλλοντα, η απάντηση είναι τα έννομα συμφέροντα, που υποστηρίζονται από γραπτή αξιολόγηση που καλύπτει το συμφέρον, την αναγκαιότητα και την άσκηση εξισορρόπησης. Η συγκατάθεση είναι προτιμότερη όταν τα δεδομένα είναι ευαίσθητα ή η χρήση θα εξέπληττε τα ενδιαφερόμενα άτομα, αλλά πρέπει να είναι πραγματικά ελεύθερη και ανακλητή, κάτι που είναι δύσκολο να οργανωθεί για ένα σύνολο εκπαίδευσης. Η αναγκαιότητα για μια σύμβαση σχεδόν ποτέ δεν καλύπτει την ανάπτυξη μοντέλου, επειδή η εκπαίδευση δεν είναι αυτό που ζήτησε ο πελάτης. Όποιο λόγο και αν επιλέξετε, καταγράψτε τον πριν ξεκινήσει η επεξεργασία: η επιλογή μιας βάσης αναδρομικά αντιμετωπίζεται ως μηδενική βάση.
Εξακολουθεί να ισχύει ο ΓΚΠΔ εάν πρώτα ανωνυμοποιήσουμε τα δεδομένα;
Μόνο εάν η ανωνυμοποίηση λειτουργεί πραγματικά. Τα δεδομένα είναι ανώνυμα όταν η εκ νέου ταυτοποίηση δεν είναι πλέον εύλογα εφικτή για κανέναν, λαμβάνοντας υπόψη όλα τα μέσα που είναι πιθανό να χρησιμοποιηθούν και άλλα σύνολα δεδομένων που θα μπορούσαν να συνδυαστούν με αυτά. Η αφαίρεση ονομάτων, η αντικατάσταση αναγνωριστικών με hashes ή η συγκέντρωση σε μικρές ομάδες συνήθως δεν πληροί αυτό το πρότυπο και το αποτέλεσμα είναι ψευδωνυμοποιημένα δεδομένα, τα οποία εξακολουθούν να υπόκεινται πλήρως στον κανονισμό. Όταν η ανωνυμοποίηση αποτελεί τη βάση για την αντιμετώπιση ενός έργου ως εκτός πεδίου εφαρμογής, το συμπέρασμα αυτό πρέπει να δοκιμαστεί και να τεκμηριωθεί και να επανεξεταστεί κάθε φορά που αλλάζει το σύνολο δεδομένων.
Μπορούμε να βασιστούμε στην εξαίρεση της έρευνας για την επαναχρησιμοποίηση δεδομένων πελατών;
Σπάνια. Η περαιτέρω επεξεργασία για επιστημονικούς ή στατιστικούς σκοπούς αντιμετωπίζεται ως συμβατή με τον αρχικό σκοπό, αλλά η εξαίρεση αφορά την έρευνα που διεξάγεται σύμφωνα με αναγνωρισμένα μεθοδολογικά πρότυπα και υπόκειται σε διασφαλίσεις όπως η ψευδωνυμοποίηση και οι περιορισμοί πρόσβασης. Η ανάπτυξη προϊόντων ή η βελτίωση μοντέλου που πραγματοποιείται από εμπορικό μέρος προς ίδιο όφελος δεν θεωρείται έρευνα επειδή περιλαμβάνει επιστήμη δεδομένων. Εάν το κριτήριο συμβατότητας δεν πληρούται από μόνο του, χρειάζεστε μια νέα νομική βάση και, στις περισσότερες περιπτώσεις, νέες πληροφορίες για τα εμπλεκόμενα άτομα.
Τι συμβαίνει εάν κάποιος αποσύρει τη συγκατάθεσή του μετά την εκπαίδευση ενός μοντέλου
Η απόσυρση ισχύει για το μέλλον και δεν καθιστά αναδρομικά παράνομη την προηγούμενη επεξεργασία, αλλά σημαίνει ότι τα δεδομένα δεν μπορούν πλέον να χρησιμοποιηθούν σε αυτή τη βάση. Πρακτικά, αυτό απαιτεί τη δυνατότητα αφαίρεσης του ατόμου από το σύνολο εκπαίδευσης και από τα αποθετήρια χαρακτηριστικών και τα αρχεία καταγραφής, καθώς και την επανεκπαίδευση ή με άλλο τρόπο διασφάλιση ότι το μοντέλο δεν αντικατοπτρίζει πλέον τα δεδομένα αυτού του ατόμου όπου μπορεί να αποδειχθεί ότι το κάνει. Αυτός είναι ένας από τους λόγους για τους οποίους η συγκατάθεση αποτελεί δύσκολη βάση για την εκπαίδευση μοντέλων και είναι ένα ερώτημα που αξίζει να απαντηθεί στη φάση του σχεδιασμού και όχι μετά την άφιξη του πρώτου αιτήματος.
Πως Law and More μπορώ να βοηθήσω
Law and More Παρέχει συμβουλές σε ολλανδικούς και διεθνείς οργανισμούς σχετικά με την προστασία δεδομένων στην ανάλυση και την Τεχνητή Νοημοσύνη: επιλογή και τεκμηρίωση νόμιμης βάσης, διενέργεια εκτιμήσεων έννομων συμφερόντων και εκτιμήσεων επιπτώσεων, σύνταξη δηλώσεων απορρήτου και συμφωνιών επεξεργασίας που επιβιώνουν από τον έλεγχο, απάντηση στην Autoriteit Persoonsgegevens και υπεράσπιση αξιώσεων που υποβάλλονται από άτομα ή από αντιπροσωπευτικά ιδρύματα. Εάν σχεδιάζετε ένα έργο που βασίζεται σε δεδομένα ή εάν έχει ήδη επικοινωνήσει μαζί σας μια ρυθμιστική αρχή, θα χαρούμε να εξετάσουμε τον φάκελο μαζί σας.
