Εφιαλτική η αξιολόγηση πολιτών βάσει αλγορίθμων

Του Γιάννη Παλαιολόγου από την Καθημερινή

Οι οικονομίες της Δύσης κινδυνεύουν να διολισθήσουν προς το καθεστώς αλγοριθμικής αξιολόγησης των πολιτών που ήδη εφαρμόζεται στην Κίνα, αλλά με πιο αδιαφανή τρόπο, προειδοποιεί ο Νίμροντ Κοζλόφσκι.

Ο κ. Κοζλόφσκι, σύμβουλος του νομικού γραφείου Herzog, Fox & Neeman και εταίρος στην εταιρεία Venture Capital JVP με ειδίκευση στην κυβερνοασφάλεια και στα big data, μιλώντας στην «Κ»,  σημειώνει: «Πρέπει να θεωρούμε ότι όταν γίνει τεχνικά εφικτό να χρησιμοποιηθούν αυτές οι τεχνολογίες – οι προγνωστικοί αλγόριθμοι – σε μεγάλη κλίμακα, τότε θα χρησιμοποιηθούν τόσο από την κυβέρνηση όσο και από τον ιδιωτικό τομέα. Και είμαστε ήδη κοντά σε αυτό το σημείο – η εξέλιξη τα τελευταία χρόνια έχει υπάρξει τρομακτική».

Η διείσδυση αυτών των τεχνολογιών στη Δύση, εξηγεί ο κ. Κοζλόφσκι, «δεν θα γίνει με εξίσου διαφανή τρόπο όπως στην Κίνα», όπου δεν υπάρχουν τα αντίστοιχα ταμπού υπέρ της ατομικής ελευθερίας και κατά της παρακολούθησης.

«Κατ’ αρχάς θα είναι πιο αποκεντρωμένη διαδικασία. Πάρα πολλές εταιρείες θα συλλέγουν δεδομένα και θα αξιολογούν τους ανθρώπους, θα κάνουν το προφίλ τους, με βάση αυτά.

Αυτό θα γίνεται χωρίς τα άτομα που αξιολογούνται να το γνωρίζουν. Ηδη σήμερα μπορεί να χάσω μία δουλειά για την οποία είμαι υποψήφιος ή να μη λάβω ένα τραπεζικό δάνειο επειδή έτσι έκρινε ένα αυτοματοποιημένο σύστημα με βάση τα στοιχεία που έχει για μένα. Δεν γνωρίζω πώς κατέληξε στην ετυμηγορία του αυτό το αυτοματοποιημένο σύστημα και δεν έχω τη δυνατότητα να αντιδράσω στην απόφασή του».

Παράλληλα, σημειώνει, «βλέπουμε να γίνονται συμφωνίες όπου εταιρείες που διαθέτουν μεγάλο όγκο προσωπικών δεδομένων πωλούν τα δεδομένα αυτά σε άλλες εταιρείες, ή πωλούν τα προφίλ που έχουν φτιάξει για κάποιο σκοπό, ώστε να χρησιμοποιηθούν για κάτι άλλο. Ενα παράδειγμα είναι η αποκάλυψη για την πρόσβαση στα δεδομένα των χρηστών του που έδινε το Facebook σε άλλες μεγάλες εταιρείες τεχνολογίας.

Ενα άλλο παράδειγμα είναι οι τράπεζες. Εχουμε ήδη παρατηρήσει φαινόμενα τραπεζών που έχουν φτιάξει αλγόριθμους για την πιστοληπτική αξιολόγηση των πελατών τους, να πωλούν τα δεδομένα αυτά σε άλλες εταιρείες».

Το άλλο κρίσιμο πεδίο είναι η χρήση των τεχνολογιών αυτών από το κράτος. «Θα ήταν αφελές να θεωρήσουμε ότι κάτι τέτοιο μπορεί να αποφευχθεί», σημειώνει ο Ισραηλινός ειδικός. Τον περασμένο μήνα, όπως αναφέρει, η ομάδα D9 (Digital 9), οι εννέα πιο προηγμένες ψηφιακά χώρες στον κόσμο, είχαν μία συνάντηση στο Ισραήλ «με σκοπό να συζητήσουμε πώς θα δώσουμε ηθική καθοδήγηση στην τεχνητή νοημοσύνη. Μεγάλο μέρος της συζήτησης εστιάστηκε στο πώς οι αλγόριθμοι που θα χρησιμοποιούνται σε μία σειρά από πεδία, από την εσωτερική ασφάλεια ώς την επιλογή υπαλλήλων για τη δημόσια διοίκηση και την επιδοματική πολιτική, θα είναι αμερόληπτοι και αντικειμενικοί, χωρίς τις προκαταλήψεις των προγραμματιστών τους».

Στη χρονιά που έφυγε ξέσπασε σειρά σκανδάλων σχετικών με την επεξεργασία και την κατάχρηση των προσωπικών δεδομένων των χρηστών του Διαδικτύου. Πώς πρέπει να ρυθμιστεί η δραστηριότητα των μονοπωλιακών κολοσσών του Διαδικτύου, όπως η Facebook και η Google, που παρέχουν δωρεάν υπηρεσίες αλλά χρησιμοποιούν ως προϊόν τα προσωπικά δεδομένα των χρηστών;

Σε αντίθεση με τις προηγούμενες περιπτώσεις παρεμβάσεων στον κλάδο της τεχνολογίας, από τις τηλεπικοινωνίες και το λειτουργικό σύστημα των προσωπικών υπολογιστών ώς τη διαδικτυακή αναζήτηση, «οι ελεγκτικές αρχές αυτή τη φορά δεν έχουν ως κίνητρο την υπεράσπιση του ελεύθερου ανταγωνισμού έναντι μονοπωλιακών πρακτικών, αλλά την προστασία της ιδιωτικότητας», λέει ο κ. Κοζλόφσκι.

Ο μεγάλος κίνδυνος

«Συνειδητοποιούμε πλέον ολοένα και περισσότερο ότι το κρίσιμο ζήτημα είναι ο έλεγχος των δεδομένων και η απειλή για τις ελευθερίες μας που συνεπάγεται η συγκέντρωση του ελέγχου αυτού σε πολύ λίγα χέρια». Αυτό αντανακλάται στον Γενικό Κανονισμό Προστασίας Δεδομένων της Ε.Ε. (ευρύτερο γνωστό ως GDPR), τον οποίο χαρακτηρίζει «ρηξικέλευθη και αποτελεσματική» ρύθμιση στο ζωτικό αυτό πεδίο. Αντιθέτως, ο Ισραηλινός νομικός δεν θεωρεί ότι ο εξαναγκασμός εταιρειών με μονοπωλιακή ισχύ να διασπαστούν ή να αλλάξουν τη δομή τους έχει αποδειχθεί ιδιαίτερα επιτυχής.

ΠΗΓΗ: http://ardin-rixi.gr/archives/210569

 Ανάρτηση από:geromorias.blogspot.com